2023 年生成式 AI 元年：人工智能领域大事及对生活的影响

aizixun8

点击上方“CCTV4”关注我们！

人工智能，又称AI，是模拟、延伸和扩展人类智能的技术。刚刚过去的2023年，人工智能生成的大量文本、图像和视频主导了互联网。因此，很多人将2023年称为“生成式AI元年”。中国国家语言资源监测研究中心发布的2023年“十大新词”中，“生成式人工智能”位列第一。近日，最强视频生成模型Sora官宣，引发社会广泛关注和热议。那么人工智能领域正在发生哪些重大事件呢？它给我们的生活带来了哪些改变？

2022年11月，一家美国公司推出的一款名为“”的聊天机器人诞生了。仅仅两个月后，.5 的月活跃用户突破 1 亿，成为历史上增长最快的消费应用。

微软首席执行官萨蒂亚·纳德拉

这是我以前从未见过的技术扩散，这简直就是工业革命。

我是，公司训练的大语言模型，能够理解、生成文本并回答各种问题，还能生成创意写作和文本摘要。

这是它连接语音软件后所做的自我介绍。简而言之，人工智能让机器学习人类智能并像人类一样做出智能反应。语言模型AI可以通过对互联网上自然语言数据的自主学习来不断强化和升级。

杨耀东 北京大学人工智能研究院人工智能安全与治理中心执行主任

AI语言模型的特点之一就是给它喂食大量互联网上的语料库。我们一生大概可以阅读10亿字的文本，但现在如果只训练一个语言模型，文本量可以达到10万亿。目前全球约有1000亿个互联网语料库。我们预计，在未来两到三年内，这个模型将能够注入世界上所有的有效语料库。这是一件非常可怕的事情。当如此多的语料库被喂养时，它对知识的记忆一定远远优于人类。

当您登录网站时，您不必考虑选择什么关键字。就像与人聊天一样，输入您的请求，就会立即得到答复。从《孙子兵法》到电视剧《三体》，从“如何解决俄罗斯和乌克兰的冲突”到“中国男足什么时候能夺得大力神杯”，你都能解答提问，就像是凭空诞生的一个“超级提问者”。

据《福布斯》网站报道，高达89%的美国学生承认在完成作业时使用过它。它甚至可以代笔总统演讲。

以色列总统赫尔佐格

女士们、先生们，我开场白的这一部分得到了公司软件的极大帮助。它是一个人工智能机器人，只需输入请求即可立即提供答案。

牛津大学的一项研究估计，到2023年，美国约47%的工作岗位面临被人工智能取代的风险。其中，秘书、程序员、律师和翻译等职业可能最先受到影响。

据《华尔街日报》报道，各种人工智能应用的高调出现，引发了另一场技术战争。

创始人奥特曼在博客中写道：未来五年，会思考的计算机程序将阅读法律文件并给出医疗建议。在接下来的十年里，他们将在装配线上工作，甚至可能成为合作伙伴。在此后的几十年里，他们几乎可以做任何事情，包括做出新的科学发现，从而扩展我们“万物（）”的概念……

人工智能在给人类带来便利的同时，也带来了新的风险和挑战。

2023年3月18日，美国前总统特朗普在其“真实社交”网站上写道，他预计将在三天内被捕，并要求他的支持者准备看他被捕的照片。没想到，在这一幕现实发生之前，人工智能合成的“特朗普被捕”假照片就广为流传。当然，特朗普并不是唯一引人注目的主角。各种图片、照片广为流传，让网友真假难辨。

AI生成的美国前总统特朗普“说普通话”的视频

“汽车工人将没有工作，因为所有汽车都将在中国制造。”

大多数发布此类视频的用户都使用名为的应用程序。用户只需提交符合要求的初始视频，视频即可一键翻译，使用自然的克隆声音和地道的说话风格。

随着人工智能技术的不断发展和变革，人工智能技术的滥用存在于人们的日常生活中。

人工智能的发展也给社会上的犯罪分子带来了可乘之机。有专家认为，擅自使用他人图像进行AI合成，可能会侵犯他人的肖像权、名誉权、隐私权等。此外，AI合成技术降低了制作虚假视频的门槛，这也可能给不法分子带来可乘之机。利用它们炮制、传播虚假信息和实施欺诈的机会。

据统计，过去一年美国的人工智能欺诈事件同比增长超过50%。美国联邦调查局2023年3月发布的相关报告显示，2022年美国网络诈骗造成的损失达103亿美元，创五年来新高，而针对老年人的AI语音诈骗是重灾区。

记者进行了实地实验，利用AI合成语音向同事借钱。

AI合成语音：您好，我忘记带我们公司卡了。我可以借你的卡吗？我必须付一笔钱。

同事：好的，我现在就把钱包拿出来。

AI合成语音：非常感谢，我稍后再给您打电话。

同事：我以前很自豪。我从来没有被这样愚弄过。

首席执行官马斯克

我们需要特别注意的是，如果机器人可以到处跟着你，万一有一天它们软件更新了，不再那么友好了怎么办？然后将会有一部真实的詹姆斯·卡梅隆电影。

在詹姆斯·卡梅隆执导、施瓦辛格主演的《终结者》系列电影中，过度发达的人工智能系统对人类世界发起反抗和攻击。这种威胁不仅体现在机器人强大的力量和智能上，还体现在它对人类生命的漠视和无情。

美国新闻主播

人工智能可以在 2024 年的选举中发挥重要作用。技术专家警告说，这可能会改变竞选格局，模糊真相与谎言之间的界限。

2024年是全球“选举年”。拥有全球一半人口的 50 多个国家将于 2024 年举行选举。美国公共广播公司关切地指出，生成式 AI 不仅可以快速生成有针对性的竞选电子邮件、文本或视频，还可以用于误导选民、冒充候选人、诽谤候选人，甚至煽动暴力。

2023年11月，阿根廷总统选举正如火如荼地进行，在众多媒体眼中，这次选举成为了人工智能的试验场。两位候选人的支持者利用人工智能技术修改现有图像和视频，创建符合自己喜好的候选人倾向性图像。

米利的竞选口号是“我不是来领导羔羊的，我是来唤醒狮子的”。一个名为“马萨为祖国而战”的非官方账号发布了一张人工智能生成的米莱对手马萨骑着狮子的照片，标题为“驯服”。

美国智库兰德公司从信息传播的角度将AI滥用大致分为四类：除了上述实验中使用的语音克隆外，还有生成文本、深度造假图片和深度造假视频。

不久前，一段民主党人希拉里支持共和党总统候选人德桑蒂斯的视频在网上疯传。这一神奇的场景让很多美国网友感到困惑。

美国网络安全专家克里斯·克雷布斯

生成这种内容非常容易，这就是所谓的20秒规则：只需要一个人的声纹20秒就可以生成这种内容。

刘冲 中国现代国际关系研究院国际安全研究所所长

人工智能时代之前我们常说的就是一开口就造谣。辟谣需要做很多工作。你必须核实事实并收集数据。当你检查时，热点已经过去了。因此，这种基于生成人工智能的低成本、快速处理视频和图像的方式仍然会对我们的政治和社会生活产生深远的影响。

进入2024年，加沙地带上空的战争阴云依然没有消散的迹象。加沙地带密集且隐蔽的军事据点一直是以色列军队面临的难题。在以往的军事行动中，以军曾表示，由于哈马斯人员会在以军攻击前消失在地道中，以色列空军经常面临无目标可打击的情况。为了解决这个问题，以色列也将目光转向了AI。

2023年11月，以色列国防军在一份声明中表示，正在利用人工智能系统在加沙地带的军事行动中“快速生成目标”，从每年50个增加到每天100个。 AI系统的使用让以色列军队寻找攻击目标的效率提高了数百倍，加沙地带的伤亡人数也随着攻击目标的增加而迅速增加。有趣的是，这个AI系统被命名为“福音”。

然而，“福音”系统使用哪些数据来生成目标仍然是个谜。英国《卫报》援引技术专家的话说，这种基于人工智能的目标决策支持系统通常会分析从无人机镜头、截获的通信、监视数据等获得的信息。外界最担心的问题是，目标是哪些？基于AI系统生成的数据真的准确吗？

人工智能研究员古德弗兰德

“福音”系统诞生时，据说是最先进的人工智能系统之一，可以让以色列国防军快速瞄准大量目标。士兵们称其为大规模暗杀机器，这意味着它不仅针对军事设施，还轰炸平民住宅。

据新闻媒体+972杂志调查，以色列采用“福音”制度选择轰炸目标，重数量轻质量。

《+972杂志》耶路撒冷记者亚伯拉罕

这是一项对军事目标定义非常宽松的战争政策，并且还攻击民用设施中的人员。

半岛电视台新闻报道

有报道称，为了杀死一名哈马斯战士，整个住宅楼都遭到轰炸。

然而，更令人担忧的是，由于这种新兴技术在战场上的应用性质难以界定，因此很难阻止这种行为。

刘冲 中国现代国际关系研究院国际安全研究所所长

严格来说，就以色列而言，AI是用来辅助选择攻击目标的。那么这是致命性自主武器的典型应用吗？这并不容易说。从国际法原则的角度来看，我们现在倾向于更加关注国际伦理问题。如果是一款完全自主的智能武器，本来是为了打击军事目标，却误伤了平民，这个责任该由谁来承担呢？您是算法研究员吗？还是下令使用无人自主武器的指挥官？国际法确实存在漏洞和模糊性。

这个模糊的空白领域，在一些国家眼中却成为机遇。

英国智库发布的一份报告指出，虽然公众对人工智能兴趣的激增主要是由于生成式人工智能，但许多军队已经将注意力集中在人工智能在战场上的未来应用，特别是那些能够深度学习的应用。自主武器系统。

尽管早在2019年的联合国会议上，不少发展中国家代表就支持全面禁止或严格监管基于人工智能的致命性自主武器系统，但美国、英国、以色列等国却明确表示反对。

2023年8月，美国五角大楼宣布成立生成式人工智能工作组，将在整个美国国防部发挥分析和整合生成式人工智能工具的作用。美国政治体系中的“旋转门”也为AI产业在过去政界、商界、军界的轮换中打开了空间。一群硅谷精英突然成为五角大楼的顾问。