ChatGPT类产品或干扰2024年大选?微软总裁:最担心“深度造假”
原创
2023-05-26 09:32 星期五
财联社 黄君芝
①生成式人工智能可以快速产生针对特定竞选邮件、短信或视频;
②这可以用于误导选民、冒充候选人并以前所未见的规模和速度破坏选举;
③微软总裁说,“我们必须解决深度造假的问题。我们需要采取措施。”

财联社5月26日讯(编辑 黄君芝)微软总裁布拉德·史密斯(Brad Smith)周四表示,他对人工智能最大的担忧是“深度造假”,也就是看起来逼真但内容虚假。

在华盛顿的一次演讲中,史密斯呼吁采取措施,确保人们知道照片或视频何时是真实的,何时是由人工智能生成的,这些照片或视频可能出于邪恶的目的。

“我们必须解决深度造假的问题。我们需要采取措施,防止有人篡改合法内容,意图通过使用人工智能来欺骗或欺骗人们。”他说。

近年来,专家们一直警告说,便宜而强大的人工智能工具将很快能让任何人创建逼真到足以欺骗普通人的虚假图像、视频和音频。这些工具可以在几秒钟内以最小的成本创建克隆的人类声音和超逼真的图像、视频和音频。这就难保有用心不良的人将其用于不正当的目的。

数周以来,华盛顿的立法者一直在为通过哪些法律来控制人工智能而苦苦挣扎,尽管大大小小的公司都在竞相将越来越多用途的人工智能推向市场。史密斯则呼吁对最关键的人工智能形式进行许可,“有义务保护安全、物理安全、网络安全、国家安全”。

上周,ChatGPT背后的初创公司OpenAI的首席执行官Sam Altman在首次出席国会听证会时告诉参议院的一个小组,使用人工智能干扰选举的完整性是一个“值得关注的重要领域”,并补充说这需要监管。他还呼吁在人工智能方面进行全球合作,并鼓励安全合规。

近段时间以来,AI对2024年竞选和选举的影响愈发令专家们感到不安。生成式人工智能不仅可以快速产生针对特定竞选邮件、短信或视频,而且还可以用于误导选民、冒充候选人并以前所未见的规模和速度破坏选举。

此外,史密斯还在演讲和周四发表的一篇博客文章中指出,人们需要对人工智能造成的任何问题负责,他敦促立法者确保对人工智能用于控制电网、供水和其他关键基础设施的安全刹车,以便人类继续控制。

美国国会正在考虑的一些提案将侧重于可能危及人类生命或生计的人工智能,比如医药和金融领域。其他人则在推动制定规则,以确保人工智能不被用于歧视或侵犯公民权利。

收藏
115.58W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
9.1W 人关注
1.52W 人关注
4.05W 人关注
1.27W 人关注