GPT-5引发AI安全风险担忧 马斯克挑头请愿叫停 周鸿祎唱反调是因“输不起”?
原创
2023-03-30 16:44 星期四
科创板日报记者 黄心怡
周鸿祎称,马斯克等人的请愿不影响中国发展自己的大语言模型,包括360在内的一些中国公司已经展示了自己的作品,离GPT-4的水平还有两年差距。现在担心风险为时尚早。

《科创板日报》3月30日讯(记者 黄心怡) 周鸿祎今日发布微博,对马斯克等千人请愿叫停GPT-5研发一事发表看法。

周鸿祎称,马斯克等人的请愿不影响中国发展自己的大语言模型,包括360在内的一些中国公司已经展示了自己的作品,离GPT-4的水平还有两年差距。现在担心风险为时尚早。

在ChatGPT掀起全球热潮的同时,对于AI伦理和安全风险的担忧一直存在。

商汤科技智能产业研究院院长田丰指出,AIGC热潮之下的治理挑战已引发各方“冷思考”。由于担心作弊、对学生学习的负面影响以及内容的准确性,纽约市教育部在其网络设备上禁止访问。

除教学方面,田丰提到,AIGC还引发了版权保护的讨论,以及加大网络空间内容治理挑战和网络安全风险。不法分子可能利用其生成与真实照片完全相同的假照片、虚假信息、诈骗话术,以及恶意代码带来了便利。

东华软件住云科技CPO、数字化转型专家杨晓光表示,“ChatGPT等人工智能模型给出的结果是依赖大量数据集,那么数据集生产可以被人或机构操纵,ChatGPT等完全有可能由于依赖于大量的且有偏见的数据集,给用户输出不准确有偏见甚至危险的问题答案。随着人工智能继续变得更加先进和广泛使用,这种风险必将不断增加。”

对于人类如何应对AI带来的未来安全挑战,周鸿祎称,谁也没法给出确定答案。

“我曾经想过是不是在程序里加一句暗语,比如‘天王盖地虎,宝塔镇河妖’,一提这句话,AI就能停止工作。然而现在的发展态势,已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了,哪怕是马斯克。”

但即便存在未知的挑战,周鸿祎依然坚定认为,“不发展才是最大的不安全。”

杨晓光也对《科创板日报》记者表示,此番请愿举动对人工智能的发展不会产生大的影响。

这些暂停努力都是徒劳的,就像军备竞赛,谁也不敢收手,否则就会前功尽弃,而这个风险更大。”

有业内分析指出,“矛”和“盾”相辅相成,反生成式AI技术有望伴随ChatGPT等应用实现爆发。

安信证券认为,随着深度合成和生成式AI技术的开放开源、深度合成和生成产品和服务的增多,此类内容制作的技术门槛越来越低,实现了技术的“平民化”。一旦深度合成和生成式AI技术一旦被滥用,将会造成安全风险与实质性危害,给个人、企业造成肖像、名誉等人格和财产权益损害。因此,反生成式AI的技术需求有望迎来爆发。

中信证券表示,以ChatGPT为代表的现象级爆品意味着新一轮人工智能技术将快速进入产业化,未来产业模式将是大模型叠加各种垂类和场景模型,而AI技术的持续发展也推动着与安全更多的碰撞及融合,AI赋能网络安全和AI自身安全都值得考虑。

杨晓光指出,ChatGPT等应用会带来技术上的挑战,也将产生新的机会。

“安全问题无论对于国家和个人来说都是极为重要,我们要居安思危,提高警惕、防患于未然。这将是未来数字安全领域的一个重要课题。”

有业内人士向《科创板日报》记者表示,周鸿祎跟马斯克唱反调也有在这场AI进化与竞赛中“输不起”的原因。“既然GPT是超越互联网和iPhone的发明,包括360在互联网公司与科技巨头谁敢怠慢呢?!”

收藏
89.42W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
1.27W 人关注
9105 人关注
4.04W 人关注