跳槽昔日对手家!OpenAI前安全主管加入了Anthropic
原创
2024-05-29 11:16 星期三
财联社 周子意
①OpenAI的前首席安全研究员Jan Leike周二(5月28日)宣布,他已加入Anthropic公司;
②Anthropic是一家能与OpenAI相媲美的人工智能企业,获得了亚马逊、谷歌等公司的投资;
③就在同一日,OpenAI宣布成立新的安全顾问委员会。

财联社5月29日讯(编辑 周子意)OpenAI的前首席安全研究员Jan Leike周二(5月28日)宣布,他已加入曾经的竞争对手公司Anthropic。

Jan Leike曾是OpenAI旗下Superalignment(超级对齐)团队的安全主管。该团队成立于2023年,专注于人工智能的长期风险,其超级对齐技术旨在协助提升大模型的安全性。

5月中旬,继OpenAI联合创始人兼Superalignment首席科学家Ilya Sutskever宣布离职之后,Jan Leike也紧随其后宣布离开OpenAI。几日后,该公司便宣布解散该安全团队。

Leike直言,最近几年OpenAI已经不惜内部文化,忽视安全准则,执意高速推出“吸引眼球”的产品。

不过他也称,“离开这份工作是我做过的最艰难的事情之一,因为我们迫切需要弄清楚如何引导和控制比我们聪明得多的人工智能系统。”

加入Anthropic

在Leike辞职后半个月不到,他便已经找到了“下家”。周二,Leike在社交媒体平台X上写道,“我很高兴能加入Anthropic AI继续超级对齐任务,我的新团队将致力于可扩展的监督、从弱到强的泛化、以及自动化校准研究。”

image

Anthropic公司是人工智能企业中的“新星”,该公司得到了亚马逊的资金支持,亚马逊已承诺为该公司提供高达40亿美元的资金。除了亚马逊的投资外,该公司还获得了谷歌、Salesforce和Zoom的投资。

3月,Anthropic推出了Claude 3大模型。该公司声称,Claude 3对复杂任务表现出接近人类的理解能力,是当前最强大的大模型之一,甚至在知识水平、演绎推理和基础数学等方面,全面碾压GPT-4。

安全性担忧

在过去几个月,OpenAI技术团队中有多名人工智能安全领域的高管陆续宣布离职,其中就包括Ilya Sutskever和Jan Leike。

Jan Leike等人的离职事件强化了人们对人工智能安全性问题的讨论。

自OpenAI于2022年底推出ChatGPT以来,人工智能的安全问题在科技行业的受重视程度迅速提高。一些业内人士表示,企业在没有充分考虑潜在的社会危害的情况下,过于迅速地向公众发布强大的人工智能产品。

同在周二,OpenAI宣布成立一个新的安全和安全委员会,负责监督与公司项目和运营相关的关键安全和安保决策。该委员会由包括首席执行官萨姆·奥特曼在内的高管领导,并且进入该委员会的成员全部为该公司内部人员。

据介绍,该委员会将在接下来90天内负责评估OpenAI的安全流程和保障措施,并向公司董事会推荐关于OpenAI项目和运营的安全保障决策。

收藏
90.97W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
9.2W 人关注
4.08W 人关注