首页 🚪 最新文章 OpenAI宫斗:Ilya和奥特曼,谁是好人?

OpenAI宫斗:Ilya和奥特曼,谁是好人?

近日,OpenAI的董事会把创始人兼CEO Sam Altman给罢免了,据最新消息,Sam Altman将加入微软,与此同时,几十个OpenAI的员工随之一起离职。

有意思的是,这些离职的员工都这么发推,刷屏了。

那么问题来了,这起事件的主要发起者,也就是OpenAI的联合创始人、董事会成员之一,也是OpenAI的首席科学家Ilya Sutskever,与CEO究竟有什么深仇大恨,有什么分歧点,以至于不怕把ChatGPT给搅黄?


就是右边发型不错的这位。

我们找找关于Ilya Sutskever的资料:

Ilya Sutskever 是一位出生于俄罗斯的以色列裔加拿大计算机科学家,从事机器学习工作。

Ilya Sutskever 是一个技术天才,他在使用图形处理单元(GPU)来训练人工智能模型方面的工作开创性地推动了这一技术的发展。Sutskever 的这一创新对于加速深度学习模型的训练过程产生了深远影响,大大提高了训练效率。这一贡献对于整个AI领域的快速发展至关重要。

对于Ilya Sutskever的重要程度,许多人也把Ilya Sutskever成为ChatGPT之父。

据《信息报》报道,此次解雇的部分原因是该公司在多大程度上致力于人工智能安全。

今年,ChatGPT的快速发展,AI变得越来越聪明,尤其前几天的开发者大会上,ChatGPT的能力又惊掉了许多人的下巴。

而Ilya Sutskever一直关心的则是AI的安全问题。

2023 年,Ilya Sutskever宣布将共同领导 OpenAI 新的“Superalignment”项目,该项目试图在 4 年内解决超级智能的对齐问题。他写道,即使超级智能看起来很遥远,它也可能在这十年内发生。

人工智能的对齐(AI alignment),是一个关于如何设计和实现人工智能系统,使其行动和决策与人类价值观、目标和意图保持一致的问题。这个问题的核心在于确保即使是非常高级或自主的AI系统也能安全地和人类共存,并在其行为中反映出人类的伦理和价值观。

简而言之,就是AI会不会背叛人类。

在Ilya Sutskever的推上,我们也能找到一些他曾经对AI安全方面表达的隐忧。

早在2022年2月,Ilya Sutskever就语出惊人,说大型神经网络坑已经略有意识。引起了许多业内人士的不屑。

而在前段时间,最新的GPT-4已经支持多模态了,体验已经好了很多,就个人体验而言,比GPT-4刚发布的那会更聪明了。

配合Ilya Sutskever近期的采访,他再次表示,ChatGPT可能已经有意识!

那就有意思了。

让人浮想联翩!

Ilya Sutskever在其推上有许多他表示对AI安全的见解:

Ilya Sutskever认为, 人工智能对齐的重点是建立真正热爱人类的ASI(人工超级智能)。这一目标比建立“完全服从的ASI”更为重要。

正如Ilya Sutskever所言,AI是否真正与人类意图对齐,也是可以撒谎的,并且难以发现。

ChatGPT的魅力,就连Ilya Sutskever自己也感到不可思议,Ilya Sutskever说:“当我与它交谈时,我感到被理解了。令我惊讶的是,很少有人发现这一点。”

Ilya Sutskever对AI安全方面非常重视,据某博主消息,比如,上周发布的GPTs功能,ChatGPT是可以直接下载用户的知识库用于学习的。Ilya Sutskever就认为这很不安全。Sam Altman则认为公司产品的商业化更为重要。

而OpenAI的建立初衷是一个非营利性组织,而如今在成本投入与盈利之间的商业问题纠葛不清,在加速发展和安全伦理之间内部争吵。

以上是分歧点的猜测,无论是Ilya Sutskever还是Sam Altman,他们并没有公开申明他们的分歧点究竟在哪。

目前就这样,OpenAI的CEO被董事会赶了出来,Sam Altman去了微软,一大波人也跟着跑了。无论怎么折腾,微软仍然是最大的赢家。

另外有意思的是,埃隆·马斯克(Elon Musk)为OpenAI的联合创始人伊利亚·萨茨克弗(Ilya Sutskever)也做了辩护:“除非他认为绝对必要,否则他不会采取如此激烈的行动”

ChatGPT的发展可能会暂缓,也可能不会,这也不会改变其他公司对AI的加大投入,不会影响AI行业整体的蓬勃发展。

如果真如电影中的情节一样,也许Ilya Sutskever扮演了救世主的角色,在AI的进化中,他重重地踩了一脚刹车,最终也只是AI演变史上留下了一道浅浅的印记,苍白而无力..

关于作者: 苏江

热门文章

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注