AI的暗面:Sam Altman从OpenAI离职又回归的新视角

钛度号
很多时候原始设定决定结果。

图片来源@视觉中国

图片来源@视觉中国

文 | 李智勇

看到新闻说Sam Altman重回OpenAI,这暂时为这场大戏画了个句号。但此事绝对足以写入AI发展历史,所以换个视角做下解读。

当理想成为阴谋的素材

你把班级同学聚在一起吃饭都没那么容易,何况罢免公司的一号,二号人物。所以这一定是一个强组织的事,强组织的事如果没有明面的结构就必然有暗组织与暗主导。

而落到具体方法上,6个人的董事会,首席科学家Ilya就很关键,因为它是真正的一级利益相关者,它在公司里面,本来应该坚定的站在对公司有利这一面,而只要它不倒戈,那就无法罢免Sam Altman。但很不幸,这兄弟更像是个纯粹的理想主义者,不单想捍卫自己的理想,还在自认为正确的信念下积极行动。他捍卫自己理想纯粹性的行动,几乎把理想的载体(OpenAI)干稀碎。

这就是第一个暗面:但你极端化你的理想和信念的时候,你可能就是实现它的最大威胁。尤其当野心家存在的时候。

我有时候就想天才科学家是不是不要干CEO或者政治家干的事,这俩事一个太综合一个则太纯粹,实在差别太大。

从不缺席的密室谋划

也许我们到最后也不一定搞清楚,其余三位董事到底是怎么联合起来的,但显然没有它们赋予的责任那么阳光。他们号称使命是为人类负责,但其实更多考虑的恐怕是不太能说的因素,甚至都不能对OpenAI负起责任。

最终OpenAI的员工的选择其实反衬着Sam Altman并没有真的背弃自己的理想,但在这样的一个时候,暗箱运作,阴谋出手,把Sam Altman搞下去,再怎么粉饰也是野心家。这不只是对Sam Altman,而是对整个组织不利的行为,这是董事应该做的事么?

行事的方式上也明显的鬼鬼祟祟,连Greg Brockman都是被突然通知,被干成一脑袋问号。这不就是暗箱策划突然发难么!对于一个奋斗了七年多的核心团队,并且还在危机四伏的时候,突然这么来一下,中国历史上还真就和刘邦抓韩信差不多,十分神似。

这是另一个暗面:总是有堂皇的理由来粉饰某种行动,但当手段足够阴暗的时候,很难拿目的正当性来粉饰它。即使粉饰了,旁观者也一定不能相信(显然的Ilya Sutskever这个首席科学家信了,还帮着吆喝和助力)。

创过业的同学大概都知道,人脑每天带宽差不多是满的。所以Sam Altman未必不知道董事会有点够呛,但肯定没预料到会突然行动,也没预料到Ilya的倒戈。

勇于谋事,无暇谋身,结果差点没挂了。这和故事里的主角们正在踌躇满志,征战天下,然后突然被暗杀了其实差不多。

真要追究,动因其实也就那么多,在过去利益冲突远多于理念冲突,也许更富裕之后会改变这种配比,现在还不行。

自我纠错机制

Sam Altman的回归似乎应该感谢OpenAI的员工们。

董事会任命CTO Mira Murati为CEO应该是预先考虑的平稳过渡方案中很关键的一环,至少是第一步。

按正常套路如果这美女倒戈再辅助在内部收拾局面,那也许事有可为,但有意思的事大家齐刷刷不买账(90%以上员工主动站队)。大家态度很明显:你们这什么套路,我们不接受,也没得谈,要么一拍两散,要么就纠错。

这里面Greg Brockman不接受是引子,但他确实有足够动因这么做,后续的这些就相对会罕见一些。尤其是CTO Mira Murati,这可是传说中的升职加薪,人就是不干。这次阴谋不敌理想。

再深一层,这是什么概念呢?

这意味着在董事会层面纠错机制失效的情形下(有法律确保的权利机制),本来没发言权的人团结了起来,然后变成了重要力量。

这七百多人的统一组织,如果没有一定的统一认识和基础,绝对不可能。让这七百多人统一行动估计很多时候比管好一个城市都费劲,所以我们有理由相信这是自底向上的。

这种机制会非常关键,尤其当GPT5一路迭代而来的情况下。

这里确实会变成AI最大的暗面。

AI“执剑人

这事的无厘头在于,这是一个号称为人类负责的董事会做出来的事。

如前所说,这个董事会看起来不单不能为人类负责,甚至还不能为OpenAI负责。(相当于90%多人投反对票)

如此无厘头的行为最终如果追溯,动因肯定不好看。

所以碳基智能体属实不怎么靠谱。

发展下去,当AI变得足够强大,总是有那么一小波人会被选出来作为执剑人。这能靠谱么,不靠谱的话这就是最大的暗面。

(当然最基础的部分肯定是法规,但现实空间和数字空间的时间流速其实不一样,以慢制快的问题会越来越暴露的更清楚)。

所以到后面确实需要新的机制和制衡,比如开源、透明等等。

后续

后续会发生的事其实倒相对明朗一些,如果Sam Altman确实回到OpenAI,那它后面彻底崛起大概率会发生。什么商业和技术理想的平衡,在这个例子上绝对不是大障碍。乔布斯、马斯克这些人那个不是把这两者搞成了互相促进,而不是对立。

为什么这么说呢?因为一定程度上,这次波折可以看成是苦难辉煌里的苦难部分。这之后权利结构肯定会重构和再平衡,但更关键的是这会变成一个超级团队,700多个本来奇形怪状,各有主张的人,彻底的团结到一起,更加协力,再加上资金不缺和此前的先发优势,那恐怕真会一骑绝尘了。

还没完,老套故事里通常会发生的事情是Sam Altman这个角色会黑化一点,黑化的结果就是没那么信任周围的人,变的更加集权,这如果过度就会很像皇帝晚年,反倒是会对组织构成更大的伤害。但这哥们看着确实不像是这种风格。

希望不会,毕竟这世界还是需要一个领头的AI团队。毕竟在这个时间点AI不是太强,而是还弱,离一个全行业的盈亏平衡点还有几分距离。

小结

最终的结果取决于什么呢?看起来取决于原点上的价值结构。山川河岳,文化历史所汇集成的价值结构。越数字、越智能主观的这一点就越重要。

李智勇

25篇资讯

粉丝

本文系作者 李智勇 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 毫无疑问。。你的视角突显了你内心为阴暗面。。

    回复 2023.11.23 · via android
18
1
9

扫描下载App