本文共字，预计阅读时间。

2012年，65岁的科学家杰弗里·辛顿（Geoffrey Hinton）他和他在多伦多大学的两名学生建立了一个神经网络，引起了谷歌等科技巨头的注意。一年后，他加入谷歌公司，在谷歌从事机器学习算法工作，为谷歌人工智能业务做出了很大贡献。2018年时，他和另外两位科学家一起获得了图灵奖，业内称他为“深度学习之父”。到了20223年5月，杰弗里·辛顿宣布从谷歌公司辞职，并表示：

离开是为了更自由地谈论人工智能的危险。

今年11月下旬，OpenAI公司“宫斗大戏”的策划者，主导解职公司联合创始人、CEO山姆·阿尔特曼（Sam Altman）的OpenAI科学家伊利亚·萨斯克维尔（Ilya Sutskever）就是杰弗里·辛顿的学生。几个月前，萨斯克维尔在OpenAI主导成立了一个新的研究团队叫“超级对齐”(Super alignment)，计划未来4年投入20%算力研究怎样给人工智能系统注入人类正确价值观，“AI对齐”的意思是，要求AI系统的目标要和人类的价值观与利益相一致，这个系统类似于人工智能衍生（AI-derived）的“科学家”。

这出宫斗大戏背后，就是基于对AI危险性的理念之争。

OpenAI原本是一个非营利组织，2015年刚成立时，马斯克曾投资它，当时寄希望于它降低人类未来的生存危害与风险。推动OpenAI这种非营利组织建立的，是硅谷近些年来有名的“有效利他主义”运动，他们试图给AI注入正确的人类价值观，推动人类进入一个黄金时代。

“有效利他主义”运动兴起于2003年左右，由牛津大学的一些哲学家发起。2014年在硅谷的人工智能群体中引发共鸣。

自2015年以来，这家支持“有效利他主义”事业的非营利组织Open Philanthropy已向人工智能相关事业捐赠3.27亿美元，其中向OpenAI捐赠了3000万美元。科技届包括Facebook 联合创始人Dustin Moskovitz、全球第二大独角兽Stripe的CEO Patrick Collison等等，都是有效利他主义运动的参与者。

早期的OpenAI是会公开其训练数据和源代码的，阿尔特曼接任CEO后就不再这样做，于是，他被人拿来和“原子弹之父”奥本海默相提并论，被人叫“死神之父”，是因为人们认为ChatGPT所引发的人工智能狂潮会毁灭人类。

马斯克今年曾批评说：“OpenAI 是作为一家开源、非营利公司而创建的，目的是对谷歌进行制衡，但现在它已经成为一个闭源的、由微软实际控制的营利公司。”

今年3月，马斯克还与千名AI专家、科学家签署联名信，呼吁暂停训练比GPT-4更强大的人工智能。

11月17日，阿尔特曼被宣布开除，就是因为他和董事会成员海伦·托纳（Helen Toner）、首席科学家萨斯克维尔有巨大的理念冲突，冲突大致可以总结为，这两人都是有效利他主义的支持者，对阿尔特曼在AI安全性上的做法不满。虽然阿尔特曼也认为AI存在巨大的风险，但同时又觉得有效利他主义存在很大的漏洞，同时认为他们的做法非常教条主义，阻碍了AI 的发展。由于“有效利他主义”运动的支持者在OpenAI董事会占了上风，阿尔特曼才在那次投票中被解职。

阿尔特曼和一众硅谷的批评者所认为的“漏洞“在于有效利他主义过于强调个人责任和行动，而容易忽略社会结构和制度对实现公益和福祉的影响。在实践中，单纯依赖个人的力量和行动往往难以解决复杂的社会问题，而需要更广泛的社会参与和制度改革，以及通过在市场长期应用过程中进行检验，而不是单纯的个人或某个群体觉得怎样对社会有利，就怎样做。

总而言之，有效利他主义的主张就是最初OpenAI成立之初所做的那样，开源、免费、去中心化。而阿尔特曼的主张就是像他后来转向微软时所做的那样：闭源，营利，公司化。

从行为上来看，如果说AI是火，有效利他主义者是想把火关在炉子里，让它可以免费开放给大众做饭的人，而阿尔特曼是想把炉子搬到微软家里，并用它一边开饭馆，一边检验火的安全性。

我们可以将有效利他主义者和阿尔特曼的分歧总结为，有效利他主义者信奉严格的规则、精心的布局去限制AI发展的风险，而阿尔特曼信奉以市场规律来驯化AI更好得为人类所用。

“有效利他主义”想要建立更安全的人工智能系统将人类的价值观注入AI。

但批评它的人认为，具体实施有个难题，在如此繁复的代码和算法面前怎样注入？就像怎么做到在无数的米粒上每颗都刻上字。

虚拟货币交易所FTX的创始人Sam Bankman-Fried（SBF）也是有效利他主义者。后来他被控金融诈骗。他一直宣传“最快的方式赚钱旨来尽可能的帮助他人”。

他的行为，被批评者认为和有效利他主义者的做法、理念惊人的一致，即认为要不择手段控制AI注入人类价值观，即像他说做的那样：偷窃和牺牲一部分人的利益，来满足他所构想的社会性目标。

在这一点上，一些学者质疑该理念是否真正能够实现公益和福祉的最大化，因为他们认为人类价值观和道德判断是复杂且多元化的，难以制定一套普遍适用的原则和方法，也有人认为有效利他主义可能忽略了个人的内心体验和道德判断的重要性。

目前两方是各有各的道理，而我们需要的就是在辩论中一探究竟，理不辨不明嘛。

像“有效利他主义”运动，在硅谷已经进行了许多次。

2016年，麻省理工学院（MIT）的研究生乔伊·布兰维尼创办了一个叫“算法正义联盟（Algorithmic Justice League）”的公司，来对抗算法偏见，他们倡导创造更具有包容性的代码，并且运用有包容性的编程实践。

2018年前后，硅谷曾经刮起一阵“对抗科技公司通过算法设计产品致使用户上瘾“的旋风，包括谷歌和Facebook公司的一些高管先后离职，成立“人道科技中心”（Center for Humane Technology）的组织，来对抗硅谷互联网公司让人上瘾的设计理论。它的主导者特里斯坦·哈里斯曾是谷歌公司的道德设计师。

我们需要多来些这样的对抗精神。

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文版权归原作者所有，如有侵权，请联系删除。首图来自图虫创意。