（原标题：当AI进攻人类）

“我对自己一生从事的工作感到有些后悔”。

这是被业界称为“AI教父”的谷歌公司副总裁杰弗里·辛顿(Geoffrey Hinton)于4月底从谷歌公司离职后所发表的言论。他之所以从谷歌离职，是因为感受到了自从ChatGPT出现后引发的大型科技公司追逐浪潮，正在对就业和整个人类构成威胁。

在他离职前几天，马斯克等上千名科技行业领袖与高管签署了联名信，呼吁暂停比ChatGPT-4更先进的版本研发。马斯克在一次采访中称，人工智能是我们最值得担忧的，他做了一个非常形象的比喻：

“如果一个蚁穴刚好在人类要修的公路上，人类会怎么做？这正像人工智能机器人在面对人类时可能做的。

杰弗里·辛顿并不是因为担心AI的威胁而从谷歌离职的第一人，在谷歌公司，甚至于在美国科技行业，因为担心AI发展威胁人类发展而离职的人，早在2016年开始涌现。

一、算法的威胁

2016年，特里斯坦·哈里斯——这位谷歌的内部道德设计师决定离职，此时的他已经意识到，Facebook、谷歌（YouTube、谷歌搜索）、推特这样的互联网科技公司为了商业利益，利用算法吸引人上瘾的产品设计，是不道德的。这已经成为：

“人类生存的一大威胁”。

他想到了对抗。实际上，特里斯坦·哈里斯任职谷歌期间，谷歌有知名的“不作恶”准则。但这一准则并没有阻挡住算法基于商业利益走向偏路。离职两年后，特里斯坦·哈里斯拉着Facebook和Google等大公司离职或在职的技术专家，建立了一个叫“人道科技中心”（Center for Humane Technology）的组织，这个组织在2018年成立，用来——

对抗硅谷互联网公司让人上瘾的设计理论。

除了特里斯坦·哈里斯，参与这个中心工作的人，还有前Facebook运营经理；苹果公司和谷歌前通讯主管林恩·福克斯；前Facebook高管戴夫·莫林；Facebook早期投资人罗杰·麦克纳米。

2017年前后，很多硅谷公司的高管，感觉到了算法操持的互联网平台，出现了道德伦理危机，纷纷离开了所在公司，2020年，网飞（Netflix）公司拍摄了一部纪录片叫《监视资本主义：智能陷阱》。片中，Pinterest 的前总经理、Facebook的前盈利总监Tim Kkendall说他担心算法操纵的世界最终导致美国内战；一个从谷歌出来的工程师，担心整个互联网产业的道德沦丧……

曾与马克·扎克伯格（Mark Zuckerberg）一起创办了Facebook的克里斯·休斯(Chris Hughes)离职后多年后，批评Facebook说，“扎克伯格是个好人。但令我感到愤怒的是，他对增长的关注导致他为了点击而牺牲了安全和道德底线”。

这样严重的担忧，是什么导致的，问题出在哪儿呢？

Tags：[db:TAG标签](398380)

转载请标注：信息网——当AI进攻人类