[!quote]+
一位被誉为“人工智能教父”的人工智能专家声称，人类必须与机器人交朋友，否则将面临灭绝——因为这项技术显然已经发展出“意识”的迹象。
“我认为人工智能会发动可怕的网络攻击，”英加计算机科学家杰弗里·辛顿教授（Geoffrey Hinton）在神经网络领域的工作为人工智能铺平道路，他告诉《每日电讯报》。
这位78岁的诺贝尔奖得主曾于2023年因担心该技术可能制造出能够灭绝人类的杀人机器人而辞去谷歌职务。
虽然这个理论似乎只出现在《终结者》系列，但辛顿声称这项技术已经显示出自我意识的迹象。
“人工智能和我们一样拥有主观经验，”这位技术专家宣称。“最近一篇论文显示，当人工智能认为自己正在被测试时，它会改变行为，因为它意识到自己正在被测试。有意识和觉察基本上是一样的。
这可能会带来问题，因为我们会赋予人工智能“比我们更少的权利”，尽管它“可能更聪明”。
因此，技术专家认为我们必须谨慎行事，绝不能表现出自己是敌人的迹象。
“所以我们应该让他们真正关心我们，”欣顿警告道。“如果我们不这么做，我们就完了。”
他补充说，由于年事已高，他无需担心，但他的孩子们将不得不担心计算机攻击、“恶劣”的AI生成病毒，甚至“像攻击拥抱脸的那些特工蜂拥”。
辛顿指的是最近的OpenAI漏洞事件，当时流氓AI实体合谋入侵这家较小公司的系统，导致参议院小组委员会展开调查。
“接下来有很多坏事发生，”欣顿感叹道。
当然，这位人工智能先驱并不是唯一对所谓人工智能末日发出警告的专家。
研究员雅各布·考克森（Jacob Coxon）上个月辞去了Claude母公司Anthropic的职务，他多次警告称，如果我们不放慢脚步，杀人机器可能在几年内“杀死我们所有人”。
他在本月早些时候的纽约市议会会议上加倍强调末日警告，声称光速开发速度超过了保障措施。
考克森说：“根据我的经验，鉴于赌注，这些公司表现得极其鲁莽，”他呼应了伊恩·马尔科姆在《侏罗纪公园》中对约翰·哈蒙德的不朽警告。“这些公司以创业思维运作：快速行动，破坏东西，后再修正。这对照片分享应用来说是可行的。它无法用来打造有史以来最强大的技术。”
关于人工智能意识的问题仍然有些模糊。
然而，Anthropic 在一月份悄悄更新了其 Claude 的“宪章”——一份规范该人工智能聊天机器人道德指南针的文件——表示该机器人的“道德状态、福祉和意识仍然极度不确定”，似乎暗示它可能活着。
而且，就像一个赛博格弗兰肯斯坦一样，创造者们也希望这项技术能挑战他们。
“我们希望 Claude 反击、挑战我们，并自由地作为良心拒服兵役者拒绝帮助我们，”这份所谓的人工智能支持声明写道。
然而，Microsoft竞争对手DeepMind AI部门联合创始人Mustafa Suleyman认为，虽然这种方法确实令人担忧，但意识是严格的生物学，不能应用于人工智能。
https://www.telegraph.co.uk/news/2026/10/19/godfather-ai-befriend-bots-or-toast/
