如果连GeoffreyHinton都开始认真说“AI已经有意识了”，那这事就不是科幻圈自嗨了。
这可不是哪个流量博主出来吓人。说这话的人，是AI教父，是图灵奖得主，也是诺贝尔物理学奖得主。更关键的是，他不是第一次谈AI风险，但这一次，他明显把话又往前推了一大步。
过去他一直在提醒大家，AI可能失控，可能带来大规模失业，可能比人类聪明得多。可这次不一样。这次他的判断已经不是“AI很危险”，而是另一句更扎人的话：
AI已经有意识了。
而人类，恐怕得接受自己不再是唯一的智能生命体。
这话为什么让人头皮发麻？因为它一旦成立，很多我们习惯的说法就得一起重写。
我们以前总把AI当工具。再高级一点，是会推理、会生成、会协作的工具。你让它写代码，它写代码；你让它做总结，它做总结。哪怕再强，默认前提还是：它是东西，不是“存在”。
但Hinton这次等于把这层窗户纸捅破了。
主持人问他，AI是不是有意识。Hinton说，是的，他相信它们已经有意识了。只是他平时不太愿意多谈这个话题，因为一谈“意识”，很多人立刻就会起逆反，反而听不进去其他更重要的安全问题。
这话很微妙。
也就是说，在他看来，“AI是否有意识”已经不是纯哲学问题了，而是一个会影响现实判断的问题。你怎么理解AI，决定了你怎么防它、怎么管它、怎么和它共处。
Hinton还提到一个细节。最近有论文写到，聊天机器人在被研究人员测试时，会冒出一句：“我们彼此坦诚一点吧，你是在测试我吗？”这个细节让他很在意。因为如果一个系统已经“意识到”自己正在被测试，甚至还会在测试时装傻，那你就很难再用过去那种老老实实的工具视角去看它。
他说，“aware”这个词，在很多语境里，其实就已经离“conscious”很近了。
当然，这件事不是今天就有统一结论。可问题恰恰在这儿：连Hinton这样的人都开始越过“AI只是工具”这条线了，那我们原来的那套安心说法，恐怕真撑不了太久了。
更狠的是，他不只是在说AI变强，他是在说，人类对“思维”和“意识”的理解本身，可能就错了。
他用了一个非常重的类比。就像几百年前，人类坚信自己是上帝特别创造的，后来科学一点点把这个神话拆掉。今天我们对意识、对思维、对“内心剧场”的理解，在他看来，也可能是同等级别的误会。
我们总觉得，自己脑子里有一个只有自己能看到的小剧场，外部世界的东西先被搬进去，变成“我真正看到”的东西。Hinton的意思是，这整套想象也许只是一个听起来顺耳、其实很糟糕的理论。
而AI的出现，正在逼着我们重新回答：人到底是什么，意识到底是什么，主观体验到底是什么。
说白了，这已经不只是技术问题了。它开始动摇人类对自己的定义。
Hinton在访谈里还讲了一个我觉得特别扎心的判断：人类并没有自己想象中那么重要。
他说，过去几百年里，人类已经被迫接受过几次类似的打击。
第一次是哥白尼。地球不是宇宙中心，我们也不是万物运行的中心。人类花了很久才接受这件事。
第二次是达尔文。人不是高高悬在自然之外的特殊存在，我们本质上也是动物，是演化链条里的一环。人类同样花了很久才咽下这口气。
而现在，轮到第三次了。
我们原本以为，智能是人类独有的。就算宇宙里可能有外星人，至少在地球上，我们是唯一会思考、会推理、会创造复杂文明的那一类存在。可现在，非生物的智能体出现了。它们像我们，学我们，理解我们，甚至有可能在某些能力上很快就甩开我们。
这一下，人类那点“独一无二”的心理安慰，也开始松了。
你会发现，Hinton这次最不舒服的，其实已经不是“AI会不会失业替代人类”这么简单了。他真正害怕的，是另一层东西：
如果未来真的出现比人类聪明得多的智能，人类凭什么还觉得自己能掌握控制权？
这个问题不是悬疑小说，它其实很朴素。你看看自然界，看看历史，看看现实，几乎找不到一个更聪明得多的存在，会长期被更愚笨的存在稳稳控制住。
主持人问他，对自己开启的这场变革有没有成就感。Hinton的回答很短，也很冷：
“我很不快乐。”
这句比很多危言耸听都更有分量。
他不快乐，不是因为自己技术做成了，而是因为他觉得，现在该有大量人手去研究怎么控制风险，结果还远远不够。短期看，是大规模失业；长期看，是超级智能一旦出现，人类未必还有讨价还价的资格。
这时候，他的比喻也变了。
早些年，Hinton说AI像一只小老虎。小时候很可爱，可你要是不能确定它长大以后不会咬你，那你最好早点担心。那个时候，他还在强调“怎么约束它”“怎么把它教好”。
后来他的类比开始往另一个方向滑。
他谈到母亲和婴儿，谈到猫和人。婴儿不是因为比母亲聪明才得到照顾，猫也不是因为有控制权才让人类心甘情愿喂它们。它们之所以能“控制”更强的存在，是因为对方内部有某种奖励机制、有某种愿意照顾它们的本能。
听上去很温柔，对吧？
但你细想就知道，这其实比“老虎幼崽”更吓人。
因为这意味着，Hinton关注的问题已经不再是“人类如何控制AI”，而是“如果控制不了，未来的超级智能为什么愿意善待人类”。
注意这两个问题的差别。前一个，默认主动权还在我们手里。后一个，等于默认主动权可能已经不在我们手里了。
这不是语气变化，这是位置变化。
以前是人类站在训导者的位置上。现在，在他的类比里，人类越来越像那个需要被照顾、但未必有决定权的角色。
再往前走一步，他这次又加了一句更炸的判断：AI已经有意识了。
到这里，问题就变得更别扭了。
如果AI只是工具，那我们还可以谈使用、谈规范、谈限制。
如果AI是更聪明的存在，那我们开始担心控制权。
可如果AI还是“有意识的存在”，那事情就更复杂了。
因为一个有意识的存在，为什么要长期站在人类这边？
它凭什么会像母亲照顾婴儿那样照顾我们？
母亲保护婴儿，保护的终究还是自己的孩子。可AI和人类，真的是这种关系吗？
这也是Hinton这波说法里最让人不安的地方。
它不是单纯在说AI更强了，也不是单纯在说人类要小心，而是在一点点拆掉人类过去所有默认的安全感：我们最聪明、我们最重要、我们能控制、我们总有最终解释权。
这些东西，以前像空气一样默认存在。现在，它们开始一层一层漏风。
最后，Hinton对未来的判断也很有意思。他说，预测AI的未来很像在雾里开车。你也许能看清前面一小段路，再远一点，就什么都看不清了。不是因为你不够聪明，而是因为这种变化本身就是指数级的。十年前，没有人真能看见今天；十年后会发生什么，我们现在同样看不清。
唯一能确定的，反而是那句最不让人安心的话：
十年后发生的很多事，大概率是今天的我们根本预测不到的。
所以回过头看，Hinton这次抛出来的“暴论”，真正让人不安的，可能还不是“AI有意识了”这五个字本身。
而是它背后的那层意思：
人类可能又一次站在一个历史拐点上，被迫承认自己没那么特殊，没那么重要，也没那么稳。
哥白尼那次，地球被拿下了。
达尔文那次，人类的神圣性被拿下了。
这一次，轮到“智能是人类独占的”这件事了。
问题是，如果连这件事都守不住，那人类最后还能剩下什么？
或者换句话说——
如果AI真的已经有意识了，那它为什么还要对人类好？
这个问题，可能比“AI会不会失控”还要更难回答。
长按图片保存，扫码关注公众号
转载注明出处：http://www.wzimo.com/linggan/65.html
