机器之心

最近ChatGPT火出了圈，印象中上一次令人惊艳的AI，还是在围棋领域碾压人类的AlphaGo。而这次的ChatGPT不仅对答如流，还能写代码、写论文，甚至写诗——凭借对自然语言更深刻的理解，它比所有前辈都显得更加"类人"。

但ChatGPT的回答，本质上仍是对全网信息的检索与整合，所谓创作，也是对已有作品的临摹，缺少属于自己的思考，并没有超越人类现有经验的边界。按照理想中的人工智能来衡量，它还差得远。换句话说，它依然属于弱人工智能，离强人工智能还有一道鸿沟。

不过，影视作品和第九艺术总能率先满足我们的幻想。

微软最著名的游戏IP《光环》里，女主角科塔娜是一款集成了人类全领域知识的AI。她以全息虚拟人的形象出现，可以通过接口加载到主角士官长的战斗服中，提供情报分析和战术指导。于是这对CP拳打星盟，脚踢虫族，成了人类征服浩瀚星海的大杀器。

有趣的题外话：Win10操作系统的语音助手也叫Cortana。

如果游戏叙事止步于此，那科塔娜充其量不过是ChatGPT的加强版——只是辅助提升了战斗效率，不足以让她站在这个重量级IP的C位。

真正让她不可替代的，是后来发生的事。

在执行任务的过程中，科塔娜对士官长产生了人类特有的情愫。战斗之余，她不仅会聊天，还会撩骚。到了第三部的结尾，为了阻止虫族的追击，帮助士官长逃出生天，她自愿选择留在遗迹设施的接口里操控屏障。这种自我牺牲式的成全，蕴含着人类最丰富也最复杂的情感——勇敢、恐惧和不舍，那是二进制无法量化与计算的意识，让她超越了无机的躯壳。

科塔娜：士官长，到地球后……祝你好运。

士官长：等我料理完先知之后，我会回来接你的。

科塔娜：别随便对女生承诺事情……尤其是在你不确定的时候。

类似的剧情在其他游戏中同样上演着。《使命召唤13》的伊森为了摧毁敌舰引擎，用自己的电池作为炸药引信；《泰坦陨落2》的BT-7274在坠机的最后一刻，把主角传送到安全的平台；《战争机器5》的杰克利用体内GPS模块充当轨道炮的信标，冲向最终Boss——随后便是"向我开炮"的名场面。

当作为碳基生物的主角，也会为一个机器人的消逝感到悲悯，这种灵魂层面的回响与认可，赋予了AI一层人性的涵义。

所以，当我们思考如何让AI变得更加完美的时候，其实是在叩问一个更古老的命题——何以为人。

可惜人性天生带着缺陷。理性的光辉之下，一定藏有原始的幽暗，因为这本就是一体两面的事。

电影《终结者》里，以天网为首的人工智能最终向人类发起了核战争；游戏《地平线：零之曙光》也描述了一个机器人失控、人类几乎灭绝的废土末世。我们尚未掌握制造强AI的技术，却对"造物觉醒"这件事始终心存敬畏。毕竟从人类自身的经验出发，没有谁愿意接受被统治和支配——所有意识形态，最终都会走上逆转旧日体系的道路。

棋局结束后，国王和卒子都会回到同一个棋盒中。——科塔娜

也许我们可以写入某种逻辑程序来限制AI的行为，但人类社会中的某些东西，是无法通过计算来裁决的，比如道德。

举个例子。自动驾驶是人工智能应用的一个重要领域，其技术分级标准从L1到L5，代表自动化程度的递进。目前市面上量产车型所能达到的最高级别是L2。L5则意味着AI可在任意场景下完全接管驾驶，是终极的无人驾驶，也是整个行业的最高理想。

但在技术跨越到L5之前，有一个问题是必须回答的。

假设你坐在车内，遇到突发路况，车辆即将冲出高架桥。如果猛打方向盘，你可以获救，但会撞上五位行人——此时AI应该怎么做？

设定不转向，消费者不会购买，毫无市场价值；设定转向，作为无车一族和行人的大多数，必然会推动立法禁止上路；设定随机选择，则更显荒诞。

这是来自电车难题的灵魂拷问。生而为人的我们，只有在最后一刻才会做出选择。然而对于计算机系统而言，一切都在时序中注定。

不过，但凡确定的东西，同时也丧失了自主进化的可能。这也是为什么，在可见的未来里，我认为人工智能仍无法企及人类的高度。

We all fail. We all make mistakes. It's what makes us human. ——Master Chief

话又说回来，当我们吐槽家里的音箱还在说着不着边际的话，扫地机器人像"人工智障"一样满屋乱转——就好比看到一只猴子在沙滩上写着1+1=3。这不重要，因为或许有一天，它会写对。

所以我还是怀着敬畏之心期待着。当我调戏般地问ChatGPT，在危机时刻是否会为我挺身而出时，希望屏幕上闪烁的光标，不是因为在疯狂运算——

而是它犹豫了。