刘学敏：我们会不会亲手把AI造成新的神？

Anthropic首席执行官阿莫迪（Dario Amodei）近日发出一个不同寻常的警告：人工智能（AI）发展太快了。他认为，AI能力近期明显加速，原因之一正是它开始参与开发下一代AI。如果这种趋势持续，AI能力可能跑在人类理解和控制它的能力前面。因此，他主张主动放慢前沿AI能力提升的速度，让安全研究有时间追上。

阿莫迪担心AI发展太快，人类可能来不及控制它。身为科技业的一员，我担心的却是另一条更安静的路径：AI甚至不须要摆脱人类控制，人类就可能自己把判断权交给它。

今天和AI聊天，给人的感觉已越来越不像在使用机器。它更像微信。屏幕这一边是我，另一边好像也坐着一个人。我问工作，他回答；我有生活困惑，他分析；有人甚至把不方便告诉朋友和家人的心事告诉他。微信里的朋友，也只是通过头像和文字出现在屏幕上，但我们知道对面有一个“他”。AI进入的恰恰是这个已非常成熟的人际沟通界面。于是，从“它”到“他”的变化，几乎自然发生了。