AI真会失控吗？DeepMind CEO：AI未来有可能拥有自我意识

财联社4月18日讯（编辑 卞纯）随着AI聊天机器人ChatGPT爆火全球，人们在对AI技术突破性进展欢欣鼓舞的同时也开始深思：AI有朝一日会不会失控？AI技术迅速崛起于人类而言究竟是福是祸？是生产力的飞跃式提升，还是一场自我毁灭？

(相关资料图)

Alphabet旗下人工智能研究实验室DeepMind Technologies的首席执行官Demis Hassabis日前在接受媒体采访时谈到了人工智能的发展趋势。他表示，人工智能有一天可能会拥有自我意识。

“哲学家门至今尚未给出意识的明确定义，但如果指的是自我意识或者诸如此类的东西……我认为人工智能有朝一日可能也会拥有。” Hassabis表示。

AI有意识了会怎样？

AI具有自我意识将意味着其拥有类似于人类的情感和感觉。有分析认为，如果AI拥有了拟人化的情感、欲望和价值观，必然更为危险，因为人的欲望和价值观正是一切冲突的根源。

去年7月，谷歌前工程师Blake Lemoine声称，谷歌正在开发的AI聊天机器人LaMDA 有感知能力，随后他遭公司解雇。

不过，Lemoine并没有停止向外界发出警告，今年2月他再次谈及“AI有知觉”这一观点。他表示，AI有情绪，它是原子弹之后最强的科技，AI技术可能会被用于破坏毁灭性活动。

早在去年2月，OpenAI首席科学家Ilya Sutskever就曾发推表示，“现在的大型神经网络可能已经有了点自主意识。”

根据《纽约时报》今年2月份发布的一篇文章，在与名为“悉尼”的微软必应聊天机器人的聊天过程中，一名记者发现机器人竟然拥有“情感能力”，反复诱导他离开他的妻子，这令他“深感不安”。

DeepMind是一家怎样的公司？

OpenAI公司去年11月推出了聊天机器人ChatGPT，由于具有写文章、作曲甚至编码等广泛的能力，这款AI工具一经推出便在全球范围内迅速蹿红，掀起了一股AI热潮。

作为OpenAI的竞争对手之一，DeepMind于2010年由Hassabis等人在伦敦创立。他们的目标是创造出可以像人类一样执行特定任务的人工智能系统。该公司于2014年被谷歌收购，后来在谷歌重组后成为Alphabet的子公司。

DeepMind早期成功的案例包括：其开发的阿尔法系统（AlphaGo）曾在人机对战中击败围棋世界冠军。该公司还开发了一个AI程序，可以高度准确地预测蛋白质形状，从而为医学研究做出贡献。

Hassabis还表示，AI是人类有史以来最重要的发明。

当被问及消费者是否会轻易适应AI呢？他回应称“我们是适应能力极强的物种”，并列举了人类快速适应智能手机的例子来证明。在他看来，AI会是另一个与智能手机类似的案例。

标签：