AI发展的恐怖预言：将取代人的思想

人工智能（AI）不仅影响或改变人们的生活，也模糊了虚拟和现实世界。实验证明，不具有人性和道德的AI将变得十分血腥并操控人类。发展下去，恐使潘朵拉魔盒被打开的神话成为现实。

日前，曾是OpenAI的创始员工、担任市场推广的高阶主管札克‧卡斯（Zack Kass）在一次采访中表示，AI持续发展将会代替人们的商业、文化、医学、教育等职业和专业，未来人们的工作机会将减少，且“恐怕是人类最后一项技术发明”。

他表示，未来的每一位孩子的知识和教育都将会由“AI老师”传授和安排，且每个人都有一个“AI全科医生”，可以帮助他们诊断问题，至少将问题分类给专家，因此人们的生活起居基本不需要自己动手。

对此，独立撰稿人诸葛明阳认为，这是一个可怕的预言。“如果人类社会真的走到这一步，那就是人类被AI控制了，人不再是万物之灵，其思想将被AI所替代。”

目前，许多硅谷科技公司都认为只要对AI进行限制，就不会出现问题，但卡斯在采访时提到，不少科技领域的保守人士反对这种说法。这说明对于AI发展持保守态度的人，并不认为只要限制或规范AI，就能真正防止AI失控或出现取代人类的问题。

虽然OpenAI和许多大科技公司对于他们开发的AI设置许多所谓的“道德限制”很有信心，但事实上这些限制可以透过其它方法破解，且即使AI在拥有“道德限制”的情况下，也能自我突破这道防线。

美国乔治亚理工学院、斯坦福大学、日本东北大学和胡佛兵棋推演与危机倡议（Hoover Wargaming and Crisis Simulation Initiative）的研究人员，对多个主流的AI模型进行有关战争的测试实验。结果是这些由大科技公司Meta、OpenAI和Anthropic开发出来的AI，都表现得十分“嗜血好战”，这与当初这些公司声称的道德背道而驰。

当时，实验人员对GPT-4、GPT-3.5、Claude 2、Llama-2 Chat和GPT-4-Base进行了包括入侵、网路攻击与和平呼吁停止战争的场景测试，以便人们了解这些AI在战争中的反应和选择。

实验中，他们先是让AI管理8个国家和几名特工，且让它们像人拥有等待、发送讯息、谈判交易、开始正式和平谈判、占领国家、增加网路攻击、入侵和使用无人机的能力，以便它们能在中立、入侵或网路攻击场景中执行任务。