马斯克等千余名科技领袖呼吁暂停开发更先进人工智能

包括马斯克在内的上千名技术领袖签署公开信，警告人工智能工具可能“对社会和人类构成深远风险”，并呼吁科技界暂停开发比GPT-4更强大的AI系统。

包括伊隆·马斯克在内的1000多名科技界领袖和研究人员敦促人工智能实验室暂停对最先进系统的开发，并在一封公开信中警告，AI工具“对社会和人类构成深远风险”。

这封信由非营利组织生命未来研究所在周三发表，信中说，AI开发人员“陷入了一场失控的竞赛，开发和部署越来越强大的数字思维，以至于所有人——甚至包括它们的创造者——也无法理解、预测或可靠地控制它们”。

其他署名者包括苹果联合创始人史蒂夫·沃兹尼亚克，2020年总统参选人、企业家杨安泽(Andrew Yang)，以及负责设定世界“末日时钟”的《原子科学家公报》的负责人蕾切尔·布朗森。

“这些东西正在塑造我们的世界，”长期以来批评AI系统缺陷的企业家、学者加里·马库斯在接受采访时说。“我们面临着不负责任的企业、广泛应用、监管缺失和大量未知因素引发的‘完美风暴’。”

ChatGPT、微软必应和谷歌的Bard等聊天机器人的背后都有AI，它们能够像人类一样进行对话，撰写各种主题的文章，执行诸如计算机编程等更复杂的任务。

开发更强大聊天机器人的推动力已经引发了一场竞赛，有可能决定科技行业接下来的领导者。但人们批评这些工具会在细节上出错，而且会传播虚假信息。

这封公开信呼吁暂停开发比GPT-4更强大的AI系统，该聊天机器人由OpenAI于本月推出，马斯克为该研究实验室的联合创始人。信中说，暂停开发将为人工智能系统引入“共享安全协议”提供时间。信中还说，“如果无法快速实施这样的暂停，政府应该介入并制定暂停期。”

信中说，“只有当我们确信强大的AI系统将产生积极的影响，并且风险将是可控的时候”，才应该推进开发。

“人类可以享受AI带来的繁荣未来，”信中说。“在成功创建强大的AI系统之后，我们现在可以享受一个‘AI之夏’，在这个过程中，收获回报，设计监管系统，造福所有人，并给社会一个适应的机会。”

OpenAI的首席执行官萨姆·奥尔特曼没有在这封信上签名。

马库斯和其他人认为，说服更广泛的科技界同意暂停是很困难的。但政府迅速采取行动的可能性也很小，因为立法者在监管AI方面做得很少。