高阶AI发展极速 各界担忧人类被其控制
The Epoch Times
ChatGPT的出现使人工智能(AI)如火箭般快速发展,并已广泛进入人们的生活。对此,许多人开始担心:人类或被超智能的AI主宰。马斯克等科技巨头日前也公开呼吁暂停ChatGPT的开发。
去年,Open AI使用GPT-3.5模组训练出的ChatGPT,获得许多人的好评和青睐,并被大量应用到生活中。大科技公司看到商机,争相发展自家的AI或利用ChatGPT的应用程式介面(API)发展自家产品。例如,微软用自己的搜索引擎Bing结合ChatGPT,推出全新的搜索引擎“普罗米修斯”。
然而,大科技公司竞相开发AI的作法,也让整个社会感到不安,不管是科学家、企业家,还是普通人,都担忧毫无节制的开发AI,最终会出现AI不受控和毁灭人类的问题。
3月30日,马斯克、苹果共同创办人沃兹尼亚克(Steve Wozniak),以及Stability AI执行长莫斯塔克(Emad Mostaque)等科技巨头在非营利组织“生命未来研究所”(Future of Life Institute),共同发布了一封呼吁暂停高阶AI(ChatGPT)研发6个月的公开信,目前有近13,000人连署。
信中在开头强调,“最近几个月AI实验室以开发和部署更强大的数字思维为目标,并陷入了一场失控的竞赛,但没有人(创造者)能理解、预测或去控制整个局面”,“AI最终可能超越我们,并取代我们的思维,最终失去人类的文明”。
该封信的连署者凯文‧巴拉戈纳(Kevin Baragona)在4月1日把“超级AI”的出现比喻成原子弹,并说“超级AI为软件中的核武器”。
巴拉戈纳表示,“人们正在争论是否继续开发超级AI。这问题就像黑猩猩与人类之间的战争,人类一方最终会获胜,因为人类比黑猩猩更加聪明和拥有先进技术。不过,当我们成为黑猩猩的一方时,那么AI将毁灭或奴役我们。”
马斯克也曾表示,AI远比核弹头危险,需要更多的监管才能避免人类出现灭顶之灾。
OpenAI的CEO山姆‧阿尔特曼(Sam Altman)承认,“尽管AI可能是人类最伟大的技术,但我们必须小心,因为AI技术将重塑我们已知的社会,这让我有点害怕和感觉到危险。”