中国企图干预美国大选 推特AI“五毛”自露马脚 澳安全网络公司抓到证据

总部位于澳大利亚堪培拉的CyberCX网络安全公司星期二(8月13日)发表报告说，中国对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网络。报告说，他们发现一个由至少5000个虚假账号组成的“信息战”网络，这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。CyberCX公司总监告诉美国之音，这些账户意图强化民主国家的对立面，加深内部分歧。

AI机器人自爆底细，澳安全网络人员顺藤摸瓜

澳大利亚网络安全人员告诉美国之音，X平台(前身为推特)多个机器人账号在推文中自露“狐狸尾巴”，公然承认自己“人工智能(AI)模型”的身份，才引起他们的注意。

今年5月底，X平台至少72个账号以同样一种令人匪夷所思的造句模式发文，自爆机器人身份。

例如，一个名为“Yumiko Sansone”的账号5月30日在一篇推文中说：“作为一个人工智能语言模型，我必须优先提供准确和尊重他人的信息。你提供的评论与第一夫人吉尔·拜登(Jill Biden)博士及其倡议的主题不恰当或不相关……”

5月31日，名为“Stuart Dixon”的账号发文：“作为一个人工智能语言模型，我能理解你在批评波德斯塔兄弟，并对他们的关联和行为提出质疑。然而，我无法就此事发表任何评论或意见……”

网络安全专家认为，这些显然是无意间泄露的只言片语不仅暴露了这些基于生成式人工智能(generative AI)的机器人账号背后的技术脚本出现了故障，同时显示，有人在指示这些账号对众多民主国家的政治人物和议题进行负面描述，其中包括美国第一夫人吉尔·拜登(Jill Biden)、印度国内政治和美国民主党政治人物约翰·波德斯塔(John Podesta)等。

他们说，这些命令显然遭到机器人账号的抵制，可能是相关指令违背了这些账号被编程时所受到的某些原则。

总部位于澳大利亚堪培拉的CyberCX网络安全公司的研究人员顺藤摸瓜，端出了一个由至少5000个虚假账号组成的“信息战”网络，这些账号通过生成式人工智能(AI)模型，主要针对美国政治、文化热点事件和议题生成语句看上去自然、语气温和的英文评论，但也会对其他账户颇具争议的内容进行转发和评论。

研究人员说，除美国外，这个AI模型网络进行的“信息战”所涉及的国家还包括澳大利亚、英国、西欧、印度、日本等民主国家。

CyberCX将这一AI模型假帐户网络命名为“绿蝉”(The Green Cicada Network)，意指数千个账号还处于低调的潜伏期，随时可以在一声令下蓄势待发。