面对AI风险 学者：台湾应建构安全资料库　

台湾多个民团25日共同主办“AI与风险社会”讲座，邀请学者专家与谈。学者分析人工智慧（AI）发展背后的风险指出，面对AI风险，台湾政府应建构安全、本土化资料库。

由台湾独立建国联盟、台湾安保协会、现代文化基金会、新台湾和平基金会主办的“AI与风险社会”讲座，由黑熊学院执行长朱福铭主持综合讨论。

文化大学新闻学系教授陈慧蓉探讨了AI对新闻业及社会的影响。她将AI背后的风险比喻为“进击的巨人”，建议应该筑起风险防范的三道城墙：“主权资料库建置、责任应用与发展、AI公民识读。”

陈蕙蓉呼吁政府、企业、公民社会应持续研究AI，并发展更安全的规范。她强调AI背后的数位学习与人类的语言学习模式不同，社会应该关注未来AI数位系统学习失控时，政府、社会应该如何制止。

陈慧蓉提到，被称之为“AI教父”的前Google执行长辛顿（Geoffrey Hinton）已指出几个AI风险：

一、被恶意国家、组织、个人所错用；二、造成科技性失业（尤其是机械性与记忆性的工作，例如法务助理，个人助理，翻译等）；三、通用AI对人类社会的存在性威胁（例如个人及公司AI系统不仅发展自己的程式码，也开始跑自己的程式码 ，如同火车开始盖自己的轨道）。

陈慧蓉连结到8月1日上路的欧盟《人工智慧法》（AI Act），以“风险”为主轴区分AI的四种风险，分别为：

一、“不可接受风险”（Unacceptable Risk）是完全禁止，例如社会信用积分系统、操弄型AI。二、“高风险”（High Risk）也是欧盟AI法案主要规范对象。三、有限风险（Limited Risk）针对透明化规范，开发者及部署者必须让终端使用者知道他们是与AI互动，例如聊天机器人，深伪，AI生成照片。四、“最低风险”（Minimal Risk）则不受欧盟AI法案所规范，例如AI电玩，垃圾邮件过滤器等。

陈慧蓉提到欧盟对AI的规范，随着生成式AI的发展，也会随之修正。她指出，AI资料库经常忽视台湾本地文化，导致AI生成的内容，不符合台湾本土特征。对此，她认为目前以台湾主体性为文本的“可信任生成式AI对话引擎”（TAIDE），引入台湾特有的语料库。她也呼吁未来台湾的AI重点发展，更应该关注转型正义及永续价值，建构“可信任”AI模型，以反映民主社会的多元性。