“可怕”：错误信息与AI幻觉正渗入澳大利亚议会

背景

Guardian Australia 报道，澳大利亚政府调查程序正被大量 AI 生成材料涌入，这些材料编造研究并把不存在成果归于真实学者。所谓 AI 幻觉，指大语言模型生成看似真实、实际不存在的内容。部分委员会报告引用了多数来源疑似 AI 幻觉的文件。澳大利亚国立大学调节与全球治理学院教授 Christian Downie 警告，议员可能基于不存在证据决策。以往查询可能显示不存在，如今 Google AI 摘要有时把虚构文献当真实论文总结；ChatGPT 和 AI 摘要还可能反过来引用含假引用的文件，形成错误循环。

关键细节

• Guardian 用程序提取本届议会调查文件参考文献并对照学术数据库，发现至少 39份 文件含疑似幻觉引用；估计保守，因无法发现无引用但 AI 生成文本的文件。
• 超过 100份 文件参考链接含 ChatGPT 自动 URL 标签；文件从少量错误引用到全部引用不存在不等，作者跨政治光谱。Guardian 联系后，多人不知 AI 会这样出错或提交前未发现。
• 家庭暴力与自杀调查中，文件把虚构引用归于昆士兰大学副教授、临床心理学家 Divna Haslam 并误述研究；Haslam 研究儿童与家庭逆境及虐待，称其“可怕”，Google AI 摘要也曾按真实文献总结，并担心误导信息进入政策。提交方 Drilldown Reports 承认用 AI，称后续发现错误但错过期限，发言人指人为失误。
• 社会政策与法律事务常设委员会主席称委员会会质询各种材料。
• 今年住房不平等调查出现悉尼大学教授 Nicole Gurran 不存在引用；去年 National Rational Energy Network 向参议院气候变化错误信息调查提交文件，称 Guardian 为“left-leaning, activist-oriented”，并部分引用 Margaret Simons 从未写过的期刊文章。Simons 是 Scott Trust 董事会成员，NREN 未回应。
• 参议院建议警告 AI 影响信息质量、准确性由提交者负责；去年 Deloitte 因 44万澳元 报告出现假引用和假法院引用而部分退款。

意义

问题并非全新，但 LLM 普及使其规模扩大。假引用会破坏研究透明、同行评审与证据链，公共文件若出现假材料也会削弱公众对民主制度机构信任。Downie 认为调查程序应开放，但需新指引鼓励真实，让气候、移民、健康等决策基于真实证据。OpenAI 称消除幻觉仍是研究领域，应把 ChatGPT 当初稿而非最终来源并核实；Google 称 AI Overviews 像传统搜索匹配网页内容。