澳大利亚一份耗资348万澳元（约合1662.9万元人民币）的年龄验证技术测试报告近日被曝存在多处引用错误，负责该项目的英国机构Age Check Certification Scheme（ACCS）在回应媒体质询时承认，团队在编辑过程中使用了ChatGPT，但否认错误由人工智能“幻觉”产生。该报告由澳大利亚政府委托，旨在测试可用于落实未满16岁用户社交媒体禁令的年龄验证技术，其结论曾为该国去年12月正式实施的社交媒体禁令提供了依据。
据《卫报》报道，这份报告的大部分内容基于对现有年龄验证技术的实际测试，但其中一章专门讨论“新兴技术”，引用了多篇学术论文。澳大利亚参议院在针对社交媒体禁令的后续调查中发现，该章节至少存在两处引用错误，有提交材料指出这些“引用似乎是由AI幻觉产生的，而不是基于真实来源”。《卫报》随后自行分析发现，仅同一章节中就有6条参考文献存在错误，包括数字对象标识符（DOI）链接到不存在的论文、指向错误论文、作者与期刊信息无法对应，以及引用论文的结论与报告声称的内容不符等情况。
ACCS发言人在最初否认使用人工智能后，最终承认团队曾利用AI对部分段落进行改写以使其表达更简洁，但强调“没有使用AI生成报告或其中引用的材料”，所有链接均经过人工核查。然而，《卫报》发现报告E部分和K部分的4个链接包含ChatGPT的元数据后，该发言人改口称AI仅被用于润色段落，并未用于原始研究或报告生成，且认为元数据的存在本身已构成对AI使用情况的披露。ACCS随后提供的纠正清单再次出现错误，其中一篇被引用的论文据称于2025年3月访问，但该论文主要作者确认论文直到2025年6月才正式发表，且被列为第一作者的“Jamil”从未参与该研究。
这一事件并非澳大利亚政府承包商首次因AI使用问题引发争议。德勤去年曾因报告出现错误退还政府44万澳元合同部分款项，并承认使用过AI。澳大利亚国立大学教授Christian Downie指出，政府收到的报告若存在虚假引用，可能导致错误决策并削弱公众信任，未来或需通过合同条款和处罚措施加以约束。独立参议员Fatima Payman则要求相关承包商道歉并退款。目前，澳大利亚通信部门表示正在审查相关问题，并将与ACCS进一步沟通。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
