南非撤回 AI 政策草案,幻觉参考文献把治理风险提前暴露
南非这次撤回的,不只是一个有瑕疵的政策文本,而是一个“先让 AI 生成、再指望人工兜底”的起草习惯。4月10日公开征求意见的《南非国家人工智能政策草案》,在被发现参考文献中含有虚构学术来源后,于4月26日被部长 Solly Malatsi 正式撤回。到了5月26日,部长又向议会说明将由独立专家小组重写文本,新的公开征求意见时间被推到2027年1月。
这件事之所以迅速越过“写作失误”的范畴,在于它击中了 AI 治理最尴尬的一处:一份强调可信、问责与监管能力的国家政策,先在引用核验上失守了。对企业法务、知识产权团队和合规负责人来说,真正值得留意的并不是南非个案本身,而是一个越来越普遍的风险场景——当 AI 生成内容进入政策、合同、白皮书和申报材料,错误来源、版权不清和训练数据合规问题会一起暴露出来。
撤回的不只是草案,而是起草责任链的断裂
这份草案原本承载的目标并不小。公开版本曾提出设立国家 AI 委员会、AI 伦理委员会和监管协调机制,也试图把产业激励、公共部门能力建设和伦理治理放进同一框架。问题恰恰在这里:当一份国家级政策要用来支撑后续制度设计时,参考文献不是装饰,而是论证可信度的一部分。引用一旦失真,政策基础就会跟着发虚。
南非此次选择直接撤回,而不是简单更正几条参考文献,说明官方已经意识到问题不在“几条脚注”,而在内部审核为什么没有在发布前挡住它。对任何组织来说,这都是个很现实的提醒:只要文本会被外部依赖、转引或进入决策链条,AI 生成内容就不能停留在“看上去写得通”的标准,必须进入可核验、可追责、可回溯的工作流。
为什么“幻觉参考文献”会立刻引发版权与合规焦虑
虚构引用本身未必当然等于版权侵权,但它会暴露更深的一层风险:团队是否清楚内容从哪里来,引用是否可追溯,生成过程是否混入了未经核验的二次改写或不当摘编。尤其在法律、政策和知识产权语境里,来源链一旦断掉,外部读者很难判断文本究竟是在总结公开材料、转述受保护作品,还是把并不存在的“权威文献”包装成依据。
这也是为什么知识产权界会对这类事件格外敏感。企业现在最怕的,不只是 AI 说错,而是说错以后无法说明它参考了什么、改写了什么、训练时接触过什么。若生成内容继续流入政策文件、合规报告、市场宣传或专利布局材料,风险会从事实准确性扩展到版权归属、授权边界、保密信息污染和对外陈述失真。很多问题并不是在模型调用那一刻爆发,而是在文本被正式签发或公开使用那一刻集中兑现。
对企业法务和 IP 团队,更该前移的是哪几道风控门
第一道门不是“禁用 AI”,而是把 AI 生成内容和权威性内容分开管理。可以让模型参与整理结构、列讨论点、压缩冗长表述,但涉及引文、案例、法规、学术论文、统计数据和市场结论时,最好回到人工核源。更稳妥的做法,是建立来源白名单和证据留痕表:每一条外部依据都要能对应到真实文献、真实网页、真实版本,而不是只留下一段看起来很像参考文献的文本。
第二道门是把“训练数据风险”和“输出使用风险”拆开看。很多组织只盯着模型供应商是否合规,却忽略了自己输出给客户、监管机构或合作方的内容是否会构成侵权、误导或失实陈述。对知识产权团队来说,至少应补上三类审查:输出是否含有不可验证引用,是否复用了可能受保护的表达,是否触碰内部未公开材料。把这三件事写进模板和审批流,比事后补救有效得多。
真正的教训,不是少用 AI,而是别把责任外包给 AI
南非事件的刺痛感,来自一种很典型的错位:政策文本在高举 AI 治理原则,起草流程却没有把这些原则先用在自己身上。未来无论是公共部门还是企业内部,AI 当然都可以参与起草,但凡是会影响外部判断、权利归属或监管评价的内容,最后都必须有人为它负责。责任链不能写在原则部分,却缺席于生产过程。
对知识产权和合规管理而言,这件事还有一层更深的意义。下一阶段的竞争,不只是比谁更快把 AI 接进工作流,而是比谁能把引用核验、版权判断、数据来源审查和审批留痕嵌进同一套流程。AI 可以加快成稿速度,但不能替代证据,也不能代替签字责任。谁先把这条线分清,谁在政策写作、对外发布和高风险文件管理上就会少很多被动。



