La retirada de la política de IA en Sudáfrica expone un fallo de gobernanza

La retirada del borrador sudafricano de política nacional de IA no fue un simple tropiezo editorial. El documento cayó porque una política llamada a ordenar el uso confiable de la inteligencia artificial apareció sustentada en referencias académicas ficticias, aparentemente generadas sin verificación suficiente. El texto se publicó para comentarios el 10 de abril, fue retirado por el ministro Solly Malatsi el 26 de abril y, para el 26 de mayo, el gobierno ya hablaba de una reescritura a cargo de un panel independiente, con nueva consulta pública prevista para enero de 2027.

La relevancia del episodio va bastante más allá de Sudáfrica. Para equipos jurídicos, responsables de PI y áreas de cumplimiento, la lección de fondo no es que la IA generativa pueda alucinar. Eso ya no sorprende a nadie. Lo verdaderamente incómodo es otra cosa: cuando contenido generado por IA entra en políticas, informes regulatorios, análisis legales o documentos externos de negocio, el riesgo deja de ser un mero error factual y pasa a convertirse en un problema de autoridad, trazabilidad, higiene de derechos y responsabilidad institucional.

No fue solo una bibliografía defectuosa, sino un fallo del proceso de elaboración

El borrador retirado aspiraba a bastante. Buscaba situar a Sudáfrica entre los países más activos en gobernanza de la IA, con propuestas de nuevas estructuras institucionales, supervisión ética y refuerzo de capacidades en el sector público. En ese contexto, las referencias importaban mucho. En una política nacional, la bibliografía no es un adorno. Indica qué base de evidencia sostiene la orientación propuesta, qué materiales comparados se han revisado y hasta qué punto el proceso de redacción trató en serio la verificación.

Por eso la retirada pesó más que una simple corrección. El mensaje implícito fue claro: el problema no se reducía a unas cuantas citas fallidas. El problema real era que los controles internos no las detectaron antes de publicar el texto. Para cualquier organización que redacte documentos de alto impacto, la conclusión útil es bastante directa: cuando un documento va a ser utilizado por terceros, sonar convincente no basta. El flujo de elaboración tiene que estar diseñado para verificar, dejar rastro y permitir atribuir responsabilidades.

Por qué las citas alucinadas abren tan rápido un frente de PI y cumplimiento

Una referencia inventada no equivale automáticamente a una infracción de copyright. Pero sí suele revelar algo igual de delicado: que el equipo quizá no sabe con precisión de dónde salió el contenido, cómo fue transformado ni si el texto está resumiendo material real protegido, mezclando síntesis no verificable o vistiendo de autoridad una fuente que en realidad no existe. En trabajo jurídico y normativo, esa incertidumbre es venenosa. Un documento no tiene que parecer informado; tiene que poder demostrar sobre qué se apoya.

Aquí es donde la dimensión de propiedad intelectual se vuelve más aguda. A muchas empresas ya no les preocupa tanto si la IA puede redactar un párrafo decente, sino si podrán explicar la procedencia del resultado final. Qué fuentes se consultaron. Qué se citó, qué se resumió, qué se reescribió. Si se arrastró expresión protegida con demasiada cercanía. Si material confidencial terminó entrando en la cadena de prompts. Una vez que el texto se firma, se envía a un regulador o se publica con el nombre de la organización, esas dudas dejan de ser técnicas y pasan a ser jurídicas.

La respuesta práctica pasa por adelantar los controles

El primer error sería convertir esta historia en un argumento para usar menos IA sin más. La respuesta más útil es separar la asistencia de redacción de las afirmaciones con peso de autoridad. La IA puede servir para ordenar ideas, comparar versiones, detectar puntos de discusión o comprimir materiales largos. No debería operar sola cuando se trata de citas, autoridades jurídicas, artículos académicos, datos de mercado o cualquier afirmación de la que después dependa un tercero. Un flujo más robusto usa listas de fuentes autorizadas, verificación humana de cada apoyo externo y un registro de qué versión de cada fuente se revisó realmente.

El segundo error es tratar el riesgo de IA como si fuera solo un asunto del proveedor. Muchas organizaciones dedican tiempo a privacidad, contratación y controles de plataforma, pero bastante menos a los riesgos legales de sus propios resultados. Ese desequilibrio ya no es sostenible. Como mínimo, antes de publicar conviene responder tres preguntas sin adornos: ¿todas las referencias existen y pueden verificarse?, ¿el texto reutiliza expresión protegida demasiado de cerca?, ¿se ha colado información no pública en la salida final? Son controles poco vistosos, pero evitan problemas muy costosos.

La lección de fondo tiene que ver con la responsabilidad, no con prohibir herramientas

El caso sudafricano impactó porque muestra una contradicción difícil de disimular. Un borrador que hablaba de IA responsable parece haberse producido mediante un proceso de IA asistida bastante poco responsable. Ahí está la razón de su fuerza simbólica. Deja al descubierto un patrón cada vez más común en instituciones públicas y privadas: los principios de gobernanza se redactan con solemnidad, pero el flujo real de producción sigue siendo informal, débil en revisión y demasiado dispuesto a tratar una salida de máquina como si fuera casi un documento terminado.

Para equipos de PI, cumplimiento y política pública, la diferencia competitiva empieza a estar en otro lugar. No se trata de quién integra antes la IA en la redacción, sino de quién consigue integrar al mismo tiempo revisión de fuentes, examen de derechos, validación de citas y responsabilidad de firma. La IA puede acelerar la escritura, pero no puede cargar por sí sola con el peso probatorio ni asumir responsabilidad legal. Quien entienda eso antes publicará documentos más creíbles, corregirá menos a la fuerza y quedará menos expuesto cuando un texto sensible salga al exterior.