Si los sesgos son uno de los problemas éticos más conocidos de la inteligencia artificial, la IA generativa ha añadido una capa especialmente desestabilizadora: la producción de contenido sintético verosímil a escala. Junto a los procesos de trabajo, esto altera el entorno informativo sobre el que se apoyan la confianza social, la reputación y la deliberación democrática.
Los modelos de lenguaje pueden redactar textos fluidos, seguros y convincentes, aunque contengan errores factuales, asociaciones incorrectas o referencias inventadas. En contextos triviales eso puede parecer asumible, pero cuando hablamos de salud, derechos, educación, compliance, periodismo o gestión pública, no lo es.
A este riesgo se suma el crecimiento de los deepfakes y de otras formas de manipulación sintética de audio, imagen y vídeo. La Comisión Europea ha incorporado esta preocupación al marco regulatorio europeo, y el AI Act establece obligaciones de transparencia para determinados usos de sistemas generativos e interactivos, así como para ciertos contenidos generados o manipulados artificialmente.
El desafío decisivo de los próximos años no será solo regulatorio ni tecnológico. Será cultural
Cuando se erosiona la posibilidad de distinguir de forma razonable entre prueba y simulación, entre declaración auténtica y voz clonada, entre imagen documental y fabricación sintética, se deteriora la base mínima de confianza que necesita cualquier democracia para funcionar.
Los cinco principios de la IA
Si queremos una IA verdaderamente beneficiosa, hay principios que no pueden quedarse en la retórica. Deben convertirse en criterios de diseño, despliegue y supervisión, y aquí tenemos ya referencias sólidas, tanto en la UNESCO como en el marco europeo de IA.
- Supervisión humana significativa. Ningún sistema que afecte de forma relevante a la vida de las personas debería operar sin posibilidad real de revisión, corrección e intervención. Supervisar no es mirar, es comprender, cuestionar y poder detener o modificar la decisión cuando sea necesario.
- Transparencia. Las personas deben saber cuándo interactúan con una IA, en qué medida un contenido ha sido generado o alterado artificialmente y qué efectos puede producir sobre ellas. Más que una obligación documental, la transparencia es una condición para la autonomía y el ejercicio efectivo de derechos.
- Trazabilidad. Cuando un sistema de IA causa daño tiene que ser posible reconstruir qué ocurrió, qué versión del modelo se utilizó, con qué datos, con qué validación y bajo qué responsabilidades. Sin trazabilidad, la responsabilidad se disuelve en una nube de complejidad técnica.
- Diversidad en el diseño. Sistemas desarrollados por equipos homogéneos, validados sobre poblaciones poco representativas y desplegados sin auditoría independiente tienen más probabilidades de ignorar daños previsibles. Además de una exigencia social, la diversidad es también una condición de calidad tecnológica.
- Alfabetización. La UNESCO sitúa la formación y la concienciación pública entre los ejes centrales de una gobernanza responsable de la IA. No puede haber ciudadanía digital fuerte si la mayor parte de las personas no entiende qué puede hacer una IA, qué límites tiene, qué riesgos incorpora y qué derechos existen frente a su uso.
La responsabilidad humana
Hay una dimensión de todo este debate que me preocupa especialmente: la educación. No me refiero solo a la formación técnica, sino al criterio, la cultura institucional y la capacidad para convivir con sistemas de IA automáticos sin abdicar de la responsabilidad humana.
Desde la Cátedra ENIA hemos podido comprobar que el conocimiento social sobre regulación y derechos en materia de IA sigue siendo limitado. En una dinámica participativa propia, el 41% de las personas participantes obtuvo una puntuación baja en un cuestionario sobre el AI Act; es un dato interno, no extrapolable al conjunto de la población, pero sí suficientemente revelador de una brecha de comprensión que no deberíamos ignorar.
El desafío decisivo de los próximos años no será solo regulatorio ni tecnológico. Será cultural. Nos jugamos si la IA generativa se convierte en una palanca para ampliar capacidades humanas o en un atajo hacia una sociedad más eficiente, sí, pero también más dependiente, más opaca y vulnerable a nuevas formas de manipulación y desigualdad.
