Si el teléfono tardó 75 años en alcanzar los 50 millones de usuarios, Facebook lo consiguió en cuatro y Pokemon Go en sólo 15 días. El consumidor adopta las nuevas tecnologías y servicios con cada vez más rapidez y estas, a su vez, evolucionan a un ritmo cada vez más frenético. Aunque estos avances suponen un impacto positivo en la sociedad y el día a día de las personas, estas tecnologías deben adherirse y basarse en una regulación que garantice que su uso sea seguro.

Sin embargo, las leyes y las regulaciones van muy por detrás de la tecnología y de los nuevos paradigmas sociales y económicos. Por ejemplo, la inteligencia artificial (IA) ya forma parte de nuestra vida cotidiana y está impactando de manera positiva en nuestro día a día. Además, es obvio que vivimos en un mundo globalizado, en el que el impacto de las TIC es una realidad que no puede circunscribirse a un solo país. Por esta razón, debe regularse de manera clara y conjunta, ya que la falta de control sobre los propósitos con los que se usa la IA puede llevar potencialmente a un mal uso de esta tecnología.

La falta de control sobre los propósitos con los que se usa la IA puede llevar a un mal uso de esta tecnología

Precisamente, es la UE, como región global, estable y equilibrada, la que puede liderar el debate y las soluciones. Porque el establecimiento de un orden internacional basado en regulaciones y normas en el ciberespacio solo puede basarse en asociaciones y una mayor cooperación entre gobiernos, industria y otras partes interesadas.

Este planteamiento es el que recoge el libro blanco de ciberseguridad en entornos de inteligencia artificial Pensando en la seguridad y la protección de la privacidad de la IA, presentado a finales del pasado año por Huawei, donde proponemos un modelo de colaboración para la seguridad y protección de la privacidad de la IA.

En este documento se plantean prácticas y perspectivas sobre cuestiones de seguridad y privacidad a través de un modelo de colaboración en el que hacemos un llamamiento a todos los players implicados en el desarrollo de la inteligencia artificial para que revisen y asuman sus responsabilidades. Son cinco las entidades que deben trabajar de manera conjunta en un desarrollo seguro: consumidores/clientes, desarrolladores, implementadores, proveedores de soluciones full-stack y recolectores de datos.

El documento también recoge siete objetivos concretos de gobernanza en seguridad y privacidad:

  • Seguridad y capacidad de control del sistema. El sistema debe cumplir los requisitos de seguridad de robustez, estabilidad y adaptabilidad además de proporcionar una certificación de seguridad.
  • Transparencia y trazabilidad. Las lógicas generadas por el sistema (predicción, juicio y acciones automatizadas) deben ser explicables y transparentes.
  • Protección de la privacidad. La información y los datos personales deben protegerse y administrarse de conformidad con el RGPD y otras leyes aplicables.
  • Para mitigar los posibles casos de inequidad causada por los procedimientos, las decisiones tomadas deben cuestionar y buscar soluciones efectivas a estos hechos.
  • Gestión de datos. Se debe garantizar la integridad, precisión, disponibilidad, confidencialidad y exhaustividad de los datos.
  • Un proveedor de soluciones debe especificar el conocimiento y las habilidades necesarias para ejecutar la tecnología IA de manera segura y efectiva. Además, aquellos que implementen y desarrollen soluciones deben seguir estos conocimientos y habilidades.
  • Garantía del objetivo de despliegue. El despliegue y la aplicación de IA deben cumplir los requisitos de legalidad, equidad, seguridad, protección de la privacidad y el no uso indebido, así como los propósitos de despliegue.

Para maximizar las oportunidades de las TIC, debemos establecer colaboraciones y asociaciones basadas en confianza.

Thinking Ahead About Security and Privacy Protection

Libro blanco sobre el papel de la ciberseguridad en entornos de inteligencia artificial. Prácticas y perspectivas a través de un modelo de colaboración entre consumidores/clientes, desarrolladores, implementadores, proveedores de soluciones full-stack y recolectores de datos.