El pasado 10 de octubre se celebró en Bruselas (Bélgica), la primera edición del AI Cyber Security Forum de Huawei, en el que la multinacional china ha abogado por la necesidad de que la industria, los gobiernos y las instituciones internacionales dedicadas a la estandarización colaboren a fin de crear nuevas normativas, estándares e incluso leyes que mejoren la ciberseguridad.
El hilo conductor fue el impacto que tiene la inteligencia artificial en el campo de la seguridad
El hilo conductor fue el impacto que la inteligencia artificial (IA) tiene en el campo de la seguridad, tanto para aquellos que protegen, como para los que la emplean para causar daños o cometer crímenes. Un panel de ponentes analizó el panorama actual de seguridad desde diversos aspectos, así como la dirección en la que avanza y los paradigmas que presenta.
Bob Xie, director del Huawei Cyber Security Transparency Centre comentó que “La privacidad es un valor de la sociedad que hay que proteger. Aunque la inteligencia artificial tiene un claro impacto sobre la vida de millones de personas, a su vez presenta algunos retos importantes a la hora de garantizar la seguridad de los sistemas y la privacidad de los datos de empresas y ciudadanos”.
Este tema recurrente fue iluminado desde aspectos legales, así como desde el punto de vista de las TIC. La avalancha de los productos que contienen software de IA es imparable y hoy en día se encuentran en casi cualquier sitio. Los asistentes de los smartphones son un claro ejemplo. Esta ubicuidad, combinada con la emergente ola de dispositivos IoT, entraña sus propios peligros si no se acuerdan estandarizaciones y buenas prácticas.
Si no partimos de un principio de seguridad, integrarla posteriormente es una batalla prácticamente perdida
David Mudd, Global Digital & Connected Product Certification Director del British Standards Institution, argumentó que “todo el mundo ha estado desarrollando dispositivos para IoT. Pero si no partimos desde un principio de seguridad, integrarla posteriormente es una batalla prácticamente perdida”. Huawei aboga por el principio de privacy by design, en el que la privacidad se tiene en cuenta directamente en la fase de diseño de cualquier producto, con el objetivo de integrarla desde el minuto cero.
Otro tema de importante fueron los sistemas de IA tendenciosos. Ya sea por diseño (para influir en opiniones o conseguir algún resultado que favorezca a cierto sector) o por accidente, la información que alimenta los sistemas de IA puede llegar a ser tendenciosa. Esto ocurre al entrar en el círculo vicioso de seleccionar aquellos contenidos o datos que conducen a cierto resultado, realimentándose después con nuevos inputs de usuarios que solo ven esa información y realimentan de nuevo al sistema en la creencia de que esa información es la más representada.
Huawei aprovechó la primera edición de su AI Cyber Security Forum para lanzar un nuevo whitepaper, titulado Thinking Ahead About Security and Privacy Protection, que delinea las prácticas que emplea, así como las perspectivas que Huawei tiene sobre la seguridad de la IA y la protección de la privacidad. Además, contiene una propuesta sobre un modelo de responsabilidad compartida para el gobierno de estos sistemas.
