En el panorama digital actual, que evoluciona rápidamente, el auge de la inteligencia artificial presenta oportunidades sin precedentes y desafíos significativos.
La IA está transformando las organizaciones de todos los sectores, como la educación y la ciencia; está ayudando a médicos e investigadores científicos a descubrir y diagnosticar tratamientos para enfermedades y está cambiando la forma de hacer las cosas en sectores tan tradicionales, como puede ser el vinícola.
Además, está potenciando la capacidad de los creadores para expresar nuevas ideas. Sin embargo, con la misma rapidez con la que la se ha convertido en una herramienta casi imprescindible, esta tecnología se ha tornado también en un arma.
La IA generativa está al alcance de la mano de cualquier persona con internet y los ciberdelincuentes también la han puesto a trabajar a su favor, dando lugar a ataques mucho más desarrollados y sofisticados.
Estamos centrados en desarrollar una IA segura, responsable, que vele por la privacidad y protección de los usuarios
Un buen ejemplo de ello es cómo la Unidad de Crímenes Digitales de Microsoft (DCU) ha desmantelado la infraestructura tecnológica utilizada por un actor vinculado al Estado ruso: Star Blizzard. Entre enero de 2023 y agosto de 2024, Microsoft observó que este actor atacó a más de treinta entidades y organizaciones de la sociedad civil, —periodistas, centros de investigación y ONG— claves para el funcionamiento de la democracia, mediante campañas de spear-phishing destinadas a exfiltrar información sensible e interferir en sus actividades.
IA y ciberseguridad: el yin y el yang
Nadie está a salvo. El último Informe Global de Seguridad Online de Microsoft arroja datos tan significativos como que el 69% de las personas ha experimentado algún riesgo online durante 2023, porcentaje que asciende hasta el 74% en el caso de los adolescentes. Las fake news y la desinformación, así como el ciberacoso, discursos de odio y las amenazas de violencia son los riesgos más comunes. Además, los atacantes ya están utilizando la IA como ciberarma para mejorar los mensajes y técnicas de phishing y las operaciones de influencia con imágenes sintéticas.
Pero, al mismo tiempo, esta tecnología está siendo crucial para activar estrategias de defensa ante los ciberataques, al automatizar y aumentar aspectos de la ciberseguridad, como la detección, respuesta, análisis y predicción de amenazas.
La IA también puede facilitar que los grandes modelos de lenguaje (LLM) generen información y recomendaciones en lenguaje natural a partir de datos complejos, lo que ayuda a que los analistas sean más efectivos y tengan mayor capacidad de respuesta.
Ante el complejo panorama de ciberataques, es necesario participar activamente en prácticas de IA responsables, cruciales para mantener la confianza y la privacidad del usuario y crear beneficios a largo plazo.
Las compañías tecnológicas tenemos la responsabilidad de innovar e implementar medidas de seguridad que eviten el desarrollo y el uso indebido de la IA, y ofrecer el máximo nivel de seguridad a nuestras plataformas y a nuestros clientes.
Iniciativa Futuro Seguro
A medida que la IA avanza, todos tenemos un papel que desempeñar para lograr que impacte de forma positiva en las organizaciones y comunidades de todo el mundo. El compromiso de Microsoft es garantizar una IA de confianza –trustworthy AI– y para ello estamos centrados en desarrollar una IA segura, responsable, que vele por la privacidad y protección de los usuarios.
A principios de este año, Microsoft se convirtió en uno de los principales participantes del compromiso Secure by Design (seguridad por diseño) de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos (CISA), lo que refuerza nuestra visión y dedicación a la hora de integrar la seguridad en todos los aspectos de nuestros productos y servicios.
Además, con nuestra Iniciativa Futuro Seguro (SFI) trabajamos para velar por la ciberseguridad dentro de nuestra propia empresa, para nuestros clientes y la industria en general. En mayo de 2024 ampliamos esta iniciativa para centrarnos en seis pilares clave de seguridad, incorporando los comentarios de la industria:
- Proteger identidades y contenidos confidenciales.
- Proteger los tenants y aislar los sistemas de producción.
- Proteger las redes.
- Proteger los sistemas de ingeniería.
- Supervisión y detección de amenazas.
- Acelerar la respuesta y la mediación, actualizando los procesos para mejorar el tiempo de resolución de las vulnerabilidades críticas en la nube.
De cara al futuro, seguimos comprometidos con el aprendizaje y la mejora continua. La Iniciativa Futuro Seguro continuará evolucionando, adaptándose a las nuevas amenazas y perfeccionando nuestras prácticas de seguridad.
Esta iniciativa continuará evolucionando, adaptándose a las nuevas amenazas y perfeccionando las prácticas de seguridad
Como ejemplo de ello, recientemente hemos lanzado nuevas funcionalidades para ayudar a las empresas a aprovechar los beneficios de la IA y mitigar los riesgos asociados:
- Una capacidad de corrección en Microsoft Azure AI Content Safety, que ayuda a solucionar problemas de alucinaciones de la IA en tiempo real.
- Seguridad de contenido incrustado–Embedded Content Safety–, que permite a las empresas integrar Azure AI Content Safety en los dispositivos. Esto es importante para escenarios en los que la conectividad a la nube de los dispositivos sea intermitente o no esté disponible.
- Nuevas evaluaciones para ayudar a las empresas s medir la calidad y relevancia de los resultados y la frecuencia con la que su aplicación de IA genera material protegido.
- Detección de material protegido por código. Se encuentra en la actualidad en versión preview en Azure AI Content Safety. Esta funcionalidad ayuda a los desarrolladores a explorar el código fuente público en los repositorios de GitHub, lo que fomenta la colaboración y la transparencia, al tiempo que facilita la toma de decisiones de codificación en base a una mayor información
Nos hemos centrado en introducir cambios en nuestra cultura, en crear un nuevo Consejo de Gobernanza de la Ciberseguridad y hemos nombrado directores adjuntos de Seguridad de la Información en toda la empresa, alineados con las funciones fundamentales de esta área y todas las divisiones de ingeniería.
En general, desde que anunciamos la iniciativa hemos dedicado 34.000 ingenieros a tiempo completo a la misma, lo que la convierte en el mayor esfuerzo de ingeniería de ciberseguridad de la historia.
Además, estamos comprobando que merece la pena. Hemos hecho progresos significativos para proteger mejor a nuestros clientes, las redes y los sistemas de ingeniería y hemos creado nuevos procesos para garantizar que se da prioridad a la seguridad en todos los niveles de la empresa.
Aunque una transformación de esta envergadura puede ser compleja, nos hemos comprometido a cambiar nuestra cultura, mentalidad y forma de trabajar para hacer el mundo más seguro.
