Dario Amodei ya es uno de esos nombres que se asocia con la inteligencia artificial. Este emprendedor americano se ha puesto como meta crear modelos de IA que estén alineados con los valores humanos, que sean responsables, fiables, éticos y que aporten algo a la sociedad.
Dario Amodei nació en San Francisco y se graduó en Stanford en la carrera de Física. Posteriormente se doctoró, también en Física, en Princeton. Allí se especializó en electrofisiología y circuitos neurales. Su primer trabajo fue en Baidu, el competidor chino de Google, donde trabajó como investigador de inteligencia artificial. Poco menos de un año después, Amodei se pasó a Google, donde trabajó en Google Brain.
Los modelos solo quieren aprender. Es algo que tenemos que entender. Solo…quieren…¡aprender! — Dario Amodei
Pero apenas diez meses después volvió a cambiar de trabajo, para aterrizar en OpenAI. Allí dirigió el equipo de seguridad de IA, algo que le marcó para el futuro. Ascendió a director de investigación y, finalmente, a vicepresidente de investigación, donde encaminó las investigaciones de GPT-2 y GPT-3.
Dario Amodei y una “IA constitucional”
Pero tras algo más de cuatro años, para Dario Amodei, la cosa comenzó a torcerse en OpenAI. Sus ideas con respecto a lo que debería ser una IA ética chocaban con la interpretación del tipo de inteligencia artificial que tenía Sam Altman.
Amodei tampoco coincidió con la idea de que Microsoft participara en OpenAI de la forma que se eligió. De modo que él y su hermana Daniela (también una ejecutiva en OpenAI) abandonaron la startup de Altman y en 2021 fundaron la suya propia: Anthropic. En menos de dos años consiguieron más de 1500 millones de dólares de financiación. De hecho, actualmente, la empresa está valorada en más de 15.000 millones.
La meta de Anthropic es la de crear modelos de IA más seguros y alineados con los valores humanos. Para ello, esta empresa está entrenando modelos utilizando un método que ellos llaman IA constitucional. Solo ese término deja clara la dirección que Anthropic quiere tomar con sus creaciones de IA. El producto de la compañía se llama Claude y es un chatbot de IA similar a ChatGPT. Actualmente en su versión dos, Claude ya genera respuestas más largas y matizadas.
A diferencia de los entrenamientos habituales para este tipo de modelos, para Anthropic Amodei divisó un sistema de automejora. En lugar de contar con una gran cantidad de personas que etiqueten la información, el sistema aprende por si mismo.
Aunque, eso sí, basado en una serie de reglas marco (constitucionales) que sí están dirigidas y controladas por humanos. Esta constitución está formada, entre otras cosas, por la Declaración de los Derechos Humanos de las Naciones Unidas, así como los términos de servicio de varias compañías tecnológicas.
El riesgo crece con las capacidades
“Entrenar modelos a partir de enormes cantidades de texto genera algo que puede ser muy inteligente, con mucho conocimiento, pero sin forma. Sin ningún punto de vista en particular que le indique si ha de contestar una cosa u otra.”
Esto es lo que dijo Amodei en un congreso. El investigador está preocupado por la velocidad con la que aprenden y mejoran los modelos de IA, y por el hecho de que nadie sabe, en realidad, porqué contestan una cosa u otra y si las respuestas tienen un sesgo determinado.
Los modelos de IA deben dejar de ser una caja negra que da respuestas y nadie sabe exactamente porqué
A Dario le gusta poner el simil de un cohete: los modelos son como el combustible y el motor. Pueden lanzar el cohete a grandes alturas y con enormes velocidades. Pero lo importante es dotarlo de algún tipo de control para que vaya a donde queremos.
Esa es la lógica que quiere aplicar a los modelos de IA: que dejen de ser una caja negra que da respuestas y nadie sabe exactamente porqué, y que tengan unas guías básicas de razonamiento y ética. Porque, sin ello, cuanto más potentes sean los modelos, tanto más riesgo suponen para la humanidad debido a que a veces generan respuestas incorrectas o directamente malvadas sin darse cuenta.
Según los hermanos Amodei, la tecnología se encuentra en un momento en el que, en dos o tres años las IA pueden ser lo suficiente inteligentes como para generar historias más convincentes, no solo en su uso convencional, sino también en campos como el de la ciencia o la biología.
De este modo, basar experimentos en los resultados que ha generado una IA es muy peligroso. Eso es justamente lo que Anthropic quiere evitar, proporcionando un modelo de IA más transparente con Claude, cuyo razonamiento sea más fácil de seguir y de comprobar.
Todo parece indicar que la lucha por la supremacía en el ámbito de la inteligencia artificial tiene un nuevo contendiente, pero uno con más principios que los demás.
