¿Por qué suena tan complicado eso de aplicar la ética? Juan Ignacio Roytet, autor del libro Estupidez artificial, responde de forma directa: “Pues, primero, porque, dicho de una manera llana, a los filósofos no hay quien los entienda. Son complicados de leer. Dicen cosas muy sensatas, de mucho contenido, pero cuesta mucho ponerse a ello y entenderlos”.

Hay otras razones de peso que dan respuesta a esta cuestión. Desde la época de Sócrates, llevamos alrededor de 3000 años hablando de ética, pero en todo ese tiempo no hemos llegado a una fórmula concreta y sencilla.

La ética y la sostenibilidad son factores fundamentales para cualquier proyecto digital

Cuando queremos aplicar la ética de una manera práctica, vemos que no es posible, y no lo es porque nos falta la fórmula ideal, de la que carecemos porque, seguramente, no existe. Al final se termina recurriendo a dos conceptos: el primero, ceñirse a los principios de cada uno; el segundo, ver qué ocurre en función de lo que se haga, para, a partir de ahí, actuar. Es decir, la ética de principios y la ética de consecuencias.

“Como no existe una fórmula única, se intenta buscar el equilibrio entre estos dos tipos de éticas. En nuestro modelo de Ethical Studio, lo que hacemos es jugar con esta idea de la ética de los principios y de las consecuencias, para ser capaces de llegar a una solución práctica”.

Según Óscar Carbajo, para resolver este dilema hay que fijarse en tres conceptos clave: compromiso, ecosistema e impacto. “La ética y la sostenibilidad son factores fundamentales para cualquier proyecto digital, y más cuando sabemos que la tecnología es exponencial. Ese compromiso tiene que existir en cada proyecto y debería ser incuestionable. Hay que priorizar ciertas cosas, sometiendo el modelo de negocio a un análisis para saber dónde están los puntos rojos en cuanto al compromiso con la ética y la sostenibilidad”.

Y todo ello afecta al ecosistema. La eficiencia en innovación cada vez está más ligada al respeto por ciertos derechos, al bienestar de los seres vivos… “Habrá que impulsar cada vez más estos conceptos. Si solo tenemos un interés, el de generar dinero, cada vez seremos peores personas”.

Lo que nos lleva al impacto. Hay que aceptar que la preocupación por la ética y la sostenibilidad requiere inversión y esfuerzo. Pero solo se trata de añadir una capa nueva al customer journey: “Trabajamos la comunicación con el cliente, vemos los touch points y, a partir de ahí, ponemos la base de los servicios que los soportan. Todo esto tiene que contextualizarse en una lógica del proceso que sea sensible a ciertos factores, evitando prácticas que han demostrado ser muy negativas”.

 ¿Qué es Ethical Studio?

La iniciativa surgió de charlas de sobremesa, fruto de una idea común: “¡Tenemos que generar impacto! ¡Tenemos que ayudar a crear un mundo mejor! Puede sonar muy idealista, muy naif, pero queríamos generar ese impacto práctico en el mundo del diseño de procesos o de aplicaciones”.

Para ello, decidieron apoyarse en sus conocimientos y experiencias, que se complementan, con Óscar Carbajo más cerca del diseño de procesos y Juan Ignacio Rouyet más ligado a la teoría y a la ética. Así nació Ethical Studio.

En la práctica, no es tan difícil. Se trata de introducir esa variable —la ética— en el flujo de trabajo: “En design thinking, o en otras metodologías de diseño orientado a personas, ya hay una fase de empatía que se basa en entender qué le puedo vender al cliente, pero, realmente, no empatizamos al cien por cien con el ecosistema”.

Se le pregunta al cliente qué necesita, para poder ofrecérselo. En definitiva, se busca que el proceso alimente el negocio. “Esto es fundamental. Obviamente, todos estamos para ganar dinero. Pero se trata de ir más allá. Ikea, por ejemplo, lo está haciendo. Ha creado laboratorios para que la gente aporte sus ideas y su visión acerca de cómo debería ser la sociedad del futuro, las tiendas de Ikea del futuro o el mueble del futuro, todo ello a partir de una serie de parámetros que permitan crear un futuro mejor”.

No estamos tan lejos de eso. El problema es llevar esa línea de pensamiento a la tecnología. “Cuando se hace una app, solo nos centramos en qué vamos a ganar, y no en qué otros aspectos puedes incorporar por el camino que harían que el producto fuera todavía más sexy o con un mejor reconocimiento de marca”.

Ethical Studio ya ha desarrollado algunos talleres para poner en práctica estas ideas. Hay dos partes diferenciadas. Primero, Juan Ignacio se centra en la parte más técnica de la filosofía, que desarrolla de una forma amena y didáctica. Esto gusta mucho a los participantes, que ven todo el sentido a aquello que estudiaron hace diez o quince años, y que ahora pueden aplicar en su trabajo.

“La gente hace clic. Ese simple hecho ya nos genera cierta satisfacción. Pero el extra es que podemos crear productos más éticos. Somos capaces de ayudar a la gente, y no solo a entender el dilema del tranvía, sino a aplicar ciertos parámetros”.

 Implantar la ética

Se trata de trasladar al mundo empresarial estos aspectos relacionados con la ética en la inteligencia artificial. Para ello, se ha unido la capa de fundamento filosófico, ético y humanista, que aporta Juan Ignacio, con otra más enfocada a la consultoría de procesos y a la creación de productos, en la que es experto Óscar Carbajo. El camino pasa por analizar un proceso de negocio de principio a fin, incluyendo una componente de customer journey que contemple una nueva dimensión: la aplicación práctica de la ética.

De nuevo, los autores de esta iniciativa defienden la búsqueda de un mundo mejor. Por ejemplo, antes de la llegada de la experiencia de usuario eran muy comunes los denominados dark patterns, unas prácticas cuando menos discutibles: en el momento de comprar un vuelo, por ejemplo, siempre estaba activo el check del seguro, y, si el usuario no se daba cuenta y no lo desactivaba, lo cobraban.

“Terminaron prohibiendo estos patrones oscuros, pero hay más formas de engañar a la gente y, ahora, con la inteligencia artificial, el potencial es todavía mayor”.

En su libro Estupidez artificial, Juan Ignacio  Rouyet ya habla de cómo aplicar todos estos fundamentos éticos en cuatro pasos: “Lo que hacemos es desarrollarlo de una manera práctica en este taller, uniendo estos elementos: ética, procesos y customer journey”.

Para ello, han desarrollarlo un panel que se basa en una serie de cartas, lo que permite ayudarse de la gamificación para hacerlo más ameno. Existen cartas de principio (protección de datos, legislación, derechos humanos), de propósito, de acción o de datos, que hacen referencia a la información personal que se está utilizando, con el fin de determinar si se está cumpliendo con todo lo establecido legalmente.

Además, han ideado una serie de retos ligados a aspectos como la sostenibilidad, la huella de carbono, la eficiencia energética… o la salud mental y el bienestar de los usuarios: si están pasando demasiadas horas pegados a la pantalla, etc. “Todos estos dilemas acaban desencadenando una serie de riesgos, como la contaminación ambiental, pérdidas de espacios verdes, contaminación lumínica, turismo masivo no sostenible…”.

A través de una serie de interacciones, todas esas cartas acaban en un panel general en el que se sitúa el proceso que se va a evaluar. Primero se dibuja el proceso tal cual. El siguiente paso es tratar de hacerlo de forma ética, utilizando para ello la capa filosófica y haciendo uso de las cartas y de otras herramientas. El objetivo es que el proceso sea más ético, pero sin que haya una pérdida de valor.

“La dinámica tiene que centrarse en eso: en la creación de un producto ético. Pero, además, también queremos que hagan clic, que vean que no es tan difícil y que se puede aplicar a otros muchos ámbitos”.

Percibir el valor de ética

Se trata de un taller adaptado a cualquier proceso de negocio de cualquier empresa. Además, existen dos modalidades: una versión reducida, como una píldora que permite introducirse en los fundamentos del diseño ético; y una extendida, más rica, en la que los participantes eligen el proceso que desean optimizar desde un punto de vista ético.

“En cualquier caso, la dinámica del taller es la misma y el resultado es un proceso que, sin dejar de aportar valor, es mucho más ético”.

Esto es algo que percibe el cliente, pero también el empleado. Por ejemplo, han hecho un piloto en un proceso de aprobación de hipotecas para una entidad financiera. “Les pedimos que diseñaran el proceso para, después, aplicar la componente ética. La gente se da cuenta de que hay una forma alternativa de hacer las cosas, incorporando esa visión ética, y que no tiene por qué ser peor”.

En el customer journey se incluye una nueva dimensión:
la aplicación práctica de la ética

El impacto de esta “capa ética” se mide a partir de distintos indicadores. “Esto es importante, no se trata de quitar la componente económica. Con ese proceso de adjudicar hipotecas la entidad tiene que ganar dinero. La cuestión es que incluya también otros indicadores, como la satisfacción del cliente o el reconocimiento de marca”.

En este camino es fundamental otorgar libertad para decidir, tanto para el usuario como para las personas de la entidad que intervienen en el proceso. De esta forma perciben que son una parte activa, que su rol va más allá apretar un botón cuando el sistema les ha dicho si deniega o concede la hipoteca.

De hecho, uno de los ámbitos que quieren explorar en Ethical Studio es el mundo de las aceleradoras de startups. “Yo he estado haciendo mentorías para este tipo de entidades y aplicar la ética a sus desarrollos está prácticamente en el terreno de la ciencia ficción. Allí van a machete, a la cifra, aunque es cierto que hay muchas que le darían cierto valor a esta visión”.