SONAR+D

Micaela Mantegna, experta en ética e IA: "El problema no es que los robots nos quiten trabajo, el problema es que nos quitan los ingresos"

Micaela Mantegna es una reputada ‘abogamer’ (abogada especializada en videojuegos) y una de las mayores expertas a nivel global en ética y gobernanza en el metaverso y la IA

La experta en ética e IA Micaela Mantegna, invitada de honor en el Sónar+D.

La experta en ética e IA Micaela Mantegna, invitada de honor en el Sónar+D. / ARCHIVO

P. El bombardeo de noticias sobre cómo la IA podría afectar a nuestras vidas se ha intensificado en los últimos dos años y está rodeado de alarmismo. ¿Qué le diría a alguien que tiene miedo de la IA?

R. Es cierto que existen el miedo y el vértigo ante el avance tan rápido de la IA y cómo está impactando en la vida de las personas. Preguntas que antes eran filosóficas, sobre si las máquinas pueden demostrar inteligencia o creatividad, hoy nos interrogan en lo cotidiano. Hay docentes en las aulas que se encuentran con la duda de si si los ensayos han sido escritos por alumnos o la IA, o artistas que temen ser reemplazados. Quienes venimos hace mucho tiempo trabajando y haciendo activismo sobre la ética de la IA veníamos advirtiendo lo que se avecinaba. La pregunta sobre los peligros y los miedos tiene muchas capas de análisis. Por un lado, están los daños que ya se están produciendo en términos de crear y propagar desinformación, afectando la democracia; modelos de IA deficientes y discriminatorios que llegan a los mercados sin una regulación que limite su empleo, como los sistemas de reconocimiento facial en aeropuertos o de las agencias de seguridad. Cuando se plantean los “riesgos existenciales” de la IA, esto es muchas veces usado como cortina de humo para distraer de los peligros concretos.

P. La irrupción de la IA ha llegado además en un momento en el que los gurús tecnológicos nunca habían despertado tanta sospecha. En muy poco tiempo han dejado de ser idealizados a criticados.

R. Existe mucha información sobre las filosofías que adoptan para justificar según qué decisiones. No todo lo que reluce es oro. Detrás de las famosas “cartas abiertas” hay intereses que distan mucho de la prosa que comunican. Lamentablemente, las personas que realmente están poniendo el cuerpo para resistir el avance, voces como Timnit Gebru, Joy Buolamwini, Sasha Luccioni, Margaret Mitchell o Rumman Chowdhury, no reciben la misma atención. Con las regulaciones de IA estamos tratando las consecuencias de lo que es el síntoma de algo más profundo. El problema no es que los robots nos quiten trabajo, el problema es que nos quitan los ingresos.

P. ¿En vez de redistribuirlos?

R. Si la automatización trajera un futuro donde muchas tareas fueran reemplazadas, pero tuviéramos garantizadas nuestras necesidades, creo que el debate se daría en distintos términos. Quitándome el sombrero académico, como activista, creo que estamos siendo testigos de tecnologías que nos permiten superar la escasez y las limitaciones geográficas del mundo físico, con la IA Generativa o la impresión 3D. ¿Por qué entonces nos aferramos a sistemas económicos basados en la escasez? ¿Por qué cuando algo es potencialmente ilimitado (como duplicar un objeto digital) nos aferramos a sistemas que crean escasez artificial, sea a través de marcos regulatorios (como la propiedad intelectual) o a través de medios tecnológicos, por ejemplo, los tokens no fungibles?

P. ¿Y qué hay del impacto real de la tecnología?

R. Tenemos que ser conscientes de sus costes, que muchas veces se invisibilizan por diseño y como estrategia. ¿Cómo están impactando los grandes centros de datos y el entrenamiento de modelos fundacionales en el consumo de energía y agua? ¿Quiénes están siendo perjudicados o explotados por estas tecnologías? No me refiero solo a la apropiación del trabajo de artistas, sino a muchos otros trabajadores oprimidos, como aquellos empleados a bajo coste por empresas de IA para “desinfectar” las respuestas de la IA, sometidos a jornadas enteras de clasificar contenidos gráficos de violencia o sexual. La labor de estos “trabajadores fantasmas” clasificando y anotando datos para corregir la falta de sentido común y contexto también debe ser parte del debate de la redistribución de la riqueza que estos sistemas generan.

P. En su charla TED, que tiene más de 1,5 millones de visualizaciones, defiende la idea de amabilidad en un mundo que cada vez es más cruel. ¿De dónde saca ese optimismo?

R. La idea de amabilidad es central en todo lo que hago. Me es difícil sostenerla frente al estado actual del mundo, pero la energía que recibo a cambio me sostiene, y me da felicidad. Es triste ver como un simple acto de amabilidad genera en alguien sorpresa, ya que debería ser la norma y no la excepción. Pero la sonrisa que se dibuja frente a lo inesperado es lo que me impulsa. Me gusta pensar en que eso se propaga y contagia, y que pese a la extrema crueldad que vemos, en el mundo somos más quienes queremos cambiarlo.

P. ¿Cómo?

R. Pensando en la teoría del caos, y en como alterar las condiciones en el estado inicial de un sistema puede llevar a resultados no previstos, desarrollé la idea de lo que llamo “amabilidad caótica” (“chaotic kindness”). Intervenciones donde nuestros actos y gestos pueden cambiar la trayectoria de otra persona, y ésta la de alguien más, con resultados totalmente inesperados. Creo que si de alguna manera pudiéramos ver la trazabilidad de ese impacto benéfico en el mundo, nos impulsaría a ser más generosos y amables.

P. ¿Qué le diría a la Micaela que de pequeña jugaba a videojuegos y se ha convertido en un referente de la ética en internet?

R. ¡Qué ternura esta pregunta! Lo mismo que le diría a muchas niñas y familias de niñas hoy, que les dejen jugar, que se puede aprender mucho. Los videojuegos son maravillosos, porque nos permiten imaginarnos en futuros que de otra forma no nos sería posible. No puedes aspirar a ser aquello que no conoces, nos abren una puerta hermosa a la imaginación y versiones posibles de nosotros. Son lugares donde podemos ensayar sin miedo a equivocarnos, porque equivocarse es parte del aprendizaje para avanzar. Repetir un nivel hasta que sabes como pasarlo nos enseña confianza y resiliencia. Poder ponerse en los pies de personajes distintos a nosotros nos enseña empatía, y a ver el mundo desde otro lugar.

P. ¿Hay un videojuego para cada persona?

R. ¡Sí, solo hace falta encontrarlo! En mi caso, tras jugar Baldur’s Gate 3, decidí empezar a aprender violín para poder tocar la banda de sonido del juego. Mi carrera de abogamer también se la debo a los videojuegos: las preguntas sobre vida sintética y el alma de Mass Effect me fascinaron hasta el punto de dedicarme a investigar sobre ética e inteligencia artificial.