Tecnologías disruptivas

La rebelión en la granja de la Inteligencia Artificial, respaldada por la UNESCO

Se suma a la demanda de más de 2.800 expertos y empresarios que piden una tregua para frenar la escalada de GPT, que parece imparable

Foto falsa del Papa generada por Inteligencia Artificial, el primer caso real de desinformación de IA a nivel masivo.

Foto falsa del Papa generada por Inteligencia Artificial, el primer caso real de desinformación de IA a nivel masivo. / u/trippy_art_special/REDDIT

EDUARDO MARTÍNEZ DE LA FE

La Inteligencia Artificial está traspasando fronteras que amenazan a nuestra especie, advierten numerosos expertos y empresarios ante el desarrollo de sistemas como GPT y sus últimas versiones. Podemos desarrollar cerebros artificiales más potentes que los nuestros sin medir las consecuencias para nuestra civilización. La UNESCO se suma a la alerta.

(Este artículo, publicado por primera vez el 30 de marzo, se actualiza con nueva información).

Una imagen fotorrealista del Papa vistiendo una chaqueta blanca acolchada está dando la vuelta al mundo, no tanto por lo atractivo que resulta el pontífice con esa indumentaria, sino porque es falsa.

El problema es que ha sido generada por un sistema de Inteligencia Artificial y se considera que es un exceso de esta tecnología en términos de manipulación de la información.

El experto en cultura web Ryan Broderick,

citado

por NewScientist, ha llamado a la imagen del Papa “el primer caso real de desinformación de IA a nivel masivo”. Pero es solo la punta del iceberg de la marabunta que está desatando esta tecnología.

Tregua tecnológica

Más de 2.800 personalidades (hasta ahora) del mundo científico y técnico, incluido el empresario Elon Musk y el cofundador de Apple, Steve Wozniak, han firmado

una carta

pidiendo una pausa de seis meses en el desarrollo de la Inteligencia Artificial, considerando que todo lo que ha pasado últimamente puede plantear graves problemas a la sociedad.

La carta, escrita en tono alarmista, ha sido publicada en la web del American Future of Life Institute, fundado en 2015 con la misión de orientar el desarrollo tecnológico en beneficio de la vida y de alejarlo de los riesgos extremos a gran escala.

La carta viene a decir que la IA se acerca a esos riesgos a gran escala y demanda una moratoria urgente para impedir que el afán de la innovación en estos sistemas, que han conseguido avances espectaculares, traspase un punto de no retorno para nuestra especie.

Tras la carta de más de 2.800 trabajadores tecnológicos para una pausa en la capacitación de los sistemas de inteligencia artificial más poderosos, incluido Chat GPT, la UNESCO hace un llamamiento a los países para que implementen completamente su Recomendación sobre la ética de la inteligencia artificial de inmediato. Este marco normativo global, adoptado por unanimidad por los 193 Estados Miembros de la Organización en noviemb re de 2021, brinda todas las salvaguardias necesarias, explica la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura en un

comunicado

.

Ya es hora de implementar las estrategias y regulaciones a nivel nacional. Tenemos que predicar con el ejemplo y asegurarnos de que cumplimos con los objetivos de la Recomendación, concluye la UNESCO.

GPT-4 y 5

Aunque tiene un planteamiento general, la carta de los expertos se dirige especialmente a un desarrollo específico: “pedimos a todos los laboratorios de IA que suspendan inmediatamente, durante al menos seis meses, el entrenamiento de sistemas de IA más potentes que GPT-4".

GPT-4 (Generative Pre-trained Transformer 4) es el sistema de Inteligencia Artificial más avanzado desarrollado por la empresa norteamericana Open IA, que ha sido lanzado este mismo mes.

Ha sido diseñado para la generación de texto en lenguaje natural y es el sucesor de GPT-3, un agente conversacional inteligente que ya desató pasiones desde su lanzamiento el pasado diciembre.

Inteligencia Artificial General

A diferencia de su anterior versión, GPT-4 puede tomar imágenes, además de texto, como entradas para elaborar sus mensajes. Y estamos a las puertas de GPT-5, que según OpenIA puede alcanzar la así llamada “Inteligencia Artificial General”, y que sería indistinguible de la humana. Y no será para mañana. ¿Volvemos a los años 50 del siglo pasado en una nueva versión sofisticada del

Test de Turing

, cuando el precursor de la informática moderna se planteaba un ordenador que pudiera confundirse con la inteligencia humana?

Estos sistemas, según se expresa en la carta, compiten con los humanos y conducen a las siguientes preguntas: "¿deberíamos automatizar todas las tareas, incluidas las gratificantes? ¿Deberíamos desarrollar cerebros no humanos que posiblemente podrían ser más numerosos, más inteligentes, [...] y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?"

La revista Wired

advierte

que GPT-4 ya consigue excelentes resultados en muchas pruebas académicas y resuelve correctamente preguntas espinosas. Pero que también comete "muchos errores triviales y lógicos", además de exhibir "prejuicios sociales arraigados", que pueden empujarlo a "comunicar un discurso de odio o potencialmente dañino". La polémica foto falsa del Papa es un ejemplo de estos peligros.

Aprenden continuamente

Un ejemplo de esta competencia es entre Microsoft y Google, porque la primera ha integrado en su motor de búsqueda Bing el ChatGPT y ha comenzado a desplazar al gigante fundado en 1998 por Serguéi Brin y Larry Page, que ha dominado el 93% de las búsquedas de Internet en los últimos 20 años.

Otro detalle importante: la carta no está firmada por el joven CEO de OpenAI, Sam Altman, que indica no estar de acuerdo con su contenido. Asegura que su empresa se toma la seguridad de la IA muy en serio, según expresó a Deepa Seetharam de The Wall Street Journal. Está claro que esta carrera de la IA no va a parar.

Locura tecnológica

La humanidad se ha enfrentado siempre a amenazas a su supervivencia global tales como impactos de asteroides y supervolcanes. Y, sin embargo, es posible que los riesgos más graves a los que nos enfrentamos sean resultado de nuestro progreso científico,

asegura

Seán Ó hÉigeartaigh, experto del Centre for the Study of Existential Risk (CSER), Cambridge.

No se refería solo a la IA, pero es evidente que su diagnóstico se ve claramente reflejado en la carta promovida por el American Future of Life Institute, y en la que figuran destacados españoles como Carles Sierra, director del Instituto de Investigación de Inteligencia Artificial del CSIC, o Ramón López de Mantaras, anterior director del mismo instituto hasta 2019.

La locura tecnológica nos ha llevado ya a las armas nucleares y a los límites de la vida a través de la ingeniería genética, así como a amenazar la biodiversidad y la misma existencia de la nuestra especie por la agresión que ejercemos sobre la naturaleza.

No parece que la IA vaya a seguir una trayectoria diferente. De cualquier forma, tendremos que rehacer nuestra civilización si queremos reencontrarnos con nosotros mismos. De momento estamos como Dalí, cuando decía “mi locura es sagrada, no la toquen”. Ni aunque lo diga la UNESCO.