Opinión | TECNOLOGÍA
Qué escandalo, la inteligencia artificial no es justa
No exijamos a las máquinas más de lo que somos capaces de asumir como humanos. ¿O sí?
Al parecer los algoritmos tienen sesgos y se equivocan. Es uno de los riesgos de la inteligencia artificial que suelen destacar los expertos críticos, sugiriendo que no se puede dejar que las máquinas tomen decisiones porque los algoritmos no siempre son justos. Se suceden historias que evidencian ese riesgo y nos llevamos las manos a la cabeza al constatar que máquinas programadas por humanos discriminan y fallan como humanos, ¿cómo puede ser? Recuerda a la falsa sorpresa del capitán Renault en la mítica Casablanca cuando exclama: ¡Qué escandalo, qué escándalo, he descubierto que aquí se juega!
La inteligencia artificial ya no pertenece al campo de la ciencia ficción, forma parte de nuestro día a día en muchos ámbitos importantes de la vida como el trabajo, el consumo o la salud, a veces de manera evidente, otras de forma invisible. Casi siempre de manera cómoda y eficaz. Pero la IA es una disciplina científica y una herramienta que desarrollan los humanos, con conocimientos humanos, con razonamientos humanos y, sobre todo, con datos humanos. Los datos son el alimento principal de los algoritmos, la materia prima de un mecanismo relativamente simple que consiste en detectar patrones y convertirlos en predicciones.
Y sí, la inteligencia artificial puedes ser sexista, racista e injusta. Lo hemos visto en casos de reconocimiento facial, de traductores automáticos o de asignación de recursos. En su proceso de aprendizaje los algoritmos pueden incorporar sesgos o prejuicios discriminatorios, que pueden derivar en un rendimiento que perpetúe realidades de desigualdad o injustas. El matiz es importante; las repite, no las genera. Los sistemas de inteligencia artificial están diseñados por personas que tienen una determinada visión del mundo y una percepción de la realidad basada en sus propias experiencias, tabúes, manías y hasta supersticiones. El razonamiento humano, incluso el de los científicos del MIT, está lastrado por a prioris que lo distorsionan de manera inconsciente. La estereotipación, la apofenia o el de confirmación, son sólo algunos de los sesgos cognitivos que condicionan nuestra forma de pensar, de percibir la realidad y de actuar.
Hay que evitar que los sesgos humanos se filtren en el diseño y los criterios de evaluación de los modelos algoritmos, sobre todo en decisiones que nos afectan directamente y en asuntos delicados como la libertad, la salud o nuestra seguridad. Hay un reconocimiento general de la comunidad científica de que esto es importante y son numerosas las iniciativas para corregir este problema y evitar que los humanos “contagien” a las máquinas con sus prejuicios. Una solución obvia es contar con equipos de investigadores lo más diversos posibles. También generar y trabajar con bases de datos equilibradas y representativas. En el futuro, los modelos estarán entrenados para detectar ellos mismos los sesgos más evidentes.
Pero no nos llamemos a engaño falsamente, la justicia y la equidad son aspiraciones permanentes, nunca alcanzadas plenamente, de las sociedades desarrolladas. Requieren un compromiso y un esfuerzo continuo de los poderes públicos, los actores económicos y la sociedad en su conjunto. No exijamos a las máquinas más de lo que somos capaces de asumir como humanos. ¿O sí?
- La Audiencia Nacional obliga a García Castellón a imputar a un policía por facilitar datos a Villarejo
- Viggo Mortensen: "En España se está copiando lo que ya le ha funcionado a Trump
- De una piscina en el Manzanares a una fábrica de coches en Lavapiés: todo el patrimonio que ya no volverás a ver en Madrid
- Montoro fue alertado de una actuación judicial del 'caso Pokémon': “Mañana Vigilancia Aduanera hará registros”
- El antes, durante y después del rock radical vasco: "Con la desaparición de ETA se produce un momento musical hedonista
- Así es por dentro el Palacio de la Trinidad, cerrado al público durante años: "Es el más desconocido de Madrid
- El milagro de Anguix, el pueblo con paro cero de la España vaciada: "Quien quiere trabajar trabaja
- Con el matrimonio holandés que compró un pueblo abandonado de Burgos: "Ya hay gente interesada en venir a vivir