Los sesgos de los “loros estocásticos”

• Published date: 15 January 2024
• Law Firm: Ibarra Rimón

El término “loros estocásticos” fue acuñado por Emily M. Bender, Timnit Gebru, entre otros, para referirse a la IA que no hace otra cosa que imitar el lenguaje basándose en patrones estadísticos de datos, pero sin ninguna comprensión real de su significado. La analogía alude a que la IA repite frases al azar guiada por probabilidades, como un loro, sin entender lo que dice.

La importancia de esta metáfora es que enfatiza el hecho de que la IA carece de una real comprensión del significado del lenguaje, de la información o de las conversaciones que mantiene con el usuario, toda vez que se trata de un sistema fundamentado en el azar y en unas combinaciones basadas en índices de probabilidades.

En efecto, la IA se limita a reconocer patrones derivados de grandes volúmenes de datos para calcular la respuesta más probable estadísticamente con base en modelos matemáticos, pero carece de consciencia, de imaginación, de emociones o sentimientos y de la aptitud para percibirlos, razón por la cual no pude compararse con la inteligencia humana.

Así que la denominación de “loro” deviene del hecho de que la AI se limita a repetir frases aprendidas sin entender su significado, y “estocástico” de que usa modelos aleatorios, estadísticos o probabilísticos para generar sus respuestas.

Uno de los peligros que representa la AI es la denominada “falacia antropomórfica” que, en este caso, consiste en atribuir erróneamente cualidades humanas a lo que es simplemente una tecnología sin consciencia.

Sobre el particular, los expertos señalan que el ser humano tiende a auto engañarse y a creer que está interactuando con un sistema consciente, más aún si se tiene en cuenta que la IA es capaz de sostener una conversación coherente, lo que puede facilitar esta inclinación. Entendidos como Alberto Aguiar y Emma Galdon (Bussines insider 2022), advierten que el público suele atribuir a la AI cierta autoridad...