¿Por qué los humanos somos tan susceptibles a ser engañados por la IA?

¿Por qué los humanos somos tan susceptibles a ser engañados por la IA?

La sensación de estar hablando con una persona cuando interactuamos con un chatbot no es casualidad; es el resultado de una ingeniería sofisticada diseñada para imitar nuestro lenguaje y comportamiento.

Programas como ChatGPT se entrenan con una enorme cantidad de texto, lo que le permite aprender patrones y estilos de conversación.

Pero acá hay algo de psicología también. Los humanos tenemos una tendencia natural a atribuir características humanas a objetos y entidades no humanas, como a un bosque o a los animales, por ejemplo. Esto se conoce como el efecto antropomórfico.

Al ver que un bot puede mantener una conversación coherente y fluida, es fácil creer que detrás hay una mente pensante, que además tiene intención y emociones.

A lo largo de la historia, cuando los humanos entablamos una interacción con algo, tendemos a suponer que nuestra pareja tiene una mente con características similares a las nuestras.

La pregunta ahora es: ¿por qué creemos que estas máquinas piensan, sienten y comprenden?

Lenguaje y pensamiento

Un reciente artículo científico del Laboratorio de Idiomas de la Universidad de Australia Occidental, señala que los humanos incrementamos el efecto antropomórfico porque estamos confundiendo dos conceptos fundamentales: el lenguaje y el pensamiento.