IA

Detectarán «alucinaciones» de ChatGPT

En el terreno de la Inteligencia Artificial (IA), los modelos de lenguaje grande como ChatGPT, Claude, Copilot DALL-E e incluso Google Gemini han demostrado ser herramientas impresionantes, que producen un alto grado de inquietud por el futuro laboral humano por el aparente rango de efectividad de sus resultados.

Sin embargo, todos estos modelos actuales comparten un problema común y que podemos considerar como grave: la tendencia a generar información falsa o “alucinaciones”.

Este problema ha generado errores vergonzosos y ha limitado la utilidad de estas herramientas. Las alucinaciones de la IA es uno de los elementos más graves de esta tecnología, tan delicado que hasta Sam Altman, CEO de OpenAI, en más de una ocasión han intentado minimizarlo usando impresionantes acrobacias retóricas:

“Gran parte del valor de estos sistemas está fuertemente relacionado con el hecho de que alucinan. Son más un feature o característica de sus funciones que un bug o fallo. Si quieres buscar algo en una base de datos, ya hay cosas más útiles para hacerlo”.

Esto a todas luces es un ardid, ya que el problema con estas alucinaciones de la IA es que son tan sutiles y están tan bien entretejidos con la información verdadera que pueden pasar por ciertos ante alguien que no domine el tema del que la plataforma desarrolló el material.

al vez el ejemplo más claro y reciente de los peligros que implican estas alucinaciones lo vivimos hace poco cuando Google se vio obligado a retirar sus resúmenes de búsqueda potenciados por Inteligencia Artificial. Luego de que Gemini comenzara a sugerir ponerle pegamento a la pizza y comer piedras. La buena noticia es que viene una solución real en camino.

Fuente: msn.com

REDACCIÓN

Entradas recientes

Juan Domingo Beckmann: cómo mantener el legado de José Cuervo mientras se transforma para el futuro

La continuidad de una empresa familiar no depende únicamente de conservar su historia, sino de…

21 horas hace

La inteligencia artificial fortalece el pronóstico de huracanes

La inteligencia artificial está ganando espacio en el pronóstico de huracanes. Su capacidad para analizar…

3 días hace

UNAM investiga cómo los relojes inteligentes pueden detectar cambios en la salud

Los relojes inteligentes y la salud tienen una relación cada vez más cercana. Registrar la…

3 días hace

Italia multa a Meta por acceder a fotos y videos de usuarios Android

La multa a Meta en Italia asciende a 805 millones de euros, aproximadamente 887 millones…

4 días hace

Innovación cardíaca amplía las opciones para niños y jóvenes

Las válvulas pulmonares transcatéter permiten atender determinados problemas cardíacos mediante un procedimiento menos invasivo que…

4 días hace

Sorteos en redes, premios que también necesitan pruebas

Los sorteos en redes sociales prometen celulares, viajes y otros premios a cambio de seguir…

5 días hace