IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Televisores sin reflejos, el nuevo foco de Samsung

En España, ver una serie en la tele a plena luz del día ya no…

17 horas hace

El boom silver en apps de citas

Encontrar el amor a cualquier edad es una posibilidad muy real, pero para los adultos…

18 horas hace

Estas apps gastan tus datos móviles sin que lo sepas

Ni siquiera las estás usando y ya te están drenando el plan. Muchas apps en…

20 horas hace

Todo lo que podrás hacer con el nuevo visor Galaxy XR

El primer visor de realidad extendida de Samsung, el Galaxy XR, se perfila como uno…

20 horas hace

OpenAI lanza ChatGPT Atlas, su nuevo navegador con IA

OpenAI acaba de entrar a un nuevo terreno: los navegadores web. La empresa presentó ChatGPT…

1 día hace

Apple se adelanta con fecha de lanzamiento de iOS 17.6.1

Aunque todas las miradas apuntan al esperado iOS 18, Apple tiene un movimiento más bajo…

2 días hace