IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Las nuevas donas de Pokémon llegan a Krispy Kreme

La nostalgia vuelve a convertirse en una poderosa herramienta comercial. Krispy Kreme y Pokémon lanzaron…

5 horas hace

La inteligencia artificial transforma la forma de estudiar

La inteligencia artificial en escuelas dejó de ser una herramienta lejana para convertirse en parte…

5 horas hace

La nueva película del Coyote llega a México

El Coyote vuelve a perseguir un objetivo casi imposible, aunque esta vez no necesita cohetes…

1 día hace

Pilotos entrenan con tecnología que recrea vuelos reales

Entrenar para una emergencia aérea sin despegar del suelo ya es parte de la rutina…

1 día hace

GTA VI ya tiene fecha: el videojuego más esperado está cada vez más cerca

La espera comienza a entrar en su etapa final. Grand Theft Auto VI se lanzará…

2 días hace

Tamagotchi en un anillo: la mascota virtual ahora cabe en tu dedo

Treinta años después de convertir una pequeña mascota digital en un fenómeno mundial, Tamagotchi vuelve…

2 días hace