IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Titanic 114 años después y la tecnología que no lo salvaría

El hundimiento del RMS Titanic sigue siendo uno de los eventos más impactantes en la…

3 horas hace

Robots humanoides que ya están cambiando el mundo

La robótica humanoide dejó de ser una promesa futurista para convertirse en una realidad tangible…

3 horas hace

La nueva era del cine llega con IA en Bollywood

La industria del cine en India vive un giro acelerado que ya se percibe en…

10 horas hace

Artemis II cambia la estrategia lunar de Estados Unidos

La nueva carrera espacial en Estados Unidos avanza con una lógica distinta a la de…

10 horas hace

Luna rosa sorprende en México y se vuelve viral

El cielo nocturno volvió a captar la atención en México con un espectáculo que combinó…

1 día hace

Un salto eléctrico con el Porsche Taycan GTS

El Porsche Taycan GTS pisa fuerte en el panorama automotriz de México con una propuesta…

1 día hace