IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

México avanza como potencia global en turismo médico

Al cierre de 2024, México atendió cerca de 1.4 millones de pacientes provenientes de Estados…

7 horas hace

La inteligencia artificial como palabra clave del cibercrimen moderno

El nombre de Vyacheslav Penchukov —mejor conocido en la red como “Tank”— aparece cuando hablamos…

7 horas hace

Tecnología premium en maquinaria agrícola impulsa eficiencia con agricultura de precisión

El campo argentino vive una transformación acelerada gracias a una ola de tecnología aplicada a…

7 horas hace

Apple redefine Siri con inteligencia artificial sin mencionar a Google

La próxima evolución de Siri avanza con una estrategia tan sorprendente como calculada. Apple prepara…

7 horas hace

La tecnología que da voz con la mirada revoluciona la inclusión digital

Hablar sin mover un solo músculo se vuelve posible gracias a una innovación desarrollada en…

8 horas hace

Las mejores apps para iPhone que todo viajero en Europa debe tener

Descubrir Europa con solo una mochila y un iPhone es más fácil que nunca. Si…

13 horas hace