IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Fraudes en venta de vehículos siguen al alza en redes sociales mexicanas

Un auto a buen precio, entrega inmediata y trato directo por redes sociales. Suena conveniente,…

10 horas hace

Menos hospitalizaciones gracias a nuevas terapias de precisión

La medicina del futuro ya se está ensayando en los laboratorios y hospitales de Europa.…

11 horas hace

Una joya estilo Zelda que revive gracias a PS Plus

Hay juegos que no arrasaron en ventas ni premios, pero que se ganan el corazón…

14 horas hace

Inteligencia artificial para revivir fallecidos inquieta a usuarios y expertos

No es ciencia ficción, tampoco un episodio nuevo de Black Mirror. Una startup estadounidense llamada…

1 día hace

Películas de Hollywood que se grabaron en México

Hay algo en la mezcla de historia, naturaleza y caos urbano que vuelve a México…

1 día hace

Redes sociales: ¿una cuenta ya no es suficiente?

Ya no basta con tener “la cuenta oficial”. En México, cada vez más marcas y…

1 día hace