IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

La IA también es LGBTQ+

Cuando se habla de inteligencia artificial en México, es común imaginar sistemas fríos, neutros, casi…

20 horas hace

Conoce los OPPO Enco Buds 3 Pro

Con un diseño renovado que combina carcasa translúcida y acabados metálicos, los nuevos OPPO Enco…

20 horas hace

Motorola Edge 70: un smartphone ágil, elegante y listo

Hay teléfonos que desde que los sacas de la caja ya te convencen. El Motorola…

20 horas hace

Alejandro Martínez Araiza plantea propuesta para IA laboral

La expansión de la inteligencia artificial y la automatización ya no es un escenario hipotético,…

1 día hace

Escato impulsa la calidad del mobiliario comercial hecho en México

El auge del mobiliario comercial en México En un entorno global donde el nearshoring está…

2 días hace

México, entre los líderes de Latinoamérica en uso de redes sociales

Una ola digital sigue creciendo en México y no da señales de frenar. El país…

2 días hace