IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

La edición genética abre un nuevo camino contra el cáncer

El tratamiento del cáncer podría cambiar si las propias defensas reciben nuevas instrucciones sin salir…

9 horas hace

Vietnam desarrolla nanofluidos para mejorar MRI y CT

La innovación biomédica de Vietnam está entrando en una etapa especialmente interesante. Investigadores del Instituto…

10 horas hace

Nintendo Switch 2 subirá de precio en México

Comprar una Nintendo Switch 2 será un poco más caro para los jugadores mexicanos. Nintendo…

1 día hace

Hero Hunk 125R suma tecnología al mercado argentino de motos

Las calles de Mendoza reciben una nueva propuesta para quienes buscan movilidad diaria sin dejar…

1 día hace

Game Boy, la consola portátil que cambió para siempre la forma de jugar

Mucho antes de los teléfonos inteligentes, una pequeña consola gris permitió llevar los videojuegos a…

2 días hace

¿Cuál es el mejor videojuego de todos los tiempos? La respuesta depende de cómo se mida

Elegir el mejor videojuego de la historia parece imposible. Cada generación tiene su favorito y…

2 días hace