IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Amazon revoluciona el mercado con su nueva marca de comestibles

Amazon sorprendió a Estados Unidos al lanzar una línea de productos de supermercado que promete…

3 horas hace

Reino Unido insiste en acceder a datos cifrados de Apple

El debate sobre la privacidad digital en Reino Unido volvió a encenderse tras revelarse que…

4 horas hace

VOLT Energy Fans: AJEMEX fusiona pasión con creatividad

En las ciudades de México y Lima, Perú, miles de aficionados viven cada partido del…

6 horas hace

Ciberataque en aerolínea canadiense expone datos de millones de pasajeros

La tranquilidad de los viajeros en Canadá se vio alterada tras la confirmación de una…

23 horas hace

Amazon ofrece descuentos irresistibles en gadgets y dispositivos inteligentes

España se prepara para una ola de ofertas tecnológicas que no puedes dejar pasar. Amazon…

24 horas hace

Críticas al impuesto a videojuegos destacan riesgos para industria local

El reciente anuncio de un impuesto a los videojuegos violentos ha encendido el debate en…

24 horas hace