IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Acciones de tecnología de red avanzan pese a temores de burbuja en IA

El mercado bursátil en Estados Unidos mantiene el foco en las acciones de tecnología de…

7 horas hace

Tecnología ayuda a gobiernos a operar con enfoque empresarial

Los gobiernos en Estados Unidos están replanteando la forma en que administran su infraestructura digital…

7 horas hace

Nueva tecnología háptica permite ver y sentir gráficos 3D

Investigadores de la Universidad de California en Santa Bárbara (UCSB) desarrollaron una pantalla háptica 3D…

8 horas hace

Australia aplica tecnología para bloquear a menores en redes sociales

Australia dio un paso inédito en regulación digital al poner en marcha tecnología obligatoria para…

8 horas hace

La NFL redefine estándares de seguridad

La NFL avanza en Estados Unidos hacia un nuevo modelo de seguridad para sus jugadores…

8 horas hace

Empresas reinvierten productividad generada por IA

La inteligencia artificial dejó de ser una promesa para convertirse en una palanca real de…

8 horas hace