IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Bebés diseñados y tecnología genética: ¿hasta dónde hemos llegado?

La idea de diseñar bebés antes de nacer ha pasado de la ciencia ficción a…

7 horas hace

Apps de moda que están cambiando cómo usamos el celular

El mundo de las apps vive uno de sus momentos más acelerados y en México…

7 horas hace

Día Mundial del ADN conecta ciencia y medicina personalizada

El ADN dejó de ser un concepto lejano para convertirse en una herramienta concreta que…

14 horas hace

De la popularidad al recuerdo, la historia de Metroflog

Una generación en México encontró en Metroflog una forma única de expresarse en línea, cuando…

15 horas hace

Roblox domina entre niños pese a gráficos simples y juegos básicos

La popularidad de Roblox entre niños en México y el mundo rompe con la lógica…

1 día hace

TikTok niños y cerebro en riesgo por sobreestimulación digital

La relación entre TikTok y niños ha dejado de ser un simple tema de entretenimiento…

1 día hace