IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Disney Plus va contra cuentas compartidas en México

Disney Plus comenzó una nueva etapa en México con medidas que buscan frenar el uso…

9 horas hace

TikTok y el nuevo lenguaje de campañas

Las campañas ya no dependen solo de discursos largos o entrevistas televisivas. TikTok político ganó…

9 horas hace

Seguritech Privada explica retos del internet moderno

¿Te imaginas un mundo donde casi toda la vida cotidiana dependa de internet? Para Seguritech…

1 día hace

Tráfico de aves crece en redes sociales de Yucatán

Las publicaciones de compra y venta de aves protegidas ganan terreno en redes sociales de…

1 día hace

Rusia exige frenar videos deepfake en plataformas digitales

La expansión del contenido manipulado con inteligencia artificial encendió una nueva alarma en Rusia. El…

1 día hace

Zelda une generaciones con una historia viral inesperada

La nostalgia y los videojuegos volvieron a cruzarse en una historia que conmovió a miles…

1 día hace