IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

La guerra del futuro ya se libra con algoritmos y tecnología

Durante siglos, la inteligencia militar dependió de espías, satélites y operaciones secretas. Hoy, gran parte…

2 horas hace

La inteligencia artificial podría consumir tanta agua como 1,300 millones de personas

La revolución de la inteligencia artificial tiene una factura oculta que pocas personas ven. Mientras…

2 horas hace

La inteligencia artificial transformará la Copa Mundial FIFA 2026

La Copa Mundial FIFA 2026 promete mucho más que fútbol. México, Estados Unidos y Canadá…

9 horas hace

Samsung domina el mercado móvil latinoamericano

El mercado de smartphones en América Latina vive una etapa de cambios interesantes. Aunque Samsung…

9 horas hace

Antes de WhatsApp existió MSN y cambió internet para siempre

Mucho antes de los grupos familiares, los mensajes de voz y las videollamadas desde el…

1 día hace

Asia le da la espalda al iPhone y apuesta por sus propias marcas

Durante años, tener un iPhone fue sinónimo de estatus en gran parte de Asia. Sin…

1 día hace