IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Ahorrar datos móviles con cambios simples en tu teléfono

Los datos móviles pueden desaparecer mucho más rápido de lo que parece cuando el celular…

4 horas hace

Amazon baja el precio de los Bose QuietComfort

Encontrar unos audífonos premium con un descuento importante no ocurre todos los días. En México,…

5 horas hace

Estados Unidos exige fabricar autos sin tecnología china

Los cambios en la política comercial de Estados Unidos vuelven a sacudir a la industria…

1 día hace

Dale un nuevo estilo a tu bio de Instagram

Una buena bio de Instagram puede marcar la diferencia entre pasar desapercibido o captar la…

1 día hace

One UI 8.5 lleva más inteligencia artificial a las Galaxy Tab S

La experiencia con tablets da un nuevo paso en Chile gracias a Samsung. La compañía…

1 día hace

¿Qué es TikTok 67 y por qué está en todas partes?

Las tendencias de TikTok 67 vuelven a demostrar cómo una simple combinación de números puede…

1 día hace