IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Truth Social lanza acceso exclusivo para inversionistas

Los mensajes publicados por Donald Trump en Estados Unidos ya no solo generan debate político.…

8 horas hace

iPhone 18 Pro Max tendría la mejor cámara de Apple

La próxima generación del iPhone 18 Pro Max comienza a tomar forma con una filtración…

9 horas hace

AirTag revolucionó el rastreo de objetos personales

Perder las llaves, una mochila o incluso una maleta puede arruinar cualquier día. Apple encontró…

22 horas hace

Jurassic Park, la película que hizo realidad a los dinosaurios

Pocas películas pueden presumir haber cambiado una industria completa. Jurassic Park no solo revolucionó el…

22 horas hace

Banco Azteca consolida su liderazgo en crédito al consumo ante Euromoney

La evolución de la banca comercial en los mercados emergentes exige un balance perfecto entre…

1 día hace

XPeng L03 convierte la IA en tu copiloto

La inteligencia artificial da un nuevo paso dentro del automóvil. El fabricante chino XPeng presentó…

1 día hace