IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

WhatsApp corrige un problema que podía exponer tus datos

WhatsApp corrigió una vulnerabilidad de seguridad que podía ser aprovechada por estafadores para obtener información…

15 horas hace

Iron Man puede volar y lanzar misiles en Spider-Man 2

Los seguidores de Marvel ya pueden experimentar una aventura inspirada en Iron Man gracias a…

15 horas hace

Samsung anuncia nuevo jefe para sus celulares Galaxy

Samsung anunció un importante cambio en su equipo directivo con el nombramiento de Won-Joon Choi…

2 días hace

BYD logra vender más de 10,000 autos en Japón

La empresa china BYD superó los 10,000 automóviles vendidos en Japón, un mercado donde las…

2 días hace

Signal limitará capturas de pantalla en Android y iPhone

La aplicación Signal anunció nuevas restricciones para las capturas de pantalla con el objetivo de…

2 días hace

¿Qué tan seguro es confiar en la inteligencia artificial?

La confianza en la inteligencia artificial se ha convertido en uno de los principales desafíos…

2 días hace