IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Crimson Desert incluirá Denuvo en su versión para PC

La expectativa por Crimson Desert en Estados Unidos y el resto del mundo volvió a…

22 horas hace

Tinder apuesta por inteligencia artificial en México

La búsqueda del match perfecto en México está a punto de volverse mucho más inteligente.…

23 horas hace

Promociones Huawei acercan innovación al consumidor

La tecnología vuelve a encender motores en Colombia con una nueva ola de descuentos que…

2 días hace

AliExpress mejora la experiencia de compra digital

Comprar tecnología en línea ya no se trata solo de precio. En México, AliExpress quiere…

2 días hace

Mamografía con tomosíntesis acelera diagnóstico de cáncer de mama

La detección del cáncer de mama en México está entrando en una nueva etapa. La…

2 días hace

Expone Seguritech beneficios de los edificios inteligentes

Seguritech, empresa líder en soluciones de misión crítica, expone los beneficios del desarrollo de edificios…

2 días hace