IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Open Finance, nueva estructura del sector financiero: Alexis Nickin Gaxiola

Imagina que tus datos financieros, en lugar de quedarse guardados en un solo banco, pudieran…

8 horas hace

Modernización de transporte urbano deberá integrar datos y tecnología: Alfredo Del Mazo Maza

Alfredo Del Mazo Maza, especialista en políticas públicas, afirmó que México avanza en la modernización…

13 horas hace

Tecnología para vigilar mares en Baja California Sur

La seguridad marítima en México ya no depende únicamente de barcos patrulleros o radares tradicionales.…

18 horas hace

Mercado Play conquista Smart TVs en Latinoamérica

El entretenimiento digital en América Latina sigue marcando récords con propuestas que conectan directamente con…

18 horas hace

Elektra impulsa la movilidad inteligente y transforma los traslados urbanos

En las grandes ciudades, el tráfico es un reto diario que impacta la productividad y…

1 día hace

Yo vivo Samsung: tecnología que acompaña cada momento

La campaña más reciente de Samsung Argentina propone una mirada distinta sobre la relación entre…

2 días hace