IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Pasta dental hecha con cabellos podría reparar la dentadura

Una nueva investigación hecha por científicos de King’s College de Londres (KCL), en Reino Unido…

1 día hace

Multiva recibe la división fiduciaria de CIBanco por instrucción de Hacienda

La Secretaría de Hacienda y Crédito Público anunció que Banco Multiva será la institución que…

2 días hace

Buscan convertir basura y aguas residuales en biogás

Científicos del Instituto Politécnico Nacional (IPN) y de la Universidad Autónoma Metropolitana (UAM) trabajan en…

2 días hace

Península de Baja California se separa de México

La Península de Baja California se separa de México a un ritmo de centímetros por…

2 días hace

México será sede del STS Forum para América Latina y el Caribe

México anuncia que será el anfitrión del STS Forum (Science and Technology in Society Forum)…

3 días hace

Sam Altman financia una empresa de implantes cerebrales

Según relata el medio Financial Times, Altman estaría preparándose para financiar una startup rival de…

3 días hace