IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

¿Therian qué es y por qué esta identidad animal viral crece en México?

La conversación digital en México y otros países de habla hispana no para de crecer…

20 horas hace

Lanzamientos Ivrea para lectores

Editorial Ivrea mantiene el pulso del mercado del manga en España con un nuevo listado…

21 horas hace

Mercados de predicción toman fuerza con el financiamiento de Novig

En Estados Unidos la forma en que los fanáticos interactúan con los eventos deportivos se…

2 días hace

Corte Suprema de EE UU invalida aranceles que afectaban videojuegos

Una decisión contundente sacudió el mercado tecnológico en Estados Unidos y cambió el rumbo de…

2 días hace

Medicina veterinaria rechaza atención a personas con identidad therian

En Costa Rica se encendió un debate luego de que el Colegio de Médicos Veterinarios…

3 días hace

Mujeres en ciencia transforman la salud en Colombia

La energía que hoy rodea la innovación médica en Colombia nace de historias que desafían…

3 días hace