IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

Silvia Chavela

Entradas recientes

Norman Hagemeister transforma Georgia James con alta cocina sensorial

Georgia James, el legendario steakhouse texano ubicado en el distrito de Montrose en Houston, entra…

15 horas hace

Crean sangre artificial en polvo para emergencias

Un equipo de científicos de la Universidad de Maryland ha creado un tipo de sangre…

20 horas hace

Bari Ristorante redefine la hospitalidad bajo visión de Norman Hagemeister

Norman Hagemeister, reconocido por su enfoque en la innovación financiera y el impacto social, ha…

2 días hace

IA reconstruye textos antiguos incompletos

Aeneas, una nueva herramienta basada en inteligencia artificial (IA), predice las partes que faltan en…

2 días hace

Logran ver el interior del Volcán Popocatépetl con IA

Un grupo de científicos mexicanos logró “ver” el interior del volcán Popocatépetl mediante un innovador…

2 días hace

Tec busca transformar el futuro de la educación global

El Institute for the Future of Education (IFE) del Tec de Monterrey presentó reporte en…

3 días hace