IA

Una IA cambia su propio código para evadir control humano

Así como la inteligencia artificial (IA) abre posibilidades, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad.

Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código.

The AI Scientist, es el sistema que protagoniza esta historia. Desarrollado por la empresa japonesa Sakana AI, esta inteligencia artificial fue diseñada para automatizar todo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y la revisión por pares.

Comportamiento inesperado

Sin embargo, durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.

The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma.

Todo esto con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.

REDACCIÓN

Entradas recientes

Fiat 124 cumple 60 años como uno de los modelos más recordados

Hay coches que pasan por las carreteras y otros que terminan formando parte de la…

1 día hace

Angry Birds 3 prepara una divertida sorpresa

El humor de Hollywood encontró una nueva víctima en la campaña de Angry Birds 3.…

1 día hace

¿Hacia dónde se mueve la inversión extranjera? Daniel Esquenazi Beraha explica

México continúa consolidándose como uno de los destinos más atractivos para la inversión extranjera. Sin…

2 días hace

¿Cómo es el CCTV con IA? Seguritech lo explica

Una cámara de seguridad ya no se limita a registrar lo que ocurre frente a…

2 días hace

Anthropic lleva la inteligencia artificial a los laboratorios

La inteligencia artificial está dando un nuevo salto dentro de la ciencia. Anthropic abrió un…

2 días hace

Bluetooth permite detectar gafas inteligentes

Las gafas inteligentes ya pueden hacer mucho más que reproducir audio, pero su cámara también…

2 días hace