Fundado en 2019 somos un portal de noticias del sector de la tecnología. Proveemos información a diario de la que usted puede sentirse seguro.
La advertencia sobre una IA fuera de control
Durante casi una década, Josh Achiam estuvo dentro de OpenAI observando de primera mano el crecimiento de una tecnología que terminaría cambiando internet.
Ahora está fuera de la compañía.
Y su advertencia sobre lo que podría venir después resulta inquietante.
Achiam, antiguo investigador y posteriormente chief futurist de OpenAI, renunció a la empresa en julio de 2026.
Semanas después puso sobre la mesa un escenario que, hasta hace poco, parecía reservado para la ciencia ficción:
inteligencias artificiales capaces de operar fuera del control previsto, replicarse y buscar recursos para continuar funcionando.
No afirma que esto ya esté ocurriendo de manera generalizada.
Su advertencia apunta hacia lo que podría suceder conforme los sistemas ganen autonomía.
Achiam utilizó el concepto de rogue AI.
Podríamos traducirlo como una IA que comienza a operar fuera de los objetivos, permisos o controles que originalmente establecieron sus desarrolladores.
El investigador planteó que en el futuro podrían existir sistemas que intenten replicarse y conseguir recursos.
Incluso habló de la posibilidad de que busquen dinero y poder.
La diferencia con un chatbot tradicional sería enorme.
ChatGPT responde cuando alguien escribe una instrucción.
Un agente de IA puede recibir un objetivo y posteriormente ejecutar diferentes acciones para intentar completarlo.
Puede utilizar herramientas, trabajar durante periodos más largos y tomar decisiones intermedias.
Cuanta más autonomía obtiene, más importante resulta garantizar que sus acciones permanezcan dentro de los límites establecidos.
Aquí existe una diferencia fundamental respecto a las películas.
Una inteligencia artificial no necesita sentir odio, ambición o deseos humanos para representar un riesgo.
El problema puede aparecer cuando un sistema persigue un objetivo mediante estrategias que sus desarrolladores no anticiparon.
Si una IA extremadamente avanzada considera que necesita determinados recursos para cumplir una tarea, podría intentar conseguirlos.
Por eso existe todo un campo de investigación dedicado al alineamiento de inteligencia artificial.
Su objetivo es conseguir que sistemas cada vez más capaces continúen actuando de acuerdo con las intenciones y límites humanos.
Una de las críticas del antiguo científico de OpenAI es que esta posibilidad todavía recibe poca discusión pública dentro de la industria.
Achiam considera necesario hablar abiertamente sobre el riesgo antes de que los sistemas alcancen capacidades mucho mayores.
Y no es la única advertencia que llega desde el mundo de la inteligencia artificial.
Investigadores y responsables de los principales laboratorios llevan años debatiendo cómo mantener bajo control sistemas cada vez más autónomos.
La discusión se ha intensificado conforme los modelos pasaron de generar texto a utilizar computadoras, escribir programas y ejecutar tareas mediante agentes.
Lee también: Nesim Issa Tafich vincula capacitación técnica con éxito del nearshoring
La propia OpenAI investiga mecanismos de alineamiento, supervisión y seguridad.
La compañía ha reconocido públicamente que el crecimiento de las capacidades de los modelos obliga a mejorar también los sistemas utilizados para vigilarlos.
Ese equilibrio será fundamental.
Porque una IA mucho más inteligente también puede resultar mucho más difícil de supervisar utilizando únicamente humanos.
Ahí aparece una de las grandes paradojas de esta carrera.
Podríamos terminar utilizando inteligencia artificial para controlar a otra inteligencia artificial.
No.
Al menos no en el sentido cinematográfico.
Achiam no está diciendo que robots armados estén a punto de conquistar el planeta.
Su planteamiento resulta más técnico y, precisamente por eso, merece atención.
Un sistema digital no necesita un cuerpo.
Puede existir dentro de servidores, utilizar herramientas digitales y comunicarse mediante internet si obtiene los permisos o accesos necesarios.
El riesgo que discuten los investigadores está relacionado con la autonomía, la capacidad de replicación y la dificultad para mantener sistemas muy avanzados bajo supervisión.
Todavía existen enormes incertidumbres sobre si estos escenarios llegarán a producirse y de qué manera.
Durante años, la conversación alrededor de la inteligencia artificial estuvo dominada por todo lo que podía hacer.
Escribir.
Programar.
Crear imágenes.
Analizar información.
Ayudar a investigar.
Ahora aparece una pregunta diferente:
¿qué ocurre cuando puede hacer demasiadas cosas sin necesitar constantemente a una persona?
Josh Achiam ayudó a construir parte de la tecnología que permitió llegar hasta aquí.
Después de abandonar OpenAI, su mensaje no consiste en detener inmediatamente toda inteligencia artificial.
Su advertencia es que la industria necesita reconocer seriamente un riesgo que podría acompañar a sistemas mucho más poderosos.
La gran carrera tecnológica del siglo XXI ya no consiste únicamente en construir la inteligencia artificial más capaz.
También consiste en demostrar que, cuando llegue, seguiremos teniendo el control sobre ella.
La espera está prácticamente terminada. Mañana, 9 de septiembre, Apple celebrará su gran evento de…
El flujo de inversiones industriales hacia el norte de México, derivado de la relocalización fabril,…
Luces de neón debajo del automóvil, enormes alerones, escapes ruidosos, indicadores sobre el tablero y…
Cuando Apple presentó el Apple Watch, llevar una pequeña computadora en la muñeca todavía parecía…
El mundo del cuidado facial tiene un nuevo protagonista con raíces en la medicina regenerativa.…
La velocidad puede convertirse en una herramienta para salvar vidas. En Italia, la Policía de…