Durante años, la inteligencia artificial solamente conoció una dirección:
más rápido.
Modelos más grandes. Más datos. Más capacidad. Más autonomía. Más inversiones. Una competencia permanente por lanzar antes que los demás.
Ahora aparece una señal diferente.
Dario Amodei, CEO y cofundador de Anthropic, la compañía detrás de Claude, ha planteado la necesidad de controlar el ritmo con el que aumentan las capacidades de los sistemas más avanzados.
El mensaje resulta especialmente poderoso porque no viene de alguien que quiera detener la inteligencia artificial.
Viene de uno de los hombres que está compitiendo por construirla.
La IA acaba de encontrarse con una de las primeras grandes señales de freno provenientes desde el interior de su propia carrera.
Durante años la competencia fue acelerar
ChatGPT cambió el mercado cuando la inteligencia artificial generativa llegó al público masivo.
Después comenzó una carrera extraordinaria.
OpenAI avanzó con GPT. Google respondió con Gemini. Anthropic impulsó Claude. Meta desarrolló sus propios modelos y otras compañías entraron en una competencia que rápidamente se convirtió en multimillonaria.
Cada nueva generación debía superar a la anterior.
Razonar mejor.
Programar mejor.
Entender imágenes.
Procesar documentos.
Utilizar herramientas.
Navegar por sistemas.
Y finalmente actuar con una autonomía cada vez mayor.
La industria pasó del chatbot que contestaba preguntas al concepto del agente de inteligencia artificial capaz de realizar tareas.
Ahí cambia completamente la discusión.
El problema ya no es solamente qué responde la IA
Un chatbot tradicional espera una instrucción.
Un agente puede recibir un objetivo y ejecutar diferentes pasos para alcanzarlo.
Eso significa que la seguridad deja de depender exclusivamente de evitar una respuesta peligrosa.
También importa controlar lo que el sistema puede hacer.
Cuantas más herramientas recibe una IA, mayores son sus posibilidades.
Puede trabajar con código, archivos, aplicaciones y diferentes sistemas digitales cuando dispone de los permisos correspondientes.
Por eso las compañías necesitan establecer límites mucho más sofisticados.
La pregunta dejó de ser únicamente:
¿qué puede decir una inteligencia artificial?
Ahora también debemos preguntarnos:
¿qué podemos permitirle hacer?
Anthropic plantea reducir deliberadamente la velocidad
La postura de Amodei rompe con una lógica fundamental de Silicon Valley.
Durante décadas, avanzar rápido representaba una ventaja.
En inteligencia artificial, hacerlo demasiado rápido podría convertirse también en un riesgo.
El planteamiento consiste en evitar que las capacidades de los modelos avancen mucho más rápido que nuestra capacidad para evaluarlos y controlarlos.
No significa apagar Claude.
Tampoco abandonar el desarrollo de nuevos modelos.
Significa introducir distancia entre el acelerador tecnológico y los mecanismos de seguridad.
Porque construir primero y descubrir después cómo controlar el producto puede ser una estrategia aceptable para una aplicación.
Con sistemas cada vez más autónomos, la ecuación puede ser diferente.
Lee también: La app de Honda permite ver motos con realidad aumentada
La propia IA podría acelerar el desarrollo de nuevas IA
Aquí aparece uno de los escenarios que más preocupa a investigadores.
Los modelos ya ayudan a programar.
También pueden analizar información, detectar errores, proponer soluciones y participar en tareas relacionadas con investigación.
Conforme esas capacidades aumenten, la inteligencia artificial podría participar cada vez más en el desarrollo de nuevas generaciones de sistemas.
Eso podría acelerar todavía más el ciclo.
Una IA ayuda a desarrollar otra mejor.
La siguiente puede ayudar todavía más.
El problema no necesita parecerse a una película donde una máquina “despierta”.
Existe un escenario mucho menos cinematográfico.
Simplemente podríamos construir sistemas cada vez más capaces a una velocidad superior a nuestra capacidad para comprender sus riesgos.
La gran pregunta: ¿quién se atreve a frenar primero?
Existe un enorme obstáculo.
La competencia.
Si una compañía decide avanzar lentamente mientras otra acelera, la primera puede perder usuarios, inversiones y liderazgo tecnológico.
La misma situación existe entre países.
Estados Unidos y China consideran la inteligencia artificial una tecnología estratégica.
Nadie quiere quedarse atrás.
Por eso desacelerar unilateralmente resulta extremadamente complicado.
Para que una reducción de velocidad funcione realmente, serían necesarios estándares comunes, evaluaciones independientes y algún grado de coordinación entre empresas y gobiernos.
De lo contrario, todos pueden reconocer el peligro y continuar acelerando por miedo a que otro llegue primero.
El freno también demuestra cuánto cambió la IA
Hace apenas unos años discutíamos si una inteligencia artificial podía escribir un buen ensayo.
Ahora discutimos cuánto poder deberíamos permitir que tengan los sistemas autónomos.
Ese cambio ocurrió extraordinariamente rápido.
La IA pasó de curiosidad tecnológica a infraestructura estratégica.
Miles de millones de dólares están en juego.
También empleos, empresas, seguridad informática, educación, ciencia y poder geopolítico.
Por eso resulta tan significativo escuchar la palabra desacelerar desde dentro de una compañía que desarrolla modelos de frontera.
La carrera de la IA descubre que también existe el freno
Durante toda esta etapa tecnológica, la obsesión estuvo puesta en construir una inteligencia artificial más poderosa.
La siguiente discusión puede ser completamente diferente.
No se tratará únicamente de cuánto puede hacer.
Se tratará de cuánto queremos permitirle hacer sin supervisión.
La inteligencia artificial no se está deteniendo.
Tampoco está desapareciendo.
Probablemente seguirá avanzando a una velocidad extraordinaria.
Pero por primera vez en esta etapa de la carrera, algunas de las personas que tienen el pie sobre el acelerador están empezando a discutir seriamente cuándo conviene levantarlo.
Y quizá ese sea uno de los momentos más importantes en la corta historia de la inteligencia artificial moderna:
descubrir que avanzar no siempre significa acelerar.
