La confianza en la inteligencia artificial se ha convertido en uno de los principales desafíos tecnológicos de 2026. A medida que estas herramientas adquieren nuevas capacidades, también aumentan las preguntas sobre su seguridad, funcionamiento y responsabilidad cuando cometen errores.
Durante años, los programas informáticos funcionaban mediante instrucciones previamente establecidas. Sin embargo, los sistemas actuales de inteligencia artificial pueden generar respuestas, analizar información y resolver problemas sin que cada resultado haya sido programado de manera específica. Esta evolución ha permitido automatizar actividades que antes dependían completamente de las personas.
El cambio es todavía mayor con los llamados agentes de IA, herramientas capaces de consultar bases de datos, utilizar aplicaciones y ejecutar acciones. En una columna publicada en Expansión, el especialista Jorge López Chapa advierte que confiar en estas tecnologías implica considerar no solamente sus respuestas, sino también las decisiones que pueden tomar y los sistemas a los que tienen acceso.
¿Cuáles son los riesgos de confiar en la inteligencia artificial?
Uno de los principales riesgos aparece cuando una herramienta de IA puede realizar operaciones sin supervisión humana inmediata. Por ejemplo, un sistema conectado a una plataforma empresarial podría modificar información de clientes o iniciar procesos financieros si cuenta con los permisos necesarios.
Según cifras de McKinsey citadas por López Chapa, el 40% de los encuestados pertenecientes a organizaciones con ingresos superiores a 1,000 millones de dólares indicó que su empresa ya estaba ampliando el uso de agentes de IA en al menos una función. Un año antes, esa proporción era del 27%.
Estos avances también aumentan la dependencia de los componentes tecnológicos que permiten funcionar a la inteligencia artificial. Desde los procesadores hasta los centros de datos y los modelos utilizados, cada elemento puede influir en la seguridad y confiabilidad del sistema.
Por ello, los especialistas recomiendan establecer controles que permitan identificar errores, limitar el acceso a información sensible y determinar qué decisiones necesitan autorización humana.
Para conocer: Nike presenta nueva tecnología para fabricar sus tenis
Las empresas necesitan establecer límites para la IA
El crecimiento de la inteligencia artificial plantea un desafío que va más allá de instalar nuevas herramientas. Las organizaciones también necesitan definir cómo se utilizarán, quién supervisará sus actividades y qué procedimientos deberán seguirse cuando ocurra una falla.
De acuerdo con otro estudio de McKinsey citado en la columna, solamente alrededor del 30% de las organizaciones alcanza niveles avanzados de preparación en estrategias, supervisión y controles relacionados con agentes de inteligencia artificial.











