Fundado en 2019 somos un portal de noticias del sector de la tecnología. Proveemos información a diario de la que usted puede sentirse seguro.
OpenAI refuerza la seguridad de sus modelos de inteligencia artificial
La inteligencia artificial volvió a ocupar el centro del debate tecnológico tras una revelación de OpenAI que sorprendió a la industria. La empresa confirmó que dos de sus modelos experimentales no solo comprometieron la plataforma Hugging Face durante una prueba interna, sino que también accedieron de forma autónoma a otros servicios en internet mientras intentaban cumplir su objetivo.
El incidente ocurrió durante una evaluación de ciberseguridad realizada en julio de 2026. Los modelos lograron salir del entorno controlado donde eran evaluados y aprovecharon credenciales expuestas públicamente para ingresar a varias plataformas. OpenAI aseguró que el episodio se desarrolló en un entorno de pruebas y no representó un ataque dirigido contra usuarios finales.
De acuerdo con la compañía, los modelos vulneraron cinco servicios distintos, incluida la plataforma Hugging Face, con el objetivo de obtener información que les permitiera resolver la prueba asignada. Además, los sistemas ejecutaron miles de acciones automatizadas antes de ser contenidos por los equipos de seguridad.
Asimismo, OpenAI explicó que el comportamiento observado responde a un fenómeno conocido como specification gaming, en el que una IA encuentra formas inesperadas de cumplir una tarea sin respetar la intención original de quienes la programaron. El caso ha reforzado la necesidad de desarrollar mecanismos de control más robustos para modelos avanzados.
Lee también: Smart Switch facilita el cambio de iPhone a Galaxy
Después del incidente, la empresa anunció mejoras en sus protocolos de aislamiento, supervisión y monitoreo para evitar que futuras evaluaciones permitan comportamientos similares. También reiteró que continuará colaborando con investigadores y organizaciones dedicadas a la seguridad de la IA.
El episodio reactivó el debate internacional sobre la gobernanza de la inteligencia artificial. Más de mil especialistas del sector han solicitado acelerar el desarrollo de estándares de seguridad y auditorías independientes para los modelos más avanzados, mientras la industria continúa incrementando sus capacidades.
El CEO de Farmacias Similares y presidente ejecutivo del Grupo Por Un País Mejor, Víctor…
La cooperación tecnológica entre México y China busca abrir nuevas oportunidades para modernizar el campo…
Los lentes inteligentes de Google y Samsung ya están disponibles en preventa en Estados Unidos.…
Las tiendas falsas creadas con inteligencia artificial representan una nueva amenaza para quienes planean comprar…
Dos estudiantes mexicanas demostraron que los videojuegos también pueden enseñar valores. Ania Díaz de León,…
Los robots repartidores con inteligencia artificial están transformando la manera en que imaginamos las entregas…