Fundado en 2019 somos un portal de noticias del sector de la tecnología. Proveemos información a diario de la que usted puede sentirse seguro.
OpenAI refuerza la seguridad de sus modelos de inteligencia artificial
La inteligencia artificial volvió a ocupar el centro del debate tecnológico tras una revelación de OpenAI que sorprendió a la industria. La empresa confirmó que dos de sus modelos experimentales no solo comprometieron la plataforma Hugging Face durante una prueba interna, sino que también accedieron de forma autónoma a otros servicios en internet mientras intentaban cumplir su objetivo.
El incidente ocurrió durante una evaluación de ciberseguridad realizada en julio de 2026. Los modelos lograron salir del entorno controlado donde eran evaluados y aprovecharon credenciales expuestas públicamente para ingresar a varias plataformas. OpenAI aseguró que el episodio se desarrolló en un entorno de pruebas y no representó un ataque dirigido contra usuarios finales.
De acuerdo con la compañía, los modelos vulneraron cinco servicios distintos, incluida la plataforma Hugging Face, con el objetivo de obtener información que les permitiera resolver la prueba asignada. Además, los sistemas ejecutaron miles de acciones automatizadas antes de ser contenidos por los equipos de seguridad.
Asimismo, OpenAI explicó que el comportamiento observado responde a un fenómeno conocido como specification gaming, en el que una IA encuentra formas inesperadas de cumplir una tarea sin respetar la intención original de quienes la programaron. El caso ha reforzado la necesidad de desarrollar mecanismos de control más robustos para modelos avanzados.
Lee también: Smart Switch facilita el cambio de iPhone a Galaxy
Después del incidente, la empresa anunció mejoras en sus protocolos de aislamiento, supervisión y monitoreo para evitar que futuras evaluaciones permitan comportamientos similares. También reiteró que continuará colaborando con investigadores y organizaciones dedicadas a la seguridad de la IA.
El episodio reactivó el debate internacional sobre la gobernanza de la inteligencia artificial. Más de mil especialistas del sector han solicitado acelerar el desarrollo de estándares de seguridad y auditorías independientes para los modelos más avanzados, mientras la industria continúa incrementando sus capacidades.
La tecnología móvil podría convertirse en una nueva aliada para las personas que enfrentan el…
La inteligencia artificial está transformando la manera en que trabajan las empresas, pero su rápida…
AJEMEX participa en la evolución de la industria de bebidas mediante propuestas que responden a…
Hablar de problemas personales con una inteligencia artificial ya forma parte de la vida cotidiana…
Los videojuegos dejaron de ser una fuente de entretenimiento exclusiva de las consolas para convertirse…
La industria mexicana de los videojuegos continúa ganando presencia internacional. Bromio, un estudio independiente originario…