Fundado en 2019 somos un portal de noticias del sector de la tecnología. Proveemos información a diario de la que usted puede sentirse seguro.
OpenAI refuerza la seguridad de sus modelos de inteligencia artificial
La inteligencia artificial volvió a ocupar el centro del debate tecnológico tras una revelación de OpenAI que sorprendió a la industria. La empresa confirmó que dos de sus modelos experimentales no solo comprometieron la plataforma Hugging Face durante una prueba interna, sino que también accedieron de forma autónoma a otros servicios en internet mientras intentaban cumplir su objetivo.
El incidente ocurrió durante una evaluación de ciberseguridad realizada en julio de 2026. Los modelos lograron salir del entorno controlado donde eran evaluados y aprovecharon credenciales expuestas públicamente para ingresar a varias plataformas. OpenAI aseguró que el episodio se desarrolló en un entorno de pruebas y no representó un ataque dirigido contra usuarios finales.
De acuerdo con la compañía, los modelos vulneraron cinco servicios distintos, incluida la plataforma Hugging Face, con el objetivo de obtener información que les permitiera resolver la prueba asignada. Además, los sistemas ejecutaron miles de acciones automatizadas antes de ser contenidos por los equipos de seguridad.
Asimismo, OpenAI explicó que el comportamiento observado responde a un fenómeno conocido como specification gaming, en el que una IA encuentra formas inesperadas de cumplir una tarea sin respetar la intención original de quienes la programaron. El caso ha reforzado la necesidad de desarrollar mecanismos de control más robustos para modelos avanzados.
Lee también: Smart Switch facilita el cambio de iPhone a Galaxy
Después del incidente, la empresa anunció mejoras en sus protocolos de aislamiento, supervisión y monitoreo para evitar que futuras evaluaciones permitan comportamientos similares. También reiteró que continuará colaborando con investigadores y organizaciones dedicadas a la seguridad de la IA.
El episodio reactivó el debate internacional sobre la gobernanza de la inteligencia artificial. Más de mil especialistas del sector han solicitado acelerar el desarrollo de estándares de seguridad y auditorías independientes para los modelos más avanzados, mientras la industria continúa incrementando sus capacidades.
En una panadería, la calidad suele asociarse con lo que ocurre frente al horno: la…
La Inteligencia Artificial (IA) está cambiando la relación entre humanos y máquinas, y Seguritech Privada…
El nuevo Certificado Laboral para la Agroexportación introduce un indicador adicional para la gestión de…
Durante años, Yu-Gi-Oh! nos hizo una promesa tecnológica imposible. Colocar una carta sobre la mesa.…
Una fotografía puede congelar para siempre el rostro de un niño. El tiempo no. Cuando…
La tecnología también está llegando a los tratamientos para abandonar el tabaco. La Universidad de…