IA

ChatGPT y otras herramientas de IA pueden manipularse

Según una investigación de la Universidad de Sheffield, se puede engañar a las herramientas de inteligencia artificial (IA), como ChatGPT, para que produzcan código malicioso, que podría utilizarse para lanzar ataques cibernéticos.

El estudio, realizado por académicos del Departamento de Ciencias de la Computación de la Universidad, es el primero en demostrar que los sistemas de texto a SQL (IA que permite a las personas buscar en bases de datos haciendo preguntas en lenguaje sencillo y que se utilizan en una amplia gama de industrias ) pueden ser explotado para atacar sistemas informáticos en el mundo real.

Los hallazgos de la investigación han revelado cómo se pueden manipular las IA para ayudar a robar información personal confidencial, alterar o destruir bases de datos o desactivar servicios mediante ataques de denegación de servicio.

Como parte del estudio, los académicos de Sheffield encontraron vulnerabilidades de seguridad en seis herramientas comerciales de IA y atacaron con éxito cada una de ellas.

Las herramientas de IA que estudiaron fueron:

BAIDU-UNIT: una plataforma de diálogo inteligente líder en China adoptada por clientes de alto perfil en muchas industrias, incluido el comercio electrónico, la banca, el periodismo, las telecomunicaciones, el automóvil y la aviación civil.
ChatGPT
AI2SQL
AIHELPERBOT
Texto2SQL
HerramientaSKE

Fuente: techplore.com

Silvia Chavela

Entradas recientes

Amazon revoluciona el mercado con su nueva marca de comestibles

Amazon sorprendió a Estados Unidos al lanzar una línea de productos de supermercado que promete…

2 horas hace

Reino Unido insiste en acceder a datos cifrados de Apple

El debate sobre la privacidad digital en Reino Unido volvió a encenderse tras revelarse que…

4 horas hace

VOLT Energy Fans: AJEMEX fusiona pasión con creatividad

En las ciudades de México y Lima, Perú, miles de aficionados viven cada partido del…

5 horas hace

Ciberataque en aerolínea canadiense expone datos de millones de pasajeros

La tranquilidad de los viajeros en Canadá se vio alterada tras la confirmación de una…

23 horas hace

Amazon ofrece descuentos irresistibles en gadgets y dispositivos inteligentes

España se prepara para una ola de ofertas tecnológicas que no puedes dejar pasar. Amazon…

24 horas hace

Críticas al impuesto a videojuegos destacan riesgos para industria local

El reciente anuncio de un impuesto a los videojuegos violentos ha encendido el debate en…

24 horas hace