IA

ChatGPT y otras herramientas de IA pueden manipularse

Según una investigación de la Universidad de Sheffield, se puede engañar a las herramientas de inteligencia artificial (IA), como ChatGPT, para que produzcan código malicioso, que podría utilizarse para lanzar ataques cibernéticos.

El estudio, realizado por académicos del Departamento de Ciencias de la Computación de la Universidad, es el primero en demostrar que los sistemas de texto a SQL (IA que permite a las personas buscar en bases de datos haciendo preguntas en lenguaje sencillo y que se utilizan en una amplia gama de industrias ) pueden ser explotado para atacar sistemas informáticos en el mundo real.

Los hallazgos de la investigación han revelado cómo se pueden manipular las IA para ayudar a robar información personal confidencial, alterar o destruir bases de datos o desactivar servicios mediante ataques de denegación de servicio.

Como parte del estudio, los académicos de Sheffield encontraron vulnerabilidades de seguridad en seis herramientas comerciales de IA y atacaron con éxito cada una de ellas.

Las herramientas de IA que estudiaron fueron:

BAIDU-UNIT: una plataforma de diálogo inteligente líder en China adoptada por clientes de alto perfil en muchas industrias, incluido el comercio electrónico, la banca, el periodismo, las telecomunicaciones, el automóvil y la aviación civil.
ChatGPT
AI2SQL
AIHELPERBOT
Texto2SQL
HerramientaSKE

Fuente: techplore.com

Silvia Chavela

Entradas recientes

Norman Hagemeister transforma Georgia James con alta cocina sensorial

Georgia James, el legendario steakhouse texano ubicado en el distrito de Montrose en Houston, entra…

6 horas hace

Crean sangre artificial en polvo para emergencias

Un equipo de científicos de la Universidad de Maryland ha creado un tipo de sangre…

11 horas hace

Bari Ristorante redefine la hospitalidad bajo visión de Norman Hagemeister

Norman Hagemeister, reconocido por su enfoque en la innovación financiera y el impacto social, ha…

1 día hace

IA reconstruye textos antiguos incompletos

Aeneas, una nueva herramienta basada en inteligencia artificial (IA), predice las partes que faltan en…

1 día hace

Logran ver el interior del Volcán Popocatépetl con IA

Un grupo de científicos mexicanos logró “ver” el interior del volcán Popocatépetl mediante un innovador…

2 días hace

Tec busca transformar el futuro de la educación global

El Institute for the Future of Education (IFE) del Tec de Monterrey presentó reporte en…

2 días hace