IA

ChatGPT y otras herramientas de IA pueden manipularse

Según una investigación de la Universidad de Sheffield, se puede engañar a las herramientas de inteligencia artificial (IA), como ChatGPT, para que produzcan código malicioso, que podría utilizarse para lanzar ataques cibernéticos.

El estudio, realizado por académicos del Departamento de Ciencias de la Computación de la Universidad, es el primero en demostrar que los sistemas de texto a SQL (IA que permite a las personas buscar en bases de datos haciendo preguntas en lenguaje sencillo y que se utilizan en una amplia gama de industrias ) pueden ser explotado para atacar sistemas informáticos en el mundo real.

Los hallazgos de la investigación han revelado cómo se pueden manipular las IA para ayudar a robar información personal confidencial, alterar o destruir bases de datos o desactivar servicios mediante ataques de denegación de servicio.

Como parte del estudio, los académicos de Sheffield encontraron vulnerabilidades de seguridad en seis herramientas comerciales de IA y atacaron con éxito cada una de ellas.

Las herramientas de IA que estudiaron fueron:

BAIDU-UNIT: una plataforma de diálogo inteligente líder en China adoptada por clientes de alto perfil en muchas industrias, incluido el comercio electrónico, la banca, el periodismo, las telecomunicaciones, el automóvil y la aviación civil.
ChatGPT
AI2SQL
AIHELPERBOT
Texto2SQL
HerramientaSKE

Fuente: techplore.com

Silvia Chavela

Entradas recientes

Televisores sin reflejos, el nuevo foco de Samsung

En España, ver una serie en la tele a plena luz del día ya no…

2 horas hace

El boom silver en apps de citas

Encontrar el amor a cualquier edad es una posibilidad muy real, pero para los adultos…

2 horas hace

Estas apps gastan tus datos móviles sin que lo sepas

Ni siquiera las estás usando y ya te están drenando el plan. Muchas apps en…

4 horas hace

Todo lo que podrás hacer con el nuevo visor Galaxy XR

El primer visor de realidad extendida de Samsung, el Galaxy XR, se perfila como uno…

4 horas hace

OpenAI lanza ChatGPT Atlas, su nuevo navegador con IA

OpenAI acaba de entrar a un nuevo terreno: los navegadores web. La empresa presentó ChatGPT…

20 horas hace

Apple se adelanta con fecha de lanzamiento de iOS 17.6.1

Aunque todas las miradas apuntan al esperado iOS 18, Apple tiene un movimiento más bajo…

1 día hace