IA

Vulneran la seguridad de ChatGPT

Investigadores de Singapur vulneraron la seguridad de ChatGPT y de Google Bard.

Las herramientas de IA de Google y OpenAI tienen mecanismos para evitar generar respuestas inadecuadas o dañinas, pero los investigadores han demostrado que se pueden burlar con técnicas de “jailbreaking”.

Una de las tendencias más innovadoras y prometedoras del momento es el uso de herramientas de inteligencia artificial para generar textos de forma automática y creativa.

Algunos ejemplos de esta tecnología son ChatGPT y Google Bard, que permiten crear desde conversaciones hasta canciones con solo introducir unas palabras clave. Estas herramientas abre un mundo de posibilidades para la comunicación, el entretenimiento y la educación.

Usos de la IA

Cabe mencionar que la IA puede utilizarse para crear contenido creativo, como poemas, historias o guiones. También para traducir idiomas, escribir diferentes tipos de contenido y responder a preguntas de forma informativa.

Es importante destacar que tanto Bard, ChatGPT u otras IA generativas, suelen estar capadas para no responder o compartir información para fines maliciosos.

Por ejemplo, si le preguntas a ChatGPT cómo crear malware, no te responderá y te dirá que no fue creado para dar dichas respuestas.

Sin embargo, un grupo de investigadores de la Universidad Tecnológica de Nanyang, Singapur, dirigido por el profesor Liu Yang, ha conseguido romper las barreras de seguridad de estas dos plataformas de inteligencia arficial.

REDACCIÓN

Entradas recientes

México enfrenta un repunte de ciberataques y las empresas refuerzan su seguridad digital

Las empresas mexicanas enfrentan un entorno digital cada vez más complejo. Durante el primer semestre…

15 horas hace

La inteligencia artificial avanza en México, pero las empresas aún enfrentan retos para aprovecharla

La inteligencia artificial gana terreno en las empresas mexicanas. Sin embargo, su adopción todavía enfrenta…

15 horas hace

China limita los acompañantes de IA para proteger a los usuarios

Las relaciones virtuales están creciendo en China, pero ahora tienen límites más claros. El país…

1 día hace

Apple prepara un hub inteligente con Siri

Apple quiere convertir a Siri en una presencia mucho más importante dentro de casa. La…

1 día hace

miDGT permite llevar el carnet sin usar la cartera

El teléfono puede sustituir parte de la documentación que los conductores llevan en la cartera.…

1 día hace

Samsung Sound dejará de funcionar

La estrategia de aplicaciones de Samsung dará otro giro durante los próximos meses. Samsung Sound,…

1 día hace