IA

Vulneran la seguridad de ChatGPT

Investigadores de Singapur vulneraron la seguridad de ChatGPT y de Google Bard.

Las herramientas de IA de Google y OpenAI tienen mecanismos para evitar generar respuestas inadecuadas o dañinas, pero los investigadores han demostrado que se pueden burlar con técnicas de “jailbreaking”.

Una de las tendencias más innovadoras y prometedoras del momento es el uso de herramientas de inteligencia artificial para generar textos de forma automática y creativa.

Algunos ejemplos de esta tecnología son ChatGPT y Google Bard, que permiten crear desde conversaciones hasta canciones con solo introducir unas palabras clave. Estas herramientas abre un mundo de posibilidades para la comunicación, el entretenimiento y la educación.

Usos de la IA

Cabe mencionar que la IA puede utilizarse para crear contenido creativo, como poemas, historias o guiones. También para traducir idiomas, escribir diferentes tipos de contenido y responder a preguntas de forma informativa.

Es importante destacar que tanto Bard, ChatGPT u otras IA generativas, suelen estar capadas para no responder o compartir información para fines maliciosos.

Por ejemplo, si le preguntas a ChatGPT cómo crear malware, no te responderá y te dirá que no fue creado para dar dichas respuestas.

Sin embargo, un grupo de investigadores de la Universidad Tecnológica de Nanyang, Singapur, dirigido por el profesor Liu Yang, ha conseguido romper las barreras de seguridad de estas dos plataformas de inteligencia arficial.

REDACCIÓN

Entradas recientes

Víctor González Herrera expande servicios veterinarios con SimiLab

El CEO de Farmacias Similares y presidente ejecutivo del Grupo Por Un País Mejor, Víctor…

3 horas hace

China compartirá tecnología agrícola con México

La cooperación tecnológica entre México y China busca abrir nuevas oportunidades para modernizar el campo…

6 horas hace

Samsung y Google presentan lentes que funcionan con Gemini

Los lentes inteligentes de Google y Samsung ya están disponibles en preventa en Estados Unidos.…

7 horas hace

Tiendas falsas con IA amenazan las compras del Buen Fin

Las tiendas falsas creadas con inteligencia artificial representan una nueva amenaza para quienes planean comprar…

7 horas hace

México destaca en programación gracias a dos jóvenes creadoras

Dos estudiantes mexicanas demostraron que los videojuegos también pueden enseñar valores. Ania Díaz de León,…

7 horas hace

Robots repartidores en scooters sorprenden en redes sociales

Los robots repartidores con inteligencia artificial están transformando la manera en que imaginamos las entregas…

9 horas hace