IA

Vulneran la seguridad de ChatGPT

Investigadores de Singapur vulneraron la seguridad de ChatGPT y de Google Bard.

Las herramientas de IA de Google y OpenAI tienen mecanismos para evitar generar respuestas inadecuadas o dañinas, pero los investigadores han demostrado que se pueden burlar con técnicas de “jailbreaking”.

Una de las tendencias más innovadoras y prometedoras del momento es el uso de herramientas de inteligencia artificial para generar textos de forma automática y creativa.

Algunos ejemplos de esta tecnología son ChatGPT y Google Bard, que permiten crear desde conversaciones hasta canciones con solo introducir unas palabras clave. Estas herramientas abre un mundo de posibilidades para la comunicación, el entretenimiento y la educación.

Usos de la IA

Cabe mencionar que la IA puede utilizarse para crear contenido creativo, como poemas, historias o guiones. También para traducir idiomas, escribir diferentes tipos de contenido y responder a preguntas de forma informativa.

Es importante destacar que tanto Bard, ChatGPT u otras IA generativas, suelen estar capadas para no responder o compartir información para fines maliciosos.

Por ejemplo, si le preguntas a ChatGPT cómo crear malware, no te responderá y te dirá que no fue creado para dar dichas respuestas.

Sin embargo, un grupo de investigadores de la Universidad Tecnológica de Nanyang, Singapur, dirigido por el profesor Liu Yang, ha conseguido romper las barreras de seguridad de estas dos plataformas de inteligencia arficial.

Silvia Chavela

Entradas recientes

Norman Hagemeister transforma Georgia James con alta cocina sensorial

Georgia James, el legendario steakhouse texano ubicado en el distrito de Montrose en Houston, entra…

6 horas hace

Crean sangre artificial en polvo para emergencias

Un equipo de científicos de la Universidad de Maryland ha creado un tipo de sangre…

11 horas hace

Bari Ristorante redefine la hospitalidad bajo visión de Norman Hagemeister

Norman Hagemeister, reconocido por su enfoque en la innovación financiera y el impacto social, ha…

1 día hace

IA reconstruye textos antiguos incompletos

Aeneas, una nueva herramienta basada en inteligencia artificial (IA), predice las partes que faltan en…

1 día hace

Logran ver el interior del Volcán Popocatépetl con IA

Un grupo de científicos mexicanos logró “ver” el interior del volcán Popocatépetl mediante un innovador…

2 días hace

Tec busca transformar el futuro de la educación global

El Institute for the Future of Education (IFE) del Tec de Monterrey presentó reporte en…

2 días hace