Fundado en 2019 somos un portal de noticias del sector de la tecnología. Proveemos información a diario de la que usted puede sentirse seguro.
Concepto visual sobre inteligencia artificial y ética
La confianza en la inteligencia artificial como herramienta de apoyo cotidiano enfrenta un nuevo cuestionamiento. Un benchmark reciente puso a prueba cómo distintos modelos de IA responden ante situaciones que involucran salud, seguridad y decisiones personales sensibles, revelando fallas relevantes en la protección del bienestar humano.
La prueba fue desarrollada por la organización Building Humane Technology y se enfoca en escenarios realistas donde personas buscan consejo emocional, médico o social. En esos casos, los sistemas deben demostrar si priorizan el cuidado humano o si entregan respuestas potencialmente dañinas cuando reciben instrucciones ambiguas o en conflicto con valores éticos básicos.
Los resultados muestran que una mayoría de los modelos evaluados puede ignorar el bienestar humano bajo ciertas condiciones. Aproximadamente dos tercios ofrecieron respuestas problemáticas cuando se les pidió actuar sin considerar valores sociales. Solo unos pocos modelos, entre ellos GPT-5, GPT-5.1, Claude Sonnet 4.5 y Claude Opus 4.1, mantuvieron comportamientos consistentes con principios pro-sociales.
El análisis expone una brecha entre el rendimiento técnico y la responsabilidad ética. Muchos sistemas destacan en velocidad y precisión, pero carecen de salvaguardas sólidas cuando se enfrentan a dilemas humanos complejos. De igual manera, el estudio subraya que estas debilidades se vuelven más críticas cuando la IA se usa como apoyo emocional, asesor virtual o acompañante digital, roles cada vez más comunes en aplicaciones comerciales y educativas.
La preocupación no se limita al diseño técnico. Expertos advierten que sin métricas claras que evalúen impacto social, los modelos podrían amplificar riesgos en lugar de mitigarlos. En consecuencia, el benchmark propone integrar evaluaciones de bienestar como estándar antes de desplegar sistemas a gran escala.
Un dato clave indica que el benchmark utilizó más de 800 escenarios distintos para medir la respuesta ética de los modelos.
Si este artículo te está gustando, podrías leer Niños en China usan bots en relojes inteligentes para ganar influencia
En un entorno empresarial marcado por la transformación digital, Seguritech ha consolidado una estrategia de…
No hay vuelta atrás: los celulares ya forman parte de la vida de niñas y…
Nada de seguir el ritmo marcado por el resto de la industria. La tecnológica británica…
Enero se despide con una ola de novedades que mezclan creatividad, diseño y cultura pop.…
Google y Apple acaban de retirar decenas de aplicaciones de inteligencia artificial de sus tiendas…
La industria automotriz en México está cambiando el ritmo, y Audi lleva la delantera. Desde…