OpenAI ajusta sus modelos para reducir “alucinaciones” y Anthropic respalda una ley pionera en California que busca mayor transparencia en la industria

La confianza, el talón de Aquiles de la inteligencia artificial

martes 16 de septiembre, 2025

La inteligencia artificial avanza a gran velocidad, pero enfrenta un obstáculo que amenaza con frenar su adopción: la confianza.

¿Podemos creer en lo que nos dicen los modelos de IA? ¿Quién supervisa que no se conviertan en cajas negras incontrolables? Los recientes pasos de OpenAI y Anthropic muestran que la credibilidad se ha vuelto el campo de batalla más importante.

Alucinaciones: el error más humano de la IA

OpenAI publicó un análisis sobre las llamadas alucinaciones, esas respuestas falsas que los modelos entregan con absoluta seguridad, aunque sean incorrectas.

Entre las causas detectadas está la forma en que los sistemas son entrenados y evaluados: muchas veces se premia al modelo por arriesgar una respuesta, aunque no esté seguro, en lugar de valorarlo por admitir “no sé”.

Los ejemplos abundan: desde inventar citas académicas hasta dar tres fechas distintas para el nacimiento de un autor, todas equivocadas. El problema deja de ser anecdótico cuando se trata de temas sensibles como salud o derecho.

Como respuesta, OpenAI trabaja en nuevas métricas de evaluación que incentiven la honestidad de los modelos.

GPT-5 ya muestra una reducción en la tasa de alucinaciones, aunque los investigadores reconocen que aún no existe solución definitiva. La apuesta es clara: la precisión y la transparencia deben pesar más que la apariencia de seguridad.

Regulación: el caso de California

Mientras tanto, en Estados Unidos se avanza en un marco legal para acompañar a la tecnología. El estado de California impulsa la SB 53, una ley que obliga a las empresas que desarrollen los modelos de IA más potentes a publicar reportes de seguridad, someterse a auditorías externas y reportar incidentes críticos.

La sorpresa vino de Anthropic, que decidió respaldar públicamente la propuesta. En un comunicado, la compañía señaló que aunque prefiere una regulación federal, la urgencia de la situación justifica la acción estatal.

SB 53, explican, equilibra innovación con seguridad y ofrece garantías de transparencia que benefician tanto a la industria como a los usuarios.

Anthropic reconoce que ya aplica internamente muchas de las prácticas exigidas por la ley: evaluaciones de riesgos, marcos de uso responsable y tarjetas de sistema que documentan capacidades y limitaciones.

Con SB 53, estas medidas dejarían de ser iniciativas voluntarias para convertirse en requisitos obligatorios en toda la industria.

La confianza como ventaja competitiva

La credibilidad se perfila como la nueva ventaja competitiva en la inteligencia artificial. No basta con modelos rápidos o creativos: los usuarios, las empresas y los gobiernos buscan herramientas que ofrezcan garantías de veracidad y responsabilidad.

¿Por qué importa para ti?

Cada vez que usas un asistente digital confías en que lo que lees o escuchas es cierto. Esfuerzos como los de OpenAI para reducir errores y leyes como la SB 53 en California apuntan a un futuro donde interactuar con la IA sea más seguro y útil.

Conclusión

La confianza es el talón de Aquiles de la inteligencia artificial. Sin credibilidad, ningún avance técnico bastará.

Con modelos más honestos y regulaciones que aseguren transparencia, la IA podrá cumplir su promesa de transformar el mundo sin perder el respaldo de quienes más importan: sus usuarios.