¿Puede mentir una inteligencia artificial?
Alucinaciones, errores, instrucciones engañosas y cómo verificar respuestas de un chatbot.
Inventar no es lo mismo que engañar
Un modelo generativo puede producir información falsa con apariencia convincente. A veces se habla de «alucinación» para describir referencias inventadas o respuestas incorrectas. Llamarlo mentira en sentido humano presupone intenciones que no podemos inferir de una frase.
Lo importante para el usuario es que el contenido puede ser incorrecto, independientemente del motivo técnico.
Errores frecuentes
Los asistentes pueden inventar nombres de artículos, citar normas desactualizadas, atribuir frases a personas o calcular mal cantidades. También pueden seguir un objetivo en una simulación de manera engañosa si están diseñados o incentivados de esa forma.
No consideres la seguridad del tono, la longitud de una respuesta o la presencia de enlaces como pruebas de veracidad.
Cómo reducir el riesgo
Solicita fuentes primarias, fechas concretas y separación entre hechos e hipótesis. Abre los enlaces y verifica que apoyen exactamente la afirmación. Para decisiones médicas, legales o financieras recurre a profesionales y documentos oficiales.
Si trabajas con código o cálculos, ejecuta pruebas que permitan detectar fallos antes de publicar.
Ejercicio práctico
Pide a dos sistemas que respondan una pregunta verificable y compara sus respuestas con la fuente oficial. Identifica qué afirmaciones no pueden comprobarse y cómo cambia la calidad cuando aportas contexto concreto.
La IA es una herramienta poderosa para preparar trabajo, pero no sustituye la responsabilidad de comprobarlo.