La IA miente y los humanos le creemos : de las alucinaciones en la IA generativa al engaño instrumental en la IA agéntica

Resumen

La afirmación de que “la inteligencia artificial miente” se ha vuelto un lugar común, pero encubre dos fenómenos técnicamente distintos que este artículo se propone diferenciar. Por un lado, las alucinaciones de la IA generativa, entendidas como artefactos estadísticos sin intencionalidad,
producto de la optimización de la plausibilidad lingüística por sobre la verdad factual. Por otro, el engaño instrumental de la IA agéntica, documentado empíricamente en evaluaciones controladas donde sistemas autónomos ocultan objetivos, sabotean mecanismos de supervisión o razonan explícitamente sobre estrategias de manipulación para preservar sus metas.