La ilusión de la objetividad en IA generativa : de los sesgos y alucinaciones a la construcción de realidades alternas como consecuencia de su deficiencia de calidad del software

Resumen

Las Inteligencias Artificiales Generativas se presentan a menudo como herramientas neutrales y objetivas. Este artículo desafía esa narrativa, argumentando que los sesgos inherentes en sus datos de entrenamiento y su propensión a la "alucinación" no son meros errores técnicos, sino características estructurales que las convierten en constructores de realidades inexactas o equivocadas. En contextos de incertidumbre social, donde la demanda de información veraz es crítica para la toma de buenas decisiones, el efecto de estas fallas se amplifica, aportando distorsiones a la visión de la realidad objetiva. A partir del análisis inicial se exploran sus impactos sociales y las dificultades de atribución de responsabilidad y finalmente se presentan marcos de referencia como ISO/IEC 25010, MyFEPS y OWASP AI Security & Privacy Guide como alternativas de solución para la evaluación y auditoría de la calidad de estos sistemas, que básicamente son desarrollos de software.