De vez en cuando, un nuevo sistema de software aparece en el horizonte del panorama tecnológico. En este artículo analizamos una nueva capa de acceso y procesamiento de datos: el almacén de características. Desempeñará un papel importante en la construcción de sistemas inteligentes basados en algoritmos de aprendizaje automático (ML).

Así que, en teoría, con los métodos de XAI y los conocimientos adecuados, incluso los modelos complejos de caja negra pueden interpretarse, al menos parcialmente. Pero, ¿cómo se ve en la realidad? En muchos proyectos o casos de uso, la interpretabilidad es un pilar importante del éxito general. Los aspectos de seguridad, la falta de confianza en los resultados del modelo, las posibles regulaciones futuras, así como las preocupaciones éticas, garantizan la necesidad de modelos ML interpretables.