Así que, en teoría, con los métodos de XAI y los conocimientos adecuados, incluso los modelos complejos de caja negra pueden interpretarse, al menos parcialmente. Pero, ¿cómo se ve en la realidad? En muchos proyectos o casos de uso, la interpretabilidad es un pilar importante del éxito general. Los aspectos de seguridad, la falta de confianza en los resultados del modelo, las posibles regulaciones futuras, así como las preocupaciones éticas, garantizan la necesidad de modelos ML interpretables.