Avec l'adoption croissante des modèles d'apprentissage profond dans les applications réelles, la demande de transparence dans leurs résultats augmente. Le domaine de l'IA explicable (XAI) a connu des avancées notables, comme les méthodes basées sur les caractéristiques telles que SHAP et LIME. Cependant, une nouvelle vague d'approches XAI émerge, intégrant des connaissances explicitespour une meilleure interprétabilité. Ces méthodes visent à fournir des informations sur des résultats spécifiques ou le fonctionnement général du modèle expliqué en incorporant des connaissances du domaine avant ou après l'entraînement du modèle. Cette présentation passera en revue ces approches en fonction du niveau auquel les connaissances sont intégrées dans le pipeline DL/XAI. De plus, nous explorerons les méthodes d'évaluation, avec un accent particulier sur l'aspect de la fidélité de l'XAI basée sur les connaissances.