Des manchots de l’Antarctique à l’explicabilité en IA. Bienvenue en prétopologie !

La plupart des algorithmes performants actuels – notamment l’apprentissage profond (deep learning) et ses réseaux de neurones – fonctionnent comme des boîtes noires. On sait qu’ils donnent de bons résultats, mais impossible de comprendre leur logique interne. Ceci pose problème pour de nombreux domaines d’application (médecine, justice…), ce qui incite les régulateurs à exiger des systèmes « explicables ». Plusieurs pistes vers l’explicabilité existent. Zoom sur la « prétopologie ».

---

Imaginons un patient dont les résultats sanguins montrent un taux d’hémoglobine…

© The Conversation - Thursday, April 23, 2026