Erklärbare KI oder „Explainable AI“ bezieht sich auf den Prozess der Bereitstellung von Erklärungen oder Interpretationen für Entscheidungen, die von KI-Systemen getroffen werden. Traditionelle KI-Systeme, wie zum Beispiel neuronale Netze, können Entscheidungen treffen, die für Menschen schwer nachvollziehbar sind. Erklärbare KI verwendet spezielle Modelle, die in der Lage sind, transparente und verständliche Erklärungen für Entscheidungen zu liefern. Dies ist besonders wichtig in Anwendungen, in denen menschliche Experten die Entscheidungen von KI-Systemen überprüfen müssen, wie z.B. im Gesundheitswesen oder bei der Überwachung von Finanztransaktionen. Erklärbare KI soll das Vertrauen in KI-Systeme stärken und ihre Akzeptanz in der Gesellschaft verbessern.