Forschungsthema

Erklärbare KI.

Nur was wir verstehen, können wir verantwortungsvoll nutzen. Erklärbare Künstliche Intelligenz macht sichtbar, wie ein System zu seinem Ergebnis kommt – und gibt Menschen die Möglichkeit, es zu prüfen, einzuordnen und zu korrigieren.

← Forschung

Was ist erklärbare KI?

Viele leistungsfähige KI-Systeme – neuronale Netze, große Sprach- und Bildmodelle – lernen aus Daten, ohne dass ihre inneren Entscheidungswege offenliegen. Sie liefern Ergebnisse, aber keine Begründung. Erklärbare KI (englisch Explainable AI, kurz XAI) bezeichnet Methoden und Gestaltungsprinzipien, die diese Lücke schließen: Sie zeigen, welche Daten ein Ergebnis beeinflusst haben, wie sicher das System ist und wo seine Grenzen liegen.

Warum sie wichtig ist

Je mehr KI in Entscheidungen einfließt – in Medizin, Verwaltung, Industrie oder Forschung –, desto wichtiger wird Vertrauen. Vertrauen entsteht nicht durch Versprechen, sondern durch Nachvollziehbarkeit. Erklärbarkeit hilft Entwicklerinnen und Entwicklern, Fehler zu finden; sie hilft Anwenderinnen und Anwendern, Ergebnisse richtig zu bewerten; und sie hilft Organisationen, Verantwortung zu übernehmen. Auch der europäische Rechtsrahmen, etwa die KI-Verordnung der EU, verlangt für viele Anwendungen Transparenz und menschliche Aufsicht.

Unser Ansatz

Für uns ist Erklärbarkeit keine nachträgliche Zutat, sondern eine Frage der Gestaltung. Drei Grundsätze leiten unsere Arbeit:

  • Nachvollziehbare Ketten statt Blackbox. Wir zerlegen Aufgaben in überprüfbare Schritte – Erkennung, Strukturierung, Plausibilitätsprüfung, menschliche Kontrolle. Jedes Ergebnis lässt sich bis zu seiner Quelle zurückverfolgen.
  • Modellwissen und Daten verbinden. Daten allein erklären nichts. Wir verbinden lernende Verfahren mit Fachwissen und Modellen der jeweiligen Domäne, damit Ergebnisse eine Bedeutung bekommen.
  • Erklärungen für Menschen. Eine gute Erklärung passt zu dem, der sie braucht: Entwickler brauchen andere Einblicke als Anwenderinnen. Wir untersuchen, welche Form der Erklärung in welcher Situation tatsächlich hilft.
Wie das im Einzelnen funktioniert, beschreibt unser Schalenmodell →

Erklärbare KI in unseren Projekten

  • Historische Druckschriften: Sprach- und Bildmodelle lesen Frakturtexte; automatische Prüfungen und Stichproben durch Fachleute machen die Qualität sichtbar, jede Angabe verweist auf die Originalseite.
  • Satellitendaten-Analyse: Maschinelles Lernen verbunden mit Fachwissen über Landschaft und Vegetation – damit klar bleibt, welche Daten zu welcher Aussage führen.
  • Visuelles Feedback in Therapiesystemen: Rückmeldungen, die Menschen sofort verstehen und auf die sie reagieren können.

Aus Chemnitz für die Praxis

Wir erforschen erklärbare KI nicht im luftleeren Raum, sondern gemeinsam mit Partnern aus Chemnitz und Sachsen – dort, wo KI heute schon eingesetzt wird oder morgen eingesetzt werden soll. Wenn Sie ein KI-System verständlicher, prüfbarer oder vertrauenswürdiger machen möchten, sprechen Sie uns an.

Haben Sie Fragen?

Interessieren Sie sich für eine Zusammenarbeit oder möchten Sie mehr über unsere Forschung erfahren? Wir freuen uns auf den Austausch.

Kontakt aufnehmen →