Künstliche Intelligenz beinhaltet das Versprechen Probleme zu lösen. Menschen wie Maschinen tun dies, indem sie in einer Fülle unterschiedlicher Handlungsalternativen die richtige auswählen und selbst in komplexen Situationen die richtige Entscheidung treffen.
Doch was heißt richtig? Wie sicher ist sich denn die Maschine und inwieweit kann ich mich wirklich auf sie verlassen? Am Ende des Tages muss der Betreiber eines auf Basis von KI automatisierten Services weiterhin die Verantwortung tragen für die Entscheidung der KI und die daraus resultierenden Konsequenzen.

Ein verantwortungsbewusster Einsatz von KI ist mit den meisten derzeit verfügbaren KI-Services und Plattformen nicht möglich. In den allermeisten Fällen arbeiten diese als „Black Box“. Sie geben Antworten auf Fragen oder empfehlen konkrete Handlungen oder Aktionen, ohne dass derjenige, der diesen Service als Teil seiner Anwendung integriert, tiefergehenden Einblick in die Arbeitsweise der KI hat. Das beginnt „ganz unten“ auf der Ebene der Daten: eine KI trifft wie wir Menschen ihre Entscheidungen auf der Basis von erlerntem Wissen. Wissen wiederum basiert auf Erfahrung. Erfahrung sammeln heißt – technisch aus Sicht einer Maschine ausgedrückt – Daten zu sammeln.

MORESOPHY steht für „mehr Wissen“ (von griechisch: sophos – die Weisheit) und damit für eine Künstliche Intelligenz, die für maximal mögliche Transparenz und Kontrolle steht. Für KI-Lösungen, bei denen die Betreiber die KI verstehen und aktiv eingreifen können.

Ergebnis eines verantwortungsbewussten Umgangs bei der Entwicklung und Anwendung von KI ist Vertrauen. Vertrauen in eine KI ist für die produktive Nutzung unerlässlich. Sie ist Voraussetzung für die notwendige Akzeptanz beim Management wie bei den Anwendern. Doch was ist trusted AI? Und was sind die Rahmenbedingungen, unter denen Vertrauen möglich ist?