Kennzeichnungspflicht für KI startet – Nachvollziehbarkeit bleibt offen

Seit Sonntag gilt in der EU der nächste Umsetzungsschritt der KI-Verordnung: Nach Artikel 50 müssen Unternehmen KI-Chatbots ebenso kennzeichnen wie Texte, Bilder und Videos, die mit Künstlicher Intelligenz erstellt oder überarbeitet wurden – sofern sie zu kommerziellen Zwecken über Angelegenheiten von öffentlichem Interesse informieren. Was nach einer klaren Vorgabe klingt, wirft in der Praxis zahlreiche Auslegungsfragen auf: Ausgenommen sind unter anderem offensichtlich unrealistische Inhalte und vollständig KI-generierte Texte, die anschließend von einem Menschen geprüft werden – wird umgekehrt ein menschlich verfasster Text mithilfe von KI überarbeitet, greift die Pflicht dagegen sofort. Schon diese Ausnahmen dürften nach Einschätzung von Wettbewerbsrechtlern zu Streitfällen führen. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, verantwortlich sind die Betreiber der Systeme im Unternehmen selbst.

Das Handelsblatt hat die neue Kennzeichnungspflicht und ihre praktischen Fallstricke für Unternehmen in einem eigenen Beitrag eingeordnet und lässt darin auch Heiko Beier zu Wort kommen, der mit moresophy KI-Lösungen entwickelt, bei denen nachvollziehbar wird, wie die Systeme arbeiten. Artikel 50, so seine Einschätzung, beantwortet lediglich die Frage, ob KI eingesetzt wurde – nicht aber, wie ein Ergebnis zustande gekommen ist: welche Modelle, welche Trainingsdaten, welche Entscheidungslogiken dahinterstehen. Gerade das könne in Streitfällen den entscheidenden Unterschied machen. Statt einer reinen Kennzeichnungspflicht sollte der Fokus stärker auf der Nachvollziehbarkeit und Verantwortung für das Ergebnis liegen. Wertvoller wäre nach Beiers Einschätzung eines Tages ein Label, das bestätigt, ein Inhalt sei „100 Prozent menschengemacht“.

Kurzfristiger Handlungsbedarf liegt deshalb nicht in noch mehr Kennzeichnung, sondern in Prozessen: Unternehmen sollten Nachvollziehbarkeit aus ihren eigenen Daten etablieren, etwa bei Kulanzentscheidungen im Kundenservice, und dabei sowohl Mitarbeitenden als auch KI-Systemen dieselbe Sorgfalt in Ausbildung und Führung zumuten. Bei generativen Modellen liegt die Grenze der Erklärbarkeit im fehlenden Zugriff auf die Quellen des Modellwissens – Transparenz lässt sich aber in den eigenen Datenquellen herstellen, wenn KI-Systeme konsequent aus deren Logik heraus gesteuert werden statt aus vormodellierten Workflows auf isolierten Rohdaten. Wie real dieses Problem ist, zeigt laut Beier bereits die Musikindustrie: Dort löst ein einfaches Label die fließenden Übergänge zwischen menschlicher und maschineller Urheberschaft nicht, mit direkten Folgen für Lizenz- und Vergütungsfragen.