Warum KI‑gestützte Meinungsüberwachung eine Gefahr für die demokratische Kultur ist
Die Amadeo‑Antonio‑Stiftung setzt ein KI‑System ein, das angeblich Hass, Diffamierung und rechtlich relevante Grenzüberschreitungen erkennen soll. Doch solche Modelle können weder juristische Kategorien erfassen noch komplexe Argumentationsstrukturen verstehen. Sie arbeiten mit Schlüsselwörtern statt Kontext und erzeugen damit pauschale, nicht überprüfbare Bewertungen. Fehlklassifikationen können zu Rufschädigungen führen, während Haftungsfragen ungeklärt bleiben. Angesichts politischer Befangenheit und fehlender Legitimation privater Akteure braucht es dringend klare gesetzliche Regeln, um den Missbrauch solcher Systeme zu verhindern.
Das von der Amadeo‑Antonio‑Stiftung eingesetzte KI‑System, mit dem nach Auffassung der Stiftung Schriftsätze auf Hassparolen, rechtlich unzulässige Formulierungen oder Verleumdungen geprüft werden sollen, ist mehr als fragwürdig. Ein solches System suggeriert, eine juristische Subsumtion leisten zu können – als ließen sich aus den Ergebnissen belastbare rechtliche Schlüsse ziehen.
Das Grundproblem liegt jedoch nicht einmal in einer möglichen bösen Absicht. Vielmehr ist eine sogenannte Künstliche Intelligenz derzeit gar nicht in der Lage, komplexe Argumentationsstrukturen zu erkennen, die sich aus unterschiedlichen Überlegungen ergeben und im Einzelfall auch scharfe Kritik enthalten können, ohne die Grenzen des Rechts zu überschreiten. Die KI – und das scheint auch für das von der Stiftung angepriesene System zu gelten – arbeitet ausschließlich mit Schlüsselwörtern, ohne diese in juristische Kategorien einordnen zu können. Das führt zwangsläufig zu pauschalen Feststellungen, die richtig oder falsch sein können, aber in keinem Fall überprüfbar oder reproduzierbar sind. Durch diese schematische Wahrnehmung kann das System nicht zuverlässig beurteilen, ob ein Kommentar gefährlich, extremistisch, diffamierend oder schlicht kritisch ist.
Es gibt eine einfache Erklärung, warum solche Systeme die Feinheiten von Schriftsätzen nicht erkennen können: Sie liegen unterhalb der Schwelle dessen, was KI‑Modelle nach heutigem Stand der Technik erfassen können. Tatsachenbehauptung vs. Werturteil, Schmähkritik vs. zulässige Polemik, Argumentation vs. Themenwechsel, Beweisführung vs. Meinung, Kontextualisierung vs. Fragmentierung und Ironie sind Stilmittel, die Menschen klar unterscheiden können – eine Maschine jedoch nicht. Für eine KI können rhetorische Zuspitzungen ebenso gut Schmähangriffe bedeuten.
Betrachtet man die möglichen Folgen falscher Beurteilungen, stellt sich die Frage, inwieweit es fahrlässig ist, wenn eine Organisation glaubt, mit Hilfe eines KI‑Modells allgemeine Bewertungen abgeben zu können, ohne die Verfasser näher zu kennen. Wer haftet eigentlich, wenn durch Fehlklassifikationen Rufschädigungen entstehen, die kaum wieder einzufangen sind? Schließlich muss man auch fragen, ob der Gesetzgeber nicht klare Vorgaben machen muss, inwieweit solche anonymen Systeme überhaupt von Privatleuten eingesetzt werden dürfen, die den Anschein erwecken, als seien sie in der Lage, den Inhalt und die juristische Relevanz fremder Texte zu beurteilen und daraus ein Urteil abzuleiten. Ebenso stellt sich die Frage, in wessen Auftrag solche Organisationen handeln und woraus sie die rechtliche Legitimation ihres Vorgehens schöpfen.
Besonders problematisch wird es, wenn vermeintlich objektiv arbeitende Organisationen eigene politische Ziele verfolgen – ein Umstand, der bei jedem ordentlich handelnden Gericht zur Ablehnung wegen Befangenheit führen würde.
Aktuell wird höchste Zeit, eine Rechtsnorm zu formulieren, die ein Mindestmaß an Rechtssicherheit schafft und verhindert, dass unsachgemäße, scheinbar wissenschaftlich wirkende Beurteilungen erstellt werden. Die Amadeo‑Antonio‑Stiftung wäre gut beraten, ihr Projekt im Hinblick auf diese Probleme zu überdenken, denn das derzeit angebotene System birgt erhebliche Risiken – und zwar nicht nur für die Nutzer, sondern auch für die Stiftung selbst.
