KI-Halluzinationen: Das Risiko falscher und erfundener Zitate

Maßstab die Leitlinien der jeweiligen Hochschule/Universität Tübingen zur Sicherung guter wissenschaftlicher Praxis

Hierzu gehören insbesondere:

• experimentelle und intellektuelle Gewissenhaftigkeit
• unbedingte Redlichkeit in der Anerkennung der Leistung anderer
• uneingeschränkte Ehrlichkeit sich selbst und anderen gegenüber
• langfristige Dokumentation von Originaldaten
• Nachprüfbarkeit und Reproduzierbarkeit wissenschaftlicher Resultate
• Vermeidung von wissenschaftlichem Fehlverhalten

Die Rechtsprechung gibt insofern strenge Vorgaben:

„Die Pflicht, eine eigene wissenschaftliche Leistung zu erbringen, wird durch die Pflicht ergänzt, Übernahmen aus Arbeiten anderer durch Zitate der Originalquelle offenzulegen. Die Beachtung des Zitiergebots ist unverzichtbar, um beurteilen zu können, ob der Promovend das Gebot der Eigenständigkeit erfüllt hat.“
BVerwG Urteil vom 21. Juni 2017 – 6 C 3/16

Wie ChatGPT und Co. wissenschaftliche Quellen fingieren

Sogenannte KI-Halluzinationen führen dazu, dass Tools wie ChatGPT verblüffend echt wirkende, aber völlig erfundene Literaturquellen, Autoren und Zitate generieren und am Ende ihr Literaturverzeichnis in weiten Teilen oder komplett fehlerhaft werden lassen. Werden diese ungeprüft in eine Abschlussarbeit übernommen, liegt nicht nur faktisch eine erfundene Zitation durch KI vor, sondern besteht auch eine zu sanktionierende Täuschungsabsicht.

Plagiatssoftware und die strikte Prüfung der Universitäten

Universitäten nutzen mittlerweile hochspezialisierte Software, die nicht nur klassische Copy-Paste-Plagiate, sondern auch KI-generierte Textmuster und fehlerhafte Quellenangaben erkennt. Ein Plagiatsvorwurf bei der Masterarbeit oder Dissertation zieht sofort ein formelles Verfahren zur Prüfung wissenschaftlichen Fehlverhaltens nach sich.

Der entscheidende Unterschied: Handwerklicher Fehler oder bewusste Täuschung?

Das deutsche Prüfungs- und Promotionsrecht unterscheidet sehr genau zwischen mangelnder wissenschaftlicher Sorgfalt und echtem Täuschungsvorsatz. Diese Abgrenzung ist der entscheidende Hebel für die rechtliche Bewertung und die drohenden Sanktionen.

Vorsatz vs. Fahrlässigkeit im deutschen Hochschulrecht

Nicht jedes falsche Zitat ist ein Betrug Täuschungsversuch. Ein schlampig geführtes Literaturverzeichnis oder eine versehentlich ungenau paraphrasierte Stelle sind zunächst handwerkliche Fehler. Diese rechtfertigen zwar einen Notenabzug, aber begründen nicht den zwingend den Vorwurf eines Plagiats, welches bis zum Ausschluss vom Prüfungsverfahren oder die Aberkennung des Doktortitels führen kann.

Eine arglistige Täuschung setzt voraus, dass der Prüfling den Prüfer bewusst über seine Eigenleistung täuschen wollte. Eine Masterarbeit oder Dissertation erst dann nicht mehr als eigenständige Leistung und wissenschaftlicher Befähigungsnachweis gelten, wenn sie quantitativ oder qualitativ durch verschleierte Übernahmen aus fremden Texten (Plagiatsstellen) geprägt ist.

Als ehemaliger Hochschullehrer und spezialisierter Anwalt für Plagiatsverfahren seziert Prof. Dr. Jach den Vorwurf der Hochschule und widerlegt den Täuschungsvorsatz durch stringente rechtliche und sachverhaltliche Argumentation. Aufgrund seiner ausgewiesenen wissenschaftlichen Expertise ist eine fundierte Beurteilung sowohl aus rechtlicher als auch wissenschaftlicher Perspektive gewährleistet

Fallbeispiel: Rettung der Promotion – Abwehr eines Täuschungsvorwurfs wegen KI-Halluzinationen

Ausgangslage: Der Vorwurf der Fakultät
Unsere Mandantin, eine Promovendin (Doktorandin) der Politikwissenschaften, hatte nach vier Jahren intensiver Forschung ihre 350-seitige Dissertation eingereicht. Die Arbeit basierte auf umfangreicher empirischer Forschung und hunderten von Literaturquellen.

Während der Begutachtungsphase fiel dem Erstprüfer auf, dass drei spezifische Monografien und Fachartikel, die in den Fußnoten zitiert wurden, in den einschlägigen Bibliotheksdatenbanken nicht auffindbar waren. Eine tiefere Prüfung ergab: Die zitierten Werke und Autoren existierten schlichtweg nicht. Es handelte sich um sogenannte „KI-Halluzinationen“. Die Mandantin hatte ein KI-Tool (ChatGPT) genutzt, um ihre eigenen, teils unübersichtlichen handschriftlichen Exzerpte und Notizen für ein Kapitel sprachlich zu strukturieren. Dabei hatte die KI eigenmächtig passend klingende, aber fiktive Quellen generiert, die bei der Endredaktion übersehen wurden.

Die Sanktion der Universität:
Der Promotionsausschuss wertete dies als arglistige Täuschung und wissenschaftliches Fehlverhalten.

• Die Dissertation wurde als „non sufficit“ (ungenügend / nicht bestanden) bewertet.
• Das Promotionsverfahren wurde sofort abgebrochen.
• Die Universität drohte zudem mit einer Meldung an die Deutsche Forschungsgemeinschaft (DFG), was das Ende jeder weiteren wissenschaftlichen Karriere bedeutet hätte.

Der juristische Ablauf: Schritt für Schritt zur Rehabilitation

Rechtsanwalt Prof. Dr. Jach übernahm die Vertretung, um die existenzbedrohenden Sanktionen für die junge Wissenschaftlerin abzuwenden.

Schritt 1: Akteneinsicht und Prüfung der Promotionsordnung

Zunächst wurde das Verfahren durch einen Antrag auf umfassende Akteneinsicht formal pausiert.

• Analyse: Prof. Dr. Jach prüfte die spezifische Promotionsordnung der Universität sowie die von der Mandantin unterzeichnete eidesstattliche Versicherung.
• Ergebnis: Die Mandantin hatte von über 600 echten, korrekt zitierten Quellen lediglich drei fehlerhafte (KI-generierte) Quellen im Literaturverzeichnis.

Schritt 2: Stellungnahme gegenüber dem Promotionsausschuss

Die juristische Verteidigungslinie wurde im universitätsinternen Anhörungsverfahren aufgebaut. Der rechtliche Hebel war die scharfe Trennung zwischen objektiver Falschangabe und subjektivem Täuschungsvorsatz:

• Fehlender Vorsatz: Eine arglistige Täuschung erfordert das bewusste Vorspiegeln einer falschen Tatsache, um sich einen unrechtmäßigen Vorteil zu verschaffen. Die Mandantin hatte die Quellen jedoch nicht absichtlich erfunden, sondern aus grober Fahrlässigkeit ungeprüft aus der KI-Zusammenfassung übernommen.
• Verhältnismäßigkeit: Bei einer 350-seitigen Arbeit mit immenser eigener empirischer Leistung stehen drei fehlerhafte Fußnoten in keinem Verhältnis zur drakonischen Maßnahme des Verfahrensabbruchs. Es handelte sich um einen schweren handwerklichen Fehler, aber nicht um einen Betrug, der die wissenschaftliche Eigenleistung der gesamten Arbeit entwertet.

Schritt 3: Der ablehnende Bescheid der Universität

Der Promotionsausschuss blieb bei seiner harten Linie. Universitäten tun sich derzeit schwer, den Umgang mit KI rechtssicher zu bewerten, und neigen bei „erfundenen“ Quellen zu statuierten Exempeln. Die Universität erließ den Bescheid über das endgültige Nichtbestehen der Promotion.

Schritt 4: Klage vor dem Verwaltungsgericht (Verpflichtungsklage)

Prof. Dr. Jach reichte umgehend Klage beim zuständigen Verwaltungsgericht ein. Ziel der Klage war es, den Bescheid aufzuheben und die Universität zu verpflichten, das Promotionsverfahren fortzusetzen.

• Gerichtliche Argumentation: Die Hochschule hat den rechtlichen Begriff der „Täuschung“ verkannt. Die Universität trägt vor Gericht die volle Beweislast für den Täuschungsvorsatz. Die bloße Existenz der halluzinierten Quellen belegt rechtlich nur die objektive Falschheit, nicht aber den subjektiven Willen zum Betrug (Vorsatz).
• Beweisführung: Wir konnten anhand von Rohdaten, Exzerpten und Entwurfsversionen der Mandantin vor Gericht lückenlos nachweisen, dass die eigentliche wissenschaftliche Erkenntnis des betroffenen Kapitels vollständig auf ihrer eigenen Forschung beruhte und die KI-Quellen lediglich kosmetisches, fehlerhaftes Beiwerk waren.

Schritt 5: Mündliche Verhandlung und gerichtliche Entscheidung

In der mündlichen Verhandlung äußerte das Verwaltungsgericht erhebliche Zweifel an der Rechtmäßigkeit des Vorgehens der Universität. Das Gericht folgte der Argumentation von Prof. Dr. Jach: Die Universität dürfe grobe Fahrlässigkeit im Umgang mit neuen Technologien nicht automatisch mit einem bedingten Täuschungsvorsatz gleichsetzen.

Das Ergebnis (Aufhebung des Bescheids):

Auf massiven Druck des Gerichts lenkte die Universität ein. Es kam zu folgender rechtsbindender Einigung:

• Der Bescheid über das Nichtbestehen der Promotion wird aufgehoben.
• Der Vorwurf der arglistigen Täuschung wird offiziell aus der Akte gestrichen.
  Die Arbeit wird nicht als „durchgefallen“ gewertet, sondern zur Mängelbeseitigung (Überarbeitung) an die Mandantin zurückgegeben.
• Die Mandantin durfte die fehlerhaften Passagen korrigieren, die KI-Quellen bereinigen und die Arbeit drei Monate später erneut einreichen.
• Die Mandantin schloss ihr Verfahren im Folgejahr erfolgreich mit „magna cum laude“ ab.

Fazit für Promovierende

Dieser Fall zeigt eindrucksvoll: Ein Fehler bei der Nutzung von KI in der Wissenschaftsredaktion ist fatal, aber nicht automatisch das Ende der akademischen Laufbahn. Universitäten schießen bei KI-Halluzinationen oft über das juristische Ziel hinaus und verwechseln mangelnde Sorgfalt mit vorsätzlichem Betrug. Wenn Ihr Doktortitel auf dem Spiel steht, benötigen Sie einen Rechtsanwalt, der nicht nur das Verwaltungsrecht beherrscht, sondern die wissenschaftlichen Arbeitsprozesse und die Funktionsweise von KI-Modellen detailliert vor Gericht zerlegen kann.