Zu Vorsicht bei der „KI-Erkennung von L\u00fcgen“ raten Prof. Dr. Kristina Suchotzki und Prof. Dr. Matthias Gamer. Ihre Warnung haben sie in der Fachzeitschrift „Trendsin Cognitive Sciences“ ver\u00f6ffentlicht.
\nSogenannte „K\u00fcnstliche Intelligenz“ (KI) soll schon bald dabei helfen, L\u00fcgen und T\u00e4uschungsversuche zu identifizieren. Ein Forschungsteam der Universit\u00e4ten Marburg und W\u00fcrzburg warnt jedoch vor einem verfr\u00fchten Einsatz. „Ach, wenn es doch so einfach w\u00e4re wie bei Pinocchio. Dem h\u00f6lzernen Hampelmann war leicht anzusehen, wenn er mal wieder eine L\u00fcge formulierte: Schlie\u00dflich wurde dabei seine Nase jedes Mal ein St\u00fcckchen l\u00e4nger.“
\nIn der Realit\u00e4t ist es sehr viel schwieriger, L\u00fcgen zu erkennen; die Wissenschaft bei\u00dft sich an entsprechenden Techniken schon lange die Z\u00e4hne aus. Jetzt soll KI zum Durchbruch bei der Entwicklung eines verl\u00e4sslichen L\u00fcgendetektors verhelfen. Die entsprechende Technik ist in ersten Ans\u00e4tzen schon im Einsatz beispielsweise in der Auswertung von automatisierten Befragungen Einreisewilliger an den EU-Grenzen Ungarns, Griechenlands und Litauens, mit der Reisende mit kriminellen Absichten identifiziert werden sollen.
\nForschende der Universit\u00e4ten in Marburg und W\u00fcrzburg warnen jetzt vor einem verfr\u00fchten Einsatz von KI zur L\u00fcgenerkennung. Ihrer Ansicht nach eignet sich die Technik zwar als potenziell wertvolles Instrument f\u00fcr die Grundlagenforschung. Mit ihrer Hilfe k\u00f6nnte die Wissenschaft bessere Einblick in die psychologischen Mechanismen gewinnen, die der T\u00e4uschung zugrunde liegen. Eine konkrete Anwendung jenseits der Wissenschaft betrachten sie jedoch mehr als skeptisch.
\nVerantwortlich f\u00fcr die – jetzt in der Fachzeitschrift „Trendsin Cognitive Sciences“ ver\u00f6ffentlichte – Studie sind Kristina Suchotzki und Matthias Gamer. Suchotzki ist Professorin an der Philipps-Universit\u00e4t. Ihre Forschungsschwerpunkte beinhalten L\u00fcgen und deren Erkennung.
\nGamer ist Professor am Lehrstuhl f\u00fcr Psychologie I der Universit\u00e4t W\u00fcrzburg. Einen seiner Forschungsschwerpunkte bildet die Glaubhaftigkeitsdiagnostik.
\nDrei Hauptprobleme in der aktuellen Forschung zur KI-basierten T\u00e4uschungserkennung benennen Suchotzki und Gamer in ihrer Publikation: Sie fanden ein Mangel an Erkl\u00e4rbarkeit und Transparenz getesteter Algorithmen, das Risiko verzerrter Ergebnisse und Defizite im theoretischen Fundament. Die Ursache daf\u00fcr sei klar: „Leider haben sich die derzeitigen Ans\u00e4tze in erster Linie auf technische Aspekte konzentriert, was zu Lasten einer soliden methodischen und theoretischen Grundlage ging“, schrieben die beiden.
\nIn ihrem Artikel legen sie dar, dass viele KI-Algorithmen an einer „mangelnden Erkl\u00e4rbarkeit und Transparenz“ leiden. Oft sei also unklar, wie der Algorithmus zu seinem Ergebnis gelangt. Bei einigen KI-Anwendungen k\u00f6nnten ab einem bestimmten Punkt selbst die Entwickler nicht mehr zweifelsfrei nachvollziehen, wie ein Urteil zustande kommt. Das mache es unm\u00f6glich, die Entscheidungen zu beurteilen und die Gr\u00fcnde f\u00fcr falsche Klassifizierungen zu diskutieren.
\nAls weiteres Problem beschreiben sie das Auftreten von „Verzerrungen“ in der Entscheidungsfindung. Urspr\u00fcnglich war die Hoffnung, dass Maschinen menschliche Voreingenommenheit – wie zum Beispiel durch Stereotype oder Vorurteile – \u00fcberwinden k\u00f6nnten. Tats\u00e4chlich scheitere diese Annahme aber oft an einer fehlerhaften Auswahl der Variablen, die Menschen in das Modell einspeisen, sowie an der geringen Gr\u00f6\u00dfe und Repr\u00e4sentativit\u00e4t der verwendeten Daten. Ganz zu schweigen davon, dass nicht selten in den Daten, die zur Erstellung der Systeme verwendet werden, bereits Verzerrungen vorliegen.
\nDas dritte Problem ist grunds\u00e4tzlicher Natur: „Dem Einsatz von k\u00fcnstlicher Intelligenz in der L\u00fcgendetektion liegt die Annahme zugrunde, dass es m\u00f6glich ist, ein eindeutiges Indiz oder eine Kombination von Indizien zu identifizieren, die auf eine T\u00e4uschung hinweisen“, erl\u00e4uterte Suchotzki. Dabei sei jedoch nicht einmal jahrzehntelange Forschung in der Lage gewesen, solche Indizien zu identifizieren. Auch eine Theorie, die ihre Existenz \u00fcberzeugend vorhersagen kann, existiere nicht.
\nVon der Arbeit an einer KI-basierten T\u00e4uschungserkennung abraten wollen Suchotzki und Gamer jedoch nicht. Schlie\u00dflich sei es letzten Endes nur eine empirische Frage, ob diese Technik das Potenzial hat, hinreichend valide Ergebnisse zu liefern. Vor dem Einsatz im Alltag m\u00fcssten allerdings ihrer Meinung nach eine Reihe von Bedingungen gegeben sein.
\n„Wir empfehlen Entscheidungstr\u00e4gern dringend, sorgf\u00e4ltig zu pr\u00fcfen, ob bei der Entwicklung von Algorithmen grundlegende Qualit\u00e4tsstandards eingehalten wurden“, sagten sie. Voraussetzung seien unter anderem kontrollierte Laborexperimente, gro\u00dfe und vielf\u00e4ltige Datens\u00e4tze ohne systematische Verzerrungen und die \u00dcberpr\u00fcfung der Algorithmen und deren Akkuratheit an einem unabh\u00e4ngigen, umfangreichen Datensatz. Das Ziel m\u00fcsse sein, unn\u00f6tige falsch-positive Ergebnisse zu vermeiden und damit den Fall, in dem die KI f\u00e4lschlicherweise eine L\u00fcge zu erkennen meint.
\nDabei bestehe ein gro\u00dfer Unterschied zwischen dem Einsatz von KI als Massen-Screening-Instrument beispielsweise an Flugh\u00e4fen, und dem Einsatz von KI f\u00fcr bestimmte Vorf\u00e4lle wie etwa die Vernehmung eines Verd\u00e4chtigen in einem Kriminalfall. „Bei Massenscreening-Anwendungen werden h\u00e4ufig sehr unstrukturierte und unkontrollierte Bewertungen vorgenommen. Das erh\u00f6ht die Anzahl der falsch positiven Ergebnisse drastisch“, erkl\u00e4rte Gamer.
\nZuletzt raten die beiden Forschenden dazu, KI-gest\u00fctzte T\u00e4uschungserkennung nur in stark strukturierten und kontrollierten Situationen einzusetzen. Obwohl es keine eindeutigen L\u00fcgenindikatoren gibt, k\u00f6nne es in solchen Situationen jedoch m\u00f6glich sein, die Zahl alternativer Erkl\u00e4rungen zu minimieren. Damit steige die Wahrscheinlichkeit, dass Unterschiede im Verhalten oder im Inhalt von Aussagen auf einen T\u00e4uschungsversuch zur\u00fcckgef\u00fchrt werden k\u00f6nnen.
\nIhre Empfehlungen kombinieren Suchotzki und Gamer mit einer Warnung an die Politik: „Die Geschichte lehrt uns, was passiert, wenn wir uns nicht an strenge Forschungsstandards halten, bevor Methoden zur T\u00e4uschungserkennung im wirklichen Leben eingef\u00fchrt werden.“ Das Beispiel des Polygraphen zeige sehr deutlich, wie schwierig es ist, solche Methoden wieder loszuwerden, selbst wenn sich sp\u00e4ter die Beweise f\u00fcr eine niedrige Erkennungsrate und die systematische Benachteiligung von unschuldigen Verd\u00e4chtigen h\u00e4ufen.<\/p>\n
* pm: Philipps-Universit\u00e4t Marburg<\/p>\n","protected":false},"excerpt":{"rendered":"
Zu Vorsicht bei der „KI-Erkennung von L\u00fcgen“ raten Prof. Dr. Kristina Suchotzki und Prof. Dr. Matthias Gamer. Ihre Warnung haben sie in der Fachzeitschrift „Trendsin Cognitive Sciences“ ver\u00f6ffentlicht.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"advanced_seo_description":"","spay_email":"","jetpack_publicize_message":"","jetpack_is_tweetstorm":false,"jetpack_publicize_feature_enabled":true},"categories":[5],"tags":[1341,5969,11],"jetpack_featured_media_url":"","jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p8mhvd-42v","jetpack-related-posts":[{"id":18426,"url":"http:\/\/marburg.news\/?p=18426","url_meta":{"origin":15531,"position":0},"title":"L\u00fcgen bis ins Kanzeramt: Nicht nachgeben im Kulturkampf der AfD","date":"26. Juli 2025","format":false,"excerpt":"Kulturkampf und Spaltung sind die Methoden der AfD. Das ist zwar nichts Neues, aber dennoch brandgef\u00e4hrlich. Dass sich die-Rechte auch nicht scheut, mit L\u00fcgen und Hetze regelrechte Rufmordkampagnien gegen unliebsame Menschen zu initieren, hat die - im Bundeskabinett zuvor vereinbarte - Wahl der Juristin Prof. Dr. Frauke Brosius-Gersdorf zur Verfassungsrichterin\u2026","rel":"","context":"In "Politik"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":19507,"url":"http:\/\/marburg.news\/?p=19507","url_meta":{"origin":15531,"position":1},"title":"Wahrheiten \u00fcber Unwahrheiten: Katharina Nocun zu L\u00fcgen und Verschw\u00f6rungsmythen","date":"10. Februar 2026","format":false,"excerpt":"\u00dcber \"Fake News und Verschw\u00f6rungserz\u00e4hlungen als Gefahr f\u00fcr die Demokratie\" sprach Katharina Nocun am Montag (9. Februar) im Technologie- und Tagungszentrum (TTZ). Eingeladen hatten die \"Omas gegen Rechts Marburg\" und die \"Kulturelle Aktion Marburg Str\u00f6mungen\". Gerechnet hatten die Veranstalterinnen mit gut 35 Besucherinnen und Besuchern. Gekommen waren am Montagabend aber\u2026","rel":"","context":"In "Bildung"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":14381,"url":"http:\/\/marburg.news\/?p=14381","url_meta":{"origin":15531,"position":2},"title":"Vor Studierenden: Innovative Ideen der Hochschullehre","date":"17. November 2023","format":false,"excerpt":"Innovative Ideen f\u00fcr die Hochschullehre standen am Mittwoch (15. November) und Donnerstag (16. November) im Fokus. Au\u00dferdem wurde bei den mittelhessischen Tagen der Lehre auch der Lehrpreis \"Lehre@Philipp\" verliehen. An zwei Tagen boten die Tage der Lehre an der Philipps-Universit\u00e4t in diesem Jahr vielf\u00e4ltige Anregungen f\u00fcr die Lehrpraxis und Gelegenheit\u2026","rel":"","context":"In "Bildung"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":19624,"url":"http:\/\/marburg.news\/?p=19624","url_meta":{"origin":15531,"position":3},"title":"Im Dialekt m\u00f6glich: KI soll auch Regionalsprachen lernen","date":"26. Februar 2026","format":false,"excerpt":"Regionalsprachen sind \"blinde Flecken\" in der Spracherkennung. Marburger Forscher untersuchen aber bereits, wie die \"KI\" Dialekte lernen kann. Wer schon mal in der telefonischen Warteschleife mit der KI Schw\u00e4bisch gesprochen hat oder Bairisch, der wei\u00df: Die Aussicht auf Erfolg ist gering. Das konstatieren rund 35 Wissenschaftlerinnen und Wissenschaftler aus sieben\u2026","rel":"","context":"In "Bildung"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":14870,"url":"http:\/\/marburg.news\/?p=14870","url_meta":{"origin":15531,"position":4},"title":"Alltagstauglich: Praktische Ideen aus der Wissenschaft","date":"5. Februar 2024","format":false,"excerpt":"\"B\u00fchne frei f\u00fcr alltagstaugliche Ideen aus der Welt der Wissenschaft\" hei\u00dft es am Donnerstag (8. Februar). Studierende pr\u00e4sentieren praktische L\u00f6sungsans\u00e4tze f\u00fcr gesellschaftliche Herausforderungen. Wie \u00fcbersteht man eine Familienfeier ohne Streit? Wie kann KI dabei helfen, sich nachhaltiger zu ern\u00e4hren? Alltagsnahe Antworten und praktische L\u00f6sungen f\u00fcr Fragen wie diese pr\u00e4sentieren Studierende\u2026","rel":"","context":"In "Bildung"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":18879,"url":"http:\/\/marburg.news\/?p=18879","url_meta":{"origin":15531,"position":5},"title":"Viele Gr\u00fcnde: Aktionstag f\u00fcr AfD-Verbot am 25. Oktober","date":"23. Oktober 2025","format":false,"excerpt":"Den \"Aktionstag f\u00fcr ein AfD-Verbot\" unterst\u00fctztauch die Humanistische Union Marburg. Sie ruft dazu auf, sich an der Demonstration am Samstag (25. Oktober) in Marburg zu beteiligen. Bei der Abschlusskundgebung vor dem Erwin-Piscator-Haus (EPH) wird neben Oberb\u00fcrgermeister Dr. Thomas Spies und anderen auch der HU-Regionalvorsitzende Franz-Josef Hanke sprechen. In seiner Rede\u2026","rel":"","context":"In "Politik"","img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"_links":{"self":[{"href":"http:\/\/marburg.news\/index.php?rest_route=\/wp\/v2\/posts\/15531"}],"collection":[{"href":"http:\/\/marburg.news\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/marburg.news\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/marburg.news\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/marburg.news\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15531"}],"version-history":[{"count":0,"href":"http:\/\/marburg.news\/index.php?rest_route=\/wp\/v2\/posts\/15531\/revisions"}],"wp:attachment":[{"href":"http:\/\/marburg.news\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15531"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/marburg.news\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15531"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/marburg.news\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15531"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}