The Brief
Wissenschaft und Entdeckung 5 Min. Lesezeit

Gefälschte Gesichter werden als realer bewertet als echte

NAVION

Teilen

Jahrelang war das Erkennen eines KI-generierten Gesichts ein Spiel, das jeder gewinnen konnte. Verstümmelte Ohren, ein beunruhigender Überschuss an Zähnen, ein Blick, der nie ganz ankam: Die Merkmale waren offensichtlich und ein wenig lustig. Eine neue Studie von Psychologen der University of Florida, veröffentlicht in Social Cognitive and Affective Neuroscience, legt nahe, dass dieses Spiel vorbei ist. Die Gesichter sehen inzwischen so überzeugend aus, dass Menschen sie als realistischer bewerten als Fotografien von echten Menschen.

Was das Experiment ergab

Das Forschungsteam rekrutierte mehr als 150 Teilnehmer, aufgeteilt in jüngere Erwachsene (18 bis 37 Jahre) und ältere Erwachsene (60 bis 89 Jahre). Jede Person sah Fotos von entweder echten menschlichen Gesichtern oder KI-generierten Gesichtern und bewertete auf einer Skala von 1 bis 10, wie realistisch diese wirkten. Die ganze Zeit über scannte ein fMRI-Gerät ihre Gehirne.

Das Ergebnis läuft der Intuition zuwider. Beide Altersgruppen gaben den computergemachten Gesichtern höhere Realismuswerte als den echten. Studienautorin Natalie Ebner brachte das Problem auf den Punkt: Gefälschte Gesichter werden als realer wahrgenommen als reale Gesichter. Sie fügte hinzu, dass Menschen schlechter abschneiden als beim reinen Raten, weil sie aktiv in die falsche Richtung gezogen werden.

Dieser letzte Punkt verdient Aufmerksamkeit. Wenn Menschen schlicht nicht in der Lage wären, den Unterschied zu erkennen, würde die Genauigkeit um den Zufallswert kreisen. Stattdessen drückt die Verzerrung das Urteil in Richtung der falschen Antwort. Ein Betrachter, der seinem Bauchgefühl vertraut, welches Gesicht am realsten aussieht, wird im Durchschnitt das gefälschte auswählen.

Die Gehirnregion, die ruhig blieb

Die Scans fügen eine zweite Ebene hinzu. Als die Teilnehmer KI-Gesichter sahen, sank die Aktivität in der anterioren Insula, einer Region, die in der Sylvischen Fisur liegt, der tiefen Falte an der Seite des Gehirns. Dieser Bereich ist an der Verarbeitung von Signalen beteiligt, die Unzuverlässigkeit anzeigen.

Eine gedämpfte Aktivität dort legt nahe, dass die synthetischen Gesichter einfach nie einen neuronalen Alarm auslösten. Nichts fühlte sich falsch an, also wurde nichts markiert. Dies ist eine andere Art von Versagen als das klassische Uncanny Valley, bei dem ein fast menschliches Gesicht genau deshalb Unbehagen hervorruft, weil etwas leicht nicht stimmt. Diese Gesichter scheinen dieses Tal vollständig durchquert zu haben.

Die Erklärung der Forscher ist elegant. KI-Gesichter sind im Grunde ein Durchschnitt vieler Gesichter. Markante Eigenheiten werden abgeschliffen, sodass etwas Prototypisches, Attraktives und Vertrautes zurückbleibt. Und vertraute Gesichter wirken tendenziell vertrauenswürdiger. Echte menschliche Gesichter weisen Asymmetrien, seltsame Proportionen und individuellen Charakter auf. Genau diese Unterschiede werden vom Gehirn möglicherweise als etwas weniger typisch und daher als etwas weniger real interpretiert.

Warum ältere Erwachsene Fälschungen noch höher bewerten

Ein Befund sticht hervor. Die Gehirnaktivität unterschied sich nicht signifikant zwischen den Altersgruppen, dennoch bewerteten ältere Erwachsene KI-Gesichter als realer. Beide Gruppen bewerteten tatsächliche Gesichter ähnlich, aber ältere Teilnehmer bewerteten KI-Gesichter beim Realismus um 1,11 Punkte höher, verglichen mit nur 0,25 Punkten bei jüngeren Teilnehmern.

Ebner achtete darauf, dies richtig einzuordnen: Alle Erwachsenen haben eine Hyperrealismus-Verzerrung, nicht nur ältere Erwachsene. Aber ältere Erwachsene haben sie stärker. Die Forscher wissen nicht genau warum. Eine Möglichkeit ist, dass sich ältere Menschen genereller auf das Vertraute stützen. Eine andere ist, dass sie sich weniger bewusst sind, dass KI-generierte Deepfakes überhaupt existieren.

Was das jenseits des Labors bedeutet

Die praktische Konsequenz ist unkompliziert: Der alte Rat, genau nach Fehlern zu suchen, ist nicht mehr zuverlässig. Visuelle Inspektion, der Instinkt, zu dem die meisten von uns greifen würden, führt möglicherweise aktiv in die Irre. Ein Gesicht, das sich vertrauenswürdig und natürlich anfühlt, ist kein Beleg für eine echte Person dahinter.

Dies ist vor allem bei Betrugsmaschen von Bedeutung. Die Forscher weisen darauf hin, dass die größere Verzerrung bei älteren Erwachsenen sie zu besonders attraktiven Zielen macht. Ebner formulierte das Ergebnis als Ausgangspunkt für die Verteidigung: Die Identifizierung dieses potenziellen Täuschungsschemas ist der erste Schritt zu einer Intervention. Ihre vorgeschlagene Gewohnheit ist einfach, wenn auch schwer in die Praxis umzusetzen: Wenn etwas zu schön erscheint, um wahr zu sein, denke zweimal nach, bevor du darauf eingehst.

Die Studie deutet auch auf einen tieferen Wandel hin, wie wir über Vertrauen im Internet denken sollten. Unsere Wahrnehmungssysteme haben sich entwickelt, um Gesichter in einer Welt zu lesen, in der jedes Gesicht zu einer Person gehörte. Diese Instinkte beinhalten versteckte Annahmen, wie etwa die Idee, dass ein vertrautes, angenehmes Gesicht Sicherheit signalisiert. Synthetische Gesichter können diesen Mechanismus genau deshalb ausnutzen, weil sie auf den Durchschnitt optimiert sind und das Gehirn den Durchschnitt bequem findet.

Es gibt in der Quelle auch einen offenen Realismus in Bezug auf den bevorstehenden Weg. Das Schaffen von Bewusstsein klingt einfach, ist aber schwierig in einem Informationsumfeld, das bereits von Betrugsmaschen überfüllt ist. Zu wissen, dass eine Verzerrung existiert, schaltet sie nicht automatisch aus, ähnlich wie das Wissen, dass eine optische Täuschung eine Täuschung ist, sie nicht verschwinden lässt. Effektive Reaktionen müssen wahrscheinlich über die individuelle Wachsamkeit hinausgehen und menschliches Urteil mit anderen Signalen paaren, anstatt Menschen zu bitten, eine Maschine anzustarren.

Kurz gesagt

Eine Studie der University of Florida ergab, dass sowohl jüngere als auch ältere Erwachsene KI-generierte Gesichter als realistischer bewerteten als echte, während Gehirnscans eine verringerte Aktivität in der anterioren Insula zeigten, einer Region, die mit der Erkennung unzuverlässiger Signale verbunden ist. Der wahrscheinlichste Grund ist, dass KI-Gesichter viele Gesichter zu einem vertrauten, prototypischen Durchschnitt verschmelzen, den das Gehirn leicht als vertrauenswürdig empfindet. Ältere Erwachsene zeigten eine stärkere Verzerrung, was sie besonders anfällig für Betrugsmaschen macht, obwohl jede Gruppe betroffen war. Die Lektion ist, dass ein sich real anfühlendes Gesicht kein zuverlässiger Hinweis mehr darauf ist, dass es echt ist, und dass Bewusstsein, Vorsicht und unabhängige Verifizierung wichtiger sind als ein genauer Blick.

Basierend auf Berichten von Nautilus.

Geschrieben von

NAVION