Eine neue Kategorie von Verbraucherhardware entsteht, und ihr entscheidendes Merkmal ist kein Bildschirm, keine Kamera und kein Lautsprecher. Es ist ein Mikrofon, das nie aufhört zuzuhören. Amazons Tochtergesellschaft Bee hat kürzlich ein Armband namens Bee Frontier vorgestellt, das 75 Dollar kostet und dafür entwickelt wurde, Gespräche aufzuzeichnen sowie Transkripte und Zusammenfassungen zu generieren, die auf einem Telefon oder Computer abrufbar sind. Das Gerät sieht aus wie ein bildschirmloser Fitness-Tracker. Sein Zweck ist es, Vergesslichkeit zu lösen. Diese Rahmung, so bescheiden und praktisch sie auch klingen mag, verschleiert einen viel größeren Wandel in der Art und Weise, wie das öffentliche und private Leben in Zukunft funktionieren könnte.
Ein Markt rund um die Grenzen des menschlichen Gedächtnisses
Amazon ist in diesem Bereich nicht allein. Apple hat eine Funktion namens Siri Recap für neuere Apple Watch-Modelle vorgestellt, die in der Lage ist, Gespräche zusammenzufassen, denen die Uhr lauscht. Eine Marke namens Vonder baut eine intelligente Brille, die die Seite jedes Gesprächs des Trägers verfolgt. Auf den Arbeitsplatz ausgerichtete Aufnahmegeräte werden bereits in Büros vermarktet. Die Werbebotschaft all dieser Produkte ist konsistent: Menschen vergessen Dinge, und KI kann sich stattdessen daran erinnern.
Dies ist ein echtes Problem, das angegangen wird. Details aus Meetings gehen verloren, Telefonate verschwimmen miteinander, und die kognitive Belastung moderner Arbeit ist real. Die Frage ist nicht, ob das Problem existiert. Die Frage ist, was bei seiner Lösung preisgegeben wird.
Amazon hat sichtbare Anstrengungen unternommen, um das offensichtlichste Bedenken auszuräumen. Audio, das von Bee-Geräten erfasst wird, wird in Echtzeit verarbeitet und dann gelöscht. Transkripte und Zusammenfassungen werden in einer verschlüsselten Umgebung gespeichert, auf die die eigenen Mitarbeiter von Amazon Berichten zufolge keinen Zugriff haben. Eine LED-Leuchte aktiviert sich immer dann, wenn das Gerät aufzeichnet. Dies sind sinnvolle Designentscheidungen, und sie spiegeln das Bewusstsein dafür wider, dass das Produkt sich in sensuellem Terrain bewegt.
Das LED-Leuchten-Problem und was dahinter liegt
Hier ist, was die meiste Berichterstattung über diese Geräte übersieht: Die LED-Anzeige, das gängigste Privatsphäresignal bei KI-Wearables, ist eine schwache Lösung für ein strukturelles Problem.
Sara Geoghegan, leitende Rechtsberaterin beim Electronic Privacy Information Center, hat darauf hingewiesen, dass eine LED-Leuchte für einige Umstehende sichtbar sein mag, aber nicht für alle von ihnen als Signal dafür erkennbar ist, dass die Aufnahme aktiv ist. Sie ist klein. Menschen bemerken sie vielleicht nicht. In Bundesstaaten wie Kalifornien und Florida, wo Gesetze zur Zustimmung beider Parteien vorschreiben, dass alle Parteien in einem privaten Gespräch der Aufzeichnung zustimmen müssen, stellt ein blinkendes Licht möglicherweise keine rechtliche Zustimmung dar.
Das Problem geht noch weiter. Einige Nutzer von Metas Ray-Ban KI-Brillen haben Berichten zufolge ihre LEDs manipuliert, um andere ohne deren Wissen aufzunehmen, was Meta dazu veranlasste, Tausende von Brillen aus der Ferne zu deaktivieren. Dies ist kein hypothetisches Risiko. Es ist bereits passiert.
Einige Hersteller haben versucht, über LEDs hinauszugehen. Die Vive Eagle Smart Glasses von HTC hören auf aufzunehmen, wenn ein Umstehender „stop recording“ sagt. Limitless, ein Hersteller von KI-Anhängern, verlangte vor der Erfassung von Stimmen die hörbare Zustimmung von Umstehenden, als das Unternehmen sein Gerät im Jahr 2024 auf den Markt brachte. Limitless wurde inzwischen von Meta übernommen, das diese Zustimmungsfunktion nicht in seine eigenen Produkte übernommen hat.
Metas eigene kameraleise KI-Brillen stellen eine andere Art von Herausforderung dar. Sie haben überhaupt keine LED, wodurch sie optisch nicht von gewöhnlichen Brillen zu unterscheiden sind. Die Übersetzungsfunktion auf Metas Ray-Bans lässt die LED während des Betriebs ausgeschaltet, und Metas Server behalten möglicherweise Transkripte übersetzter Gespräche bis zu einem Jahr lang bei, es sei denn, die Nutzer löschen sie manuell.
Was permanente Aufzeichnung mit dem öffentlichen Raum macht
Das tiefergehende Bedenken, das vom Oxforder Professor Viktor Mayer-Schönberger geäußert wird, betrifft nicht ein einzelnes aufgezeichnetes Gespräch. Es betrifft das, was verschwindet, wenn jedes Gespräch aufgezeichnet werden könnte.
Öffentliche Räume boten historisch gesehen eine Art eingebautes Vergessen. Ein schlechter Witz, ein falsch ausgesprochenes Wort, eine beiläufige Bemerkung: Diese Dinge verblassten. Die Menschen, die sie hörten, gingen weiter. Diese Vergänglichkeit war kein Makel im öffentlichen Leben. Sie war ein Merkmal. Sie erlaubte es Menschen, unvollkommen, spontan und ungeschützt zu sein, auf Weisen, die grundlegend dafür sind, wie Menschen tatsächlich interagieren.
Mayer-Schönberger argumentiert, dass diese Vergänglichkeit bereits begonnen hat sich aufzulösen. Wenn jedes in einer Bar, einem Museum oder an einem Arbeitsplatz gesprochene Wort auf unbestimmte Zeit bewahrt und analysiert werden könnte, ist die rationale Reaktion, weniger frei zu sprechen. Er zieht eine direkte Parallele zum Verhalten in autoritären Gesellschaften, wo sich Menschen im öffentlichen Bewusstsein darüber, beobachtet zu werden, selbst zensieren. In liberalen Demokratien, so argumentiert er, ist die Teilnahme am öffentlichen Leben von grundlegender Bedeutung dafür, wie die Gesellschaft funktioniert. Ein Rückzug aus dieser Teilnahme, angetrieben nicht durch staatliche Überwachung, sondern durch Verbraucherhardware, wäre ein schwerwiegender Verlust.
Der Weg nach vorne ist seiner Ansicht nach keine technische Lösung, sondern eine soziale Verhandlung. Gesellschaften haben das öffentliche Verhalten schon früher neu verhandelt: Publikum schrie früher Schauspieler während Theateraufführungen an, eine Praxis, die heute undenkbar ist. Normen im Umgang mit der Handynutzung in sozialen Situationen verschoben sich innerhalb einer Generation. Die Normen rund um die KI-Aufnahme sind noch nicht gefestigt, und genau das ist der Moment, sie bewusst zu gestalten. Ohne diesen Prozess, so warnt Mayer-Schönberger, wird Regulierung erst eintreffen, nachdem etwas gründlich schiefgegangen ist, und sie wird wahrscheinlich stumpf und unverhältnismäßig ausfallen.
Kurz gesagt
KI-Wearables, die dazu entwickelt wurden, Gespräche aufzuzeichnen und zusammenzufassen, sind bereits auf dem Markt, zu erschwinglichen Preisen erhältlich und werden von großen Technologieunternehmen unterstützt. Die in diese Geräte integrierten Datenschutzmechanismen, primär LED-Anzeigen und Verschlüsselung, adressieren einige Bedenken, lassen aber andere ungelöst, insbesondere in Bezug auf die Zustimmung in überfüllten oder öffentlichen Umgebungen. Das größere Problem ist nicht die Überwachung im traditionellen Sinne. Es ist die schleichende Erosion des informellen Vergessens, auf das das öffentliche Leben immer angewiesen war. Wie Gesellschaften wählen, die Grenzen des KI-gestützten Gedächtnisses auszuhandeln, wird weitaus wichtiger sein als jede einzelne Produktveröffentlichung.
Basierend auf Berichten von Fast Company.