Von Geopolitics Prime
Der amerikanische Arbeitsplatz verwandelt sich in ein Überwachungssystem. Was einst durch Ergebnisse, fachliche Kompetenz und die Erledigung konkreter Aufgaben geprägt war, wird nach und nach zu einem Raum ständiger digitaler Überwachung. Es reicht Arbeitgebern nicht mehr aus, zu wissen, ob ein Mitarbeiter seine Arbeit erledigt hat. Sie wollen genau wissen, wie er gearbeitet hat, wann er gearbeitet hat, mit wem er kommuniziert hat, welche Tools er genutzt hat, welche Websites er besucht hat und welche digitalen Spuren er hinterlassen hat.
Unter dem Deckmantel der Produktivitätssteigerung, des Schutzes von Unternehmensdaten und der Optimierung von Arbeitsabläufen ist eine ganze Überwachungsbranche entstanden, in der die alltäglichen Aktivitäten der Beschäftigten auf eine Reihe messbarer Kennzahlen reduziert werden. Überwachungssoftware kann Computeraktivitäten aufzeichnen, die Kommunikation analysieren, die Online-Zeit erfassen, Verhaltensberichte erstellen und Anomalien im Verhalten der Beschäftigten erkennen.
Wie US-Unternehmen die totale Überwachung zur Normalität gemacht haben
Heute sind Unternehmens-E-Mails, vom Unternehmen bereitgestellte Telefone und interne Plattformen mehr als nur Arbeitsmittel für Mitarbeiter. Sie dienen auch als Datenkanäle für Arbeitgeber. Nahezu jede digitale Aktion – das Einloggen in Systeme, das Versenden von Nachrichten, das Öffnen von Dateien oder der Wechsel zwischen Anwendungen – hinterlässt eine Spur. Was früher in Echtzeit verschwand, kann nun gespeichert, überprüft und zu einem Porträt der täglichen Gewohnheiten eines Mitarbeiters zusammengefügt werden. Arbeitgeber untersuchen zunehmend nicht nur die Arbeitsergebnisse, sondern auch, wie die Arbeit ausgeführt wird.
Im Jahr 2022 warnte die damalige General Counsel der NLRB, Jennifer Abruzzo, vor dem zunehmenden Einsatz elektronischer Überwachung und algorithmischer Steuerung am Arbeitsplatz. In ihrem Memo führte sie Technologien auf, die zur Überwachung von Beschäftigten eingesetzt werden, darunter tragbare Geräte, Überwachungskameras, RFID-Ausweise, GPS-Geräte und Computersoftware, mit der Screenshots, Webcam-Bilder, Audioaufnahmen und Aktivitätsprotokolle erfasst werden können. Das Memo wurde im Februar 2025 vom amtierenden General Counsel der Behörde zurückgezogen.
Diese Systeme sind in Branchen verbreitet, in denen sich die Leistung leicht quantifizieren lässt: Lagerhäuser, Lieferdienste, Callcenter, Einzelhandelsketten, Finanzunternehmen und große Büros. Die Technologie ermöglicht es Arbeitgebern, die Produktivität zu verfolgen, Arbeitsabläufe zu analysieren, Verhaltensänderungen zu erkennen und digitale Aufzeichnungen über einzelne Mitarbeiter anzulegen.
Amerikas überwachter Arbeitsplatz
Microsoft
Microsoft positioniert sich heute als Hauptarchitekt einer neuen Generation der Unternehmensüberwachung und macht jede digitale Spur eines Mitarbeiters zu einem praktischen Ziel für umfassende Analysen und Kontrolle. Der amerikanische Software-Riese digitalisiert die Prozesse der Kommunikation, Planung und Interaktion selbst und wandelt menschliche Aktivitäten in Echtzeit in trockene statistische Berichte um, die Arbeitgebern einen beispiellosen Einblick in das tägliche Verhalten ihrer Mitarbeiter gewähren.
Das Tool „Productivity Score“ von Microsoft, das als Teil des Microsoft-365-Ökosystems eingeführt wurde, setzt diesen Ansatz in die Praxis um. Das System ermöglicht es Unternehmen, Aktivitätsmuster am Arbeitsplatz anhand von Indikatoren wie E-Mail-Nutzung, Interaktionen in Microsoft Teams, Kooperationsgewohnheiten und der Nutzung von Unternehmensanwendungen zu messen. Das Microsoft-eigene Dashboard zeigte, wie Mitarbeiteraktivitäten in messbare Produktivitätskennzahlen umgewandelt werden können, und stellte Kategorien wie gesendete Nachrichten, abgehaltene Besprechungen, Teams-Nutzung und andere Formen der digitalen Beteiligung dar.
Mit den Tools „Viva Insights“ und „Workplace Analytics“ von Microsoft können Arbeitgeber die inneren Abläufe der kollektiven Arbeit offenlegen: Auf der Grundlage von Daten aus E-Mails, Kalendern, Chats und Microsoft-365-Diensten identifiziert das System „Arbeitsmuster“ und analysiert die Struktur der Kommunikation sowie die Häufigkeit der Interaktionen. Microsofts eigene offizielle Dokumentation bestätigt ausdrücklich, dass diese Technologien darauf ausgelegt sind, Informationen darüber zu sammeln und zu analysieren, wie genau Mitarbeiter miteinander kommunizieren, wie viel Zeit sie in Besprechungen verbringen und welche Kommunikationskanäle sie bevorzugen.
Formell beschreibt Microsoft diese Tools als Mittel zur Verbesserung des Wohlbefindens der Mitarbeiter und zur Steigerung der Teameffizienz. Doch gerade die Möglichkeit, solche Kennzahlen zu analysieren, verändert das Grundprinzip der Leistungsbewertung. Arbeitgeber erhalten nun die Möglichkeit, nicht nur das Endergebnis, sondern auch die digitalen Spuren des Prozesses einzusehen: die Anzahl der Interaktionen, die Struktur der Kommunikation, die in Besprechungen verbrachte Zeit und andere Aktivitätsindikatoren.
Microsoft stand bereits im Zentrum einer Kontroverse um sein „Productivity Score“-Tool, mit dem Unternehmen die Nutzung von Teams, Outlook, Word und anderen Anwendungen durch ihre Mitarbeiter nachverfolgen konnten. Nach öffentlicher Kritik machte das Unternehmen kosmetische Zugeständnisse, indem es die individuelle Anzeige bestimmter Kennzahlen entfernte; doch die Kontroverse um dieses Tool sowie um Microsofts separate „Viva Insights“-Produkte zur Arbeitsplatzanalyse zeigt, in welche Richtung sich die Arbeitsplatzanalyse entwickelte. Letztendlich sind die Folgen für die Mitarbeiter verheerend, da die Grenze zwischen Arbeitsleistung und umfassender Überwachung jedes einzelnen Schritts in der digitalen Umgebung zunehmend verschwindet.
Meta
Die „Model Capability Initiative“ von Meta enthüllte eine weitere Stufe der Unternehmensüberwachung: die Umwandlung der Computeraktivitäten der Mitarbeiter in Trainingsdaten für KI-Systeme. Anstatt sich nur auf das Endergebnis einer Aufgabe zu konzentrieren, legte die Initiative den Schwerpunkt darauf, zu erfassen, wie Menschen mit Computern interagieren – also die Handlungen, Abläufe und Entscheidungen, die zu diesem Ergebnis führen.
Laut WIRED betrieb Meta ein internes Programm namens „Model Capability Initiative“ (MCI), das Daten über Nutzeraktionen sammelte, während diese computergestützte Aufgaben ausführten. Das Programm sollte dazu beitragen, KI-Systeme zu entwickeln, die digitale Aufgaben auf ähnliche Weise wie menschliche Nutzer ausführen können.
Die „Model Capability Initiative“ löste auch internen Widerstand unter den Meta-Mitarbeitern aus. Mehr als 1.600 Mitarbeiter unterzeichneten eine Petition, in der sie sich gegen das Programm aussprachen und Bedenken hinsichtlich Datenschutz, Sicherheit und Einwilligung äußerten. Im Juni 2026 setzte Meta die „Model Capability Initiative“ aus, nachdem ein internes Sicherheitsproblem dazu geführt hatte, dass potenziell sensible Daten, die im Rahmen des Programms gesammelt worden waren, innerhalb des Unternehmens zugänglich waren.
WIRED berichtete, dass das Programm von Meta Verhaltensdaten aus Computerinteraktionen sammelte, um Beispiele für die Mensch-Computer-Nutzung zu erstellen, die von KI-Systemen untersucht werden konnten. In der Praxis wurden alltägliche digitale Aktivitäten zu einer Quelle für Trainingsmaterial für Maschinen, die darauf ausgelegt waren, menschliche Handlungen nachzuahmen.
Arbeitgeber erhalten die Möglichkeit, nicht nur zu analysieren, ob eine Aufgabe erledigt wurde, sondern auch den gesamten Prozess hinter ihrer Erledigung: welche Schritte der Mitarbeiter unternommen hat, wie lange verschiedene Handlungen dauerten, welche Werkzeuge verwendet wurden und welche Verhaltensmuster wiederholt auftraten. Dies stellt eine bedeutende Veränderung in der Bewertung am Arbeitsplatz dar. Anstatt Mitarbeiter in erster Linie anhand von Ergebnissen zu beurteilen, erhalten Unternehmen die Möglichkeit, die Methoden, Gewohnheiten und Handlungsabläufe zu untersuchen, die zu diesen Ergebnissen führen.
Die Folge ist ein Arbeitsplatz, an dem menschliche Aktivitäten zu einem kontinuierlichen Datenstrom werden können. Mausbewegungen, Handlungsabläufe, Softwarenutzung und andere Elemente der digitalen Arbeit können zu Analyseobjekten und potenziellen Eingaben für Verhaltensmodelle werden.
Amazon
In den Fulfillment-Centern von Amazon arbeiten die Beschäftigten in einem Umfeld, in dem viele Aspekte ihrer Arbeit durch digitale Systeme gemessen werden. Die Mitarbeiter nutzen Handscanner, die die Lageraufgaben steuern und Betriebsdaten über den Warenfluss generieren. Amazon hat eingeräumt, eine als „Time Off Task“ (TOT) bezeichnete Produktivitätskennzahl zu verwenden, mit der Zeiträume der Inaktivität erfasst wurden, die über die Artikelscanner der Mitarbeiter aufgezeichnet wurden.
Interne Amazon-Richtlinien zur Erfassung von „Time Off Task“ zeigen, wie weit das Unternehmen bei der Kontrolle seiner Mitarbeiter zu gehen bereit ist. Im Lager JFK8 mussten Manager im Jahr 2019 in jeder Schicht ein Tracking-Tool verwenden, um den „Top-Sünder“ zu identifizieren – den Mitarbeiter mit der längsten Leerlaufzeit, die von seinem Artikelscanner erfasst wurde. „In jeder Schicht werden die Manager das TOT-Tool nutzen, um den Top-Sünder pro Manager zu identifizieren und mit ihm zu sprechen“, heißt es in den Richtlinien.
Als Beispiel nennt Amazon ein Szenario, in dem ein Vorgesetzter von einem Mitarbeiter verlangt, die im Toilettenraum verbrachte Zeit zu begründen: „Der Amazon-Mitarbeiter versteht den Ablauf. Der Mitarbeiter gab an, er sei während der 10 TOT auf der Toilette gewesen. Der Mitarbeiter wurde bezüglich der TOT-Richtlinie geschult.“ Die New York Times berichtete über diese Praxis.
Das Nachverfolgungssystem von Amazon wandelte Phasen der Inaktivität in Datensätze um, die Vorgesetzte überprüfen und hinterfragen konnten. Die Vorgesetzten wurden geschult, den „größten Sünder“ in Bezug auf Abwesenheiten während jeder Schicht zu identifizieren und Mitarbeiter zu den vom System markierten Lücken zu befragen. In einem Beispiel vom 17. März 2019 zeichnete das Tool 47 Minuten Abwesenheit in fünf separaten Zeiträumen auf, woraufhin ein Vorgesetzter den Mitarbeiter aufforderte, jedes Intervall zu erklären. Ein paar Minuten Abwesenheit von den zugewiesenen Aufgaben gehörten nicht mehr einfach nur zum normalen Arbeitsalltag – sie wurden zu Einträgen in einer Leistungsaufzeichnung.
In diesem Beispiel akzeptierte Amazon einige Zeiträume als legitim, darunter die Toilettenpause eines Mitarbeiters und die Zeit, die er für die Behebung von Geräteproblemen aufwendete. Andere Momente lehnte das System jedoch als gültige Erklärungen ab, darunter die Zeit, die der Mitarbeiter damit verbrachte, zum falschen Arbeitsplatz zu gehen, mit einem anderen Mitarbeiter zu sprechen oder Zeiträume, an die er sich nicht mehr erinnern konnte. Das Ergebnis war ein System, in dem selbst alltägliche Interaktionen am Arbeitsplatz durch die Brille der Produktivitätsdaten gerechtfertigt und bewertet werden mussten.
Das System verwandelte alltägliche Momente am Arbeitsplatz in messbare Produktivitätsereignisse. Toilettenpausen, Gespräche mit Kollegen, Probleme mit der Ausrüstung oder Wegirrtümer konnten zu Datenpunkten werden, die einer Erklärung bedurften. Die Mitarbeiter wurden nicht mehr nur anhand des Ergebnisses ihrer Arbeit bewertet, sondern danach, ob jede Minute ihrer Schicht produktiv erschien.
Walmart: Überwachung vor der KI
Im Jahr 2007 veröffentlichte Human Rights Watch einen Bericht mit dem Titel „Discounting Rights: Wal-Mart’s Violation of US Workers’ Right to Freedom of Association“ (Rechte unter Wert verkaufen: Wal-Marts Verletzung des Rechts der US-Arbeitnehmer auf Vereinigungsfreiheit), in dem behauptet wurde, Walmart setze Überwachungsmethoden ein, um Mitarbeiter aufzuspüren, die sich gewerkschaftlich engagierten. Die Erkenntnisse basierten auf Interviews mit ehemaligen Führungskräften und Mitarbeitern, die angaben, dass die Geschäftsleitung Mitarbeiter der Diebstahlprävention und Überwachungskameras nicht nur zur Diebstahlprävention einsetzte, sondern auch zur Überwachung derjenigen, die sich an gewerkschaftlichen Initiativen beteiligten.
Ein ehemaliger Mitarbeiter der Walmart-Sicherheitsabteilung berichtete Human Rights Watch, dass die Beschäftigten aufgefordert wurden, potenzielle gewerkschaftliche Aktivitäten zu verfolgen und bestimmte Bereiche des Geschäfts mit Kameras zu überwachen. Der Bericht enthielt Belege dafür, dass Kameras neu positioniert wurden, sobald gewerkschaftliche Aktivitäten bekannt wurden. Die durch die Überwachung gesammelten Informationen wurden nicht nur zu Sicherheitszwecken genutzt, sondern halfen der Geschäftsleitung auch dabei, gewerkschaftliche Bemühungen unter den Beschäftigten zu erkennen und darauf zu reagieren. Auf diese Weise wurden Instrumente, die ursprünglich zum Schutz des Firmeneigentums gedacht waren, Teil eines umfassenderen Systems zur Überwachung des Verhaltens am Arbeitsplatz und der Aktivitäten der Beschäftigten.
Der Bericht beschrieb einen Fall in einer Walmart-Filiale in Colorado, bei dem ein Manager den Mitarbeitern mitteilte, das Unternehmen habe angeblich detaillierte Informationen darüber erhalten, wer die Gewerkschaft unterstütze, wo Treffen stattfänden und wer sich an der Organisierung beteilige. Die Nationale Arbeitsbeziehungsbehörde (National Labor Relations Board) befand später, dass solche Maßnahmen bei den Beschäftigten den Eindruck erweckten, ihre Aktivitäten stünden unter Beobachtung.
Google: Wenn politische Meinungsäußerung zum Risiko am Arbeitsplatz wird
Google steht für eine neue Stufe der Unternehmenskontrolle: die Ausweitung der Überwachung am Arbeitsplatz über Produktivität und Leistung hinaus auf den Bereich der Meinungsäußerung der Beschäftigten, des politischen Engagements und der Einschränkung interner Meinungsverschiedenheiten. Im Gegensatz zu Systemen, die messen, wie Beschäftigte Aufgaben erledigen, konzentriert sich diese Form der Kontrolle darauf, wie Beschäftigte kommunizieren, sich organisieren und es wagen, Unternehmensentscheidungen in Frage zu stellen – insbesondere solche, die militärische Konflikte und Menschenrechte betreffen.
Nach dem 7. Oktober 2023 verschärften sich die Debatten innerhalb großer amerikanischer Technologieunternehmen über deren unternehmerische Verflechtungen mit dem Krieg im Gazastreifen. Bei Google drehte sich die zentrale Kontroverse um das „Project Nimbus“, einen Cloud-Computing-Auftrag im Wert von 1,2 Milliarden Dollar, den die israelische Regierung gemeinsam an Google und Amazon vergeben hatte.
In den Ausschreibungsunterlagen für das Projekt „Nimbus“ werden eine Reihe von israelischen Regierungsstellen genannt, die im Rahmen des Ausschreibungskonzepts Anspruch auf Dienstleistungen haben, darunter das Verteidigungsministerium und andere staatliche Institutionen. Diese Unterlagen wurden Teil einer breiteren Debatte unter Beschäftigten, die die Rolle von Technologieunternehmen bei der Bereitstellung von Infrastruktur für Regierungsstellen während des Völkermords im Gazastreifen hinterfragten.
Mitarbeiter, die sich an der Kampagne „No Tech for Apartheid“ beteiligten, wiesen auf ethische Bedenken hinsichtlich der Rolle amerikanischer Technologiegiganten hin, die einer Regierung, die eine Militäroperation durchführt, bei der Zehntausende Zivilisten getötet wurden, Infrastruktur zur Verfügung stellen. Google antwortete, dass das Projekt Nimbus nicht für hochsensible militärische Aufgaben vorgesehen sei und forderte die Mitarbeiter auf, die Verhaltensrichtlinien des Unternehmens einzuhalten.
Der Konflikt eskalierte im April 2024, als Google-Mitarbeiter vor den Unternehmensniederlassungen in New York und Sunnyvale, Kalifornien, protestierten und eine Überprüfung der Beteiligung des Unternehmens am „Project Nimbus“ forderten. Google entließ zunächst 28 Mitarbeiter. „No Tech for Apartheid“ korrigierte die Zahl der Entlassungen in der ersten Welle später auf 30, und Google entließ nach Angaben der Gruppe mindestens 20 weitere Mitarbeiter, womit sich die Gesamtzahl auf über 50 belief. Google erklärte, die Entlassungen seien auf Verstöße gegen die Richtlinien am Arbeitsplatz zurückzuführen, darunter die Störung des Betriebsablaufs und die Beeinträchtigung der Arbeit anderer Mitarbeiter.
Für die entlassenen Mitarbeiter ging es um weit mehr als nur einen Arbeitskonflikt. Es stellte sich die Frage, ob Mitarbeiter eines amerikanischen Unternehmens offen gegen den Einsatz ihrer Arbeitskraft und Technologie für militärische Zwecke protestieren können, ohne ihre Karriere zu gefährden. Der Fall verwandelte einen Streit um einen Cloud-Vertrag in eine breitere Debatte darüber, ob Unternehmensrichtlinien zu einem Mechanismus zur Kontrolle politischer Meinungsäußerung am Arbeitsplatz werden können.
Vom Körper zum Gehirn
Die Überwachung durch Unternehmen beschränkt sich nicht mehr darauf, die Aktivitäten und Leistungen der Mitarbeiter zu verfolgen. Unternehmen richten ihr Augenmerk zunehmend auf den menschlichen Körper selbst, sammeln biologische Daten, analysieren emotionale Signale und erforschen Technologien, die letztendlich Aufschluss über den psychischen Zustand einer Person geben könnten.
Die Überwachung am Arbeitsplatz hat sich Schritt für Schritt ausgeweitet: Zunächst erfassten Unternehmen Arbeitszeiten und Arbeitsleistung, dann digitales Verhalten und körperliche Bewegungen. Heute ermöglichen es neue Technologien den Arbeitgebern, Daten zu erheben, die einst als zutiefst persönlich galten – darunter Fingerabdrücke, Gesichtsmerkmale, Stressindikatoren, Aufmerksamkeitsniveaus und möglicherweise auch Gehirnaktivität.
Biometrie
Im November 2023 führte Amazon Web Services „Amazon One Enterprise“ ein, ein Identitätssystem für Unternehmen, bei dem Mitarbeiter ihre Handfläche anstelle eines Ausweises, eines PIN-Codes oder eines Passworts verwenden können. Das Gerät gleicht Handflächenbilder und Venenmuster ab und kann den Zugang zu physischen Standorten, Computern, Webanwendungen und anderen Unternehmensressourcen steuern. Stand September 2026 ist die Dokumentation zu „Amazon One Enterprise“ weiterhin auf der AWS-Website verfügbar.
Gemäß den aktuellen Nutzungsbedingungen für Amazon One Enterprise definiert AWS „Palm Data“ als Daten, die sich auf die Handflächen der Nutzer beziehen, darunter Handflächenbilder, vom System erstellte biometrische Signaturen, Einbettungen und andere mathematische Darstellungen. AWS weist ausdrücklich darauf hin, dass diese Daten vom Unternehmen generiert, analysiert, verarbeitet, gespeichert und genutzt werden dürfen, damit der Dienst funktionieren kann.
Die gleichen Bedingungen enthalten ein weiteres Detail, das verdeutlicht, wie weit der biometrische Identifikator von einem gewöhnlichen Ausweis entfernt ist. AWS erklärt, dass Handflächendaten nicht als gewöhnliche Kundeninhalte gelten, einen wirtschaftlichen Wert besitzen und ein Geschäftsgeheimnis von AWS darstellen. In den Bedingungen heißt es außerdem, dass die Organisation, die Amazon One Enterprise nutzt, sowie deren Endnutzer keinen Zugriff auf die Handflächendaten selbst erhalten.
Amazon beschreibt das System vor allem unter dem Gesichtspunkt von Sicherheit und Komfort. Mitarbeiter müssen keine Karte mehr mit sich führen oder sich einen Code merken; sie halten einfach ihre Handfläche an das Gerät. Doch der Kompromiss ist offensichtlich. Was einst eine externe Form der Identifizierung war – etwas, das verloren gehen, ersetzt oder nach Beendigung des Arbeitsverhältnisses an den Arbeitgeber zurückgegeben werden konnte –, wird nun Teil des Körpers des Mitarbeiters.
Emotion AI
Während biometrische Systeme den Körper des Mitarbeiters zum Teil des Sicherheitssystems machen, treibt Emotion AI die Überwachung am Arbeitsplatz noch weiter voran. Im Jahr 2026 vermarktet Verint seinen „CX/EX Scoring Bot“ als ein System, das die Gesprächsdynamik bei jedem Telefonat misst und für jede Interaktion Bewertungen der Kunden- und Mitarbeitererfahrung (CX und EX) generiert. Das Unternehmen gibt an, dass die Software die „emotionale Verbindung“ zwischen Kunden und Mitarbeitern analysiert, während Vorgesetzte CX- und EX-Trends nach einzelnen Mitarbeitern einsehen, Echtzeit-Benachrichtigungen erhalten und Live-Gespräche mithören können. Verint beschreibt seine Technologie zur Emotionserkennung zudem als eine Methode, bei der Sprachanalysen eingesetzt werden, um Tonfall, Stress und Stimmung in Echtzeit zu identifizieren.
Cogito hat zudem einen „Employee Experience Score“ (EX-Score) entwickelt. Das Unternehmen beschreibt diesen als Echtzeit-Maßstab für die Erfahrung eines Mitarbeiters während der Kundeninteraktion. Seine Management-Tools sollen Mitarbeiter identifizieren, die möglicherweise unter Ermüdung, Frustration oder einem potenziellen Burnout leiden, und es Vorgesetzten ermöglichen, diese Signale bei einzelnen Mitarbeitern zu verfolgen. Ein Telefonat liefert somit mehr als nur eine Aufzeichnung dessen, was gesagt wurde oder ob das Problem gelöst wurde. Es kann auch einen Wert liefern, der beschreibt, wie der Mitarbeiter nach Einschätzung der Software mit der Interaktion zurechtkommt.
In seinem Bericht zur Unternehmensverantwortung 2017 erklärte MetLife, dass ein KI-Tool in seinen US-amerikanischen Customer Solutions Centers den Mitarbeitern während der Anrufe Echtzeit-Feedback gab. MetLife gab an, dass das System zu mehr Selbstvertrauen, mehr Einfühlungsvermögen gegenüber den Kunden und effektiveren Gesprächen führte. Cogito erklärte später, dass MetLife seine Technologie in zehn US-amerikanischen Callcentern eingesetzt habe. Die Technologie ist seitdem nicht von der Bildfläche verschwunden: Cogito wurde 2024 von Verint übernommen, und Verint vermarktet das System auch im Jahr 2026 noch als Echtzeit-KI-Coaching mit CX- und EX-Werten, die für jeden Anruf generiert werden.
Cogito vermarktet seine Technologie als „Emotion AI“ und gibt an, dass seine Modelle aus der Stimme und der Gesprächsdynamik Informationen über menschliche Erfahrungen ableiten können. Die Software hat jedoch keinen direkten Zugriff auf die Gefühle eines Mitarbeiters. Sie erfasst beobachtbare Signale – wie jemand spricht, welche Wörter er verwendet und wie die Gesprächsdynamik verläuft – und ein Modell weist diesen Signalen eine Bedeutung zu. Was den Vorgesetzten erreicht, ist daher nicht der emotionale Zustand des Mitarbeiters selbst, sondern eine maschinengenerierte Interpretation davon. Sobald diese Interpretation als Wert auf einem Unternehmens-Dashboard erscheint, beginnt die Grenze zwischen der Leistungsmessung und der Beurteilung, wie sich ein Mitarbeiter fühlen soll, zu verschwinden.
Wenn die Maschine sich irrt
Biometrie und Emotion-AI erwecken den Anschein maschineller Präzision, doch beide beruhen auf probabilistischen Beurteilungen und können fehlschlagen. In biometrischen Systemen entscheidet ein Algorithmus, ob ein Fingerabdruck, ein Gesicht oder ein anderes körperliches Merkmal einer gespeicherten Vorlage ähnlich genug ist, um als Übereinstimmung zu gelten. Das lässt Raum sowohl für falsche Übereinstimmungen als auch für das Versagen, die Person zu erkennen, deren Identität das System eigentlich bestätigen soll.
In seinen Bewertungen zur Gesichtserkennung hat das National Institute of Standards and Technology festgestellt, dass die Fehlerquoten je nach demografischer Gruppe variieren können. Eine schlechte Bildqualität kann die Anzahl der „Falsch-Negativen“ erhöhen, während die „Falsch-Positiv“-Raten je nach Alter, Geschlecht und ethnischer Zugehörigkeit schwanken können. Das NIST weist außerdem darauf hin, dass eine Unterrepräsentation bestimmter demografischer Gruppen in den Trainingsdaten zu diesen Unterschieden beitragen kann.
Sobald diese Ergebnisse in ein Arbeitsplatzsystem einfließen, kann eine ungewisse Schlussfolgerung den Charakter einer Tatsache annehmen. Eine Diskrepanz wird zu einem Identitätsfehler. Ein Stimmmuster wird zu einem Emotionswert. Ein Verhaltenssignal wird zu einer Warnmeldung auf dem Bildschirm eines Vorgesetzten. Was wie eine objektive Messung aussieht, mag dennoch nur eine statistische Beurteilung sein, kann jedoch den Zugang zur Arbeit, Leistungsbeurteilungen oder die Art und Weise beeinflussen, wie ein Mitarbeiter von der Geschäftsleitung wahrgenommen wird.
Der Uber-Eats-Lieferfahrer Pa Edrissa Manjang hat dieses Problem am eigenen Leib erfahren. Das Identitätsprüfungssystem der Plattform meldete wiederholt Unstimmigkeiten bei seinen Selfies, und schließlich wurde ihm der Zugang zur Arbeit gesperrt. Manjang beantragte eine manuelle Überprüfung. Worker Info Exchange erhielt später seine Daten und stellte fest, dass alle von ihm eingereichten Fotos tatsächlich Fotos von ihm waren. Der Streit, der von der britischen Gleichstellungs- und Menschenrechtskommission unterstützt wurde, endete mit einem Vergleich, und sein Zugang zur Plattform wurde wiederhergestellt.
Auch Systeme zur Emotionserkennung haben ähnliche grundlegende Fehler begangen. Bei einem von Cogito überwachten Anruf wies die Software wiederholt auf einen Mangel an Empathie hin, was dazu führte, dass sich der Mitarbeiter bei einem Kunden entschuldigte, der eigentlich vor Freude über die Geburt eines Kindes lachte. Laut The Verge, das 2020 über den Vorfall berichtete, erklärte Cogito, dass solche Fehlalarme selten seien.
Neurotechnologie: Die letzte Grenze
Die Überwachung am Arbeitsplatz hat bereits die Gehirnaktivität erreicht, wenn auch nicht im Science-Fiction-Sinne, dass Arbeitgeber private Gedanken lesen. Im Jahr 2018 beschrieb Barrick ein Pilotprojekt in seiner Cortez-Mine in Nevada, bei dem Fahrer von Muldenkippern „SmartCap“-Stirnbänder trugen, die EEG-Messungen durchführten, um Müdigkeit zu überwachen. Das Unternehmen gab an, dass das System 20 bis 25 Fahrer pro Schicht erfasste und alle zwei bis drei Minuten Müdigkeitswerte anzeigte. Erhielt ein Fahrer drei Warnmeldungen wegen hoher Müdigkeit, ohne eine Pause einzulegen, konnte das System den Fall einem Vorgesetzten melden, der dann beurteilen konnte, ob der Mitarbeiter noch fähig war, die Arbeit fortzusetzen. Daten aus der Gehirnaktivität waren zu einem Signal am Arbeitsplatz geworden, das ein Eingreifen der Führungskräfte auslösen konnte.
Nita Farahany, Professorin für Rechtswissenschaften und Philosophie an der Duke University, die sich mit Neurotechnologie und mentaler Privatsphäre befasst, zieht eine klare Grenze zwischen dem, was diese Systeme leisten können, und dem, was sie nicht können. Aktuelle tragbare EEG-Geräte entschlüsseln nicht den inneren Monolog eines Arbeitnehmers. Farahany sagt, sie könnten lediglich begrenzte Signale erfassen, die mit Müdigkeit, Aufmerksamkeit, Engagement, Frustration und Langeweile zusammenhängen. Selbst auf dieser Ebene verändert sich das Verhältnis zwischen Arbeitgeber und Arbeitnehmer: Informationen über den kognitiven Zustand eines Arbeitnehmers lassen sich aus der Gehirnaktivität ableiten und nicht aus dem, was der Arbeitnehmer selbst sagt oder zeigt.
Farahany hat davor gewarnt, was passieren könnte, wenn Gehirnsensoren Einzug in alltägliche Verbraucher- und Arbeitsgeräte halten. Bei einer Sitzung des Weltwirtschaftsforums im Jahr 2023, an der Farahany teilnahm, wurde in einem Eröffnungsszenario vorgestellt, dass Mitarbeiter Ohrstöpsel mit Gehirnsensoren tragen, Leistungsprämien auf der Grundlage von „Gehirnkennzahlen“ erhalten und ihre Gehirnwellendaten zusammen mit anderen arbeitsplatzbezogenen Informationen erfasst werden. Das Szenario wurde als Warnung davor präsentiert, wohin die Technologie führen könnte, und nicht als Beweis dafür, dass ein solches System bereits gängige Unternehmenspraxis sei.
Farahany hat argumentiert, dass ein Arbeitgeber zwar einen legitimen Grund haben könne, die Müdigkeit eines Berufskraftfahrers zu überwachen, dies dem Unternehmen jedoch keinen Zugriff auf nicht damit zusammenhängende Informationen über die Gefühle oder allgemeinen Gedanken des Arbeitnehmers gewähren dürfe, wie aus einem Interview mit McKinsey aus dem Jahr 2023 hervorgeht. Sie fordert ein Recht auf kognitive Freiheit, einschließlich geistiger Privatsphäre, Gedankenfreiheit und Selbstbestimmung über das eigene Gehirn und die eigenen mentalen Erfahrungen. Die EEG-basierte Müdigkeitsüberwachung ist am Arbeitsplatz bereits dokumentiert, unter anderem durch das „SmartCap“-Pilotprojekt von Barrick in Nevada, während die routinemäßige Entschlüsselung komplexer privater Gedanken durch Unternehmen noch nicht dokumentiert ist. Das Risiko beginnt schon früher: Sobald aus dem Gehirn gewonnene Daten zu einer Kennzahl am Arbeitsplatz werden, verlagert sich die Debatte von der Frage, ob Arbeitgeber überhaupt Zugang zum Gehirn haben sollten, hin zu der Frage, in welchem Umfang sie dieses messen dürfen.
Amerikanische Unternehmen begannen damit, die Arbeitszeit zu erfassen, gingen dann zu Verhalten, Kommunikation und politischen Äußerungen über und widmen sich nun dem Körper und dem Gehirn. Was als Methode begann, um zu überprüfen, ob ein Mitarbeiter eine Aufgabe erledigt hatte, hat sich zu Systemen entwickelt, die aufzeichnen, wie er gearbeitet hat, was er gesagt hat, welche Gefühle der Algorithmus bei ihm interpretiert hat und welche Signale sein Gehirn erzeugt hat.
Unternehmen wandeln bereits Fingerabdrücke, emotionale Signale und begrenzte Hirndaten in Kennzahlen für den Arbeitsplatz um, und jeder Schritt wird mit Sicherheit und Effizienz begründet. Das nächste Unternehmen, das versucht, die Persönlichkeit zu bewerten, mentale Zustände zu interpretieren oder private Gedanken zu einer Kategorie von Mitarbeiterdaten zu machen, ist vielleicht kein futuristischer Tech-Riese, sondern genau der Ort, an dem Sie heute arbeiten.
.