Von Ken Macon

Im Vereinigten Königreich wirft eine Reihe von KI-Versuchen mit Tausenden von Zugpassagieren, die unwissentlich einer Software zur Erkennung von Emotionen ausgesetzt waren, erhebliche Bedenken hinsichtlich des Datenschutzes auf. Die von Amazon entwickelte Technologie, die an verschiedenen großen Bahnhöfen wie Euston und Waterloo in London sowie Manchester Piccadilly eingesetzt wurde, nutzte künstliche Intelligenz, um Gesichter zu scannen und emotionale Zustände sowie Alter und Geschlecht zu bewerten. Dokumente, die die Bürgerrechtsgruppe Big Brother Watch durch einen Antrag auf Informationsfreiheit erhalten hat, enthüllten diese Praktiken, die schon bald die Werbestrategien beeinflussen könnten.

In den letzten zwei Jahren wurden bei diesen Versuchen unter der Leitung von Network Rail “intelligente” CCTV-Technologie und ältere Kameras eingesetzt, die mit cloudbasierten Systemen verbunden sind, um eine Reihe von Aktivitäten zu überwachen. Dazu gehörten die Erkennung von unbefugtem Betreten der Gleise, die Kontrolle der Menschenmengen auf den Bahnsteigen und die Erkennung von asozialem Verhalten wie Schreien oder Rauchen. Bei den Versuchen wurden sogar mögliche Fahrraddiebstähle und andere sicherheitsrelevante Vorfälle überwacht.

Die von diesen Systemen abgeleiteten Daten könnten zur Steigerung der Werbeeinnahmen genutzt werden, indem die Zufriedenheit der Fahrgäste anhand ihres emotionalen Zustands gemessen wird, der erfasst wird, wenn Personen virtuelle Stolperdrähte in der Nähe von Fahrkartenschranken überfahren. Trotz des umfangreichen Einsatzes dieser Technologien werden die Wirksamkeit und die ethischen Implikationen der Emotionserkennung heftig diskutiert. Kritiker, darunter auch KI-Forscher, halten die Technologie für unzuverlässig und haben ihr Verbot gefordert. Unterstützt werden sie dabei von Warnungen der britischen Datenaufsichtsbehörde, dem Information Commissioner’s Office, über die Unausgereiftheit von Technologien zur Emotionsanalyse.

Laut Wired hat Gregory Butler, CEO von Purple Transform, erwähnt, dass die Fähigkeit zur Erkennung von Emotionen während der Versuche eingestellt wurde, und bestätigt, dass keine Bilder gespeichert wurden, während das System aktiv war. In der Zwischenzeit hat Network Rail behauptet, dass seine Überwachungsmaßnahmen den gesetzlichen Standards entsprechen und für die Aufrechterhaltung der Sicherheit im gesamten Schienennetz entscheidend sind. Dokumente deuten jedoch darauf hin, dass die Genauigkeit und die Anwendung der Emotionsanalyse in realen Situationen noch nicht bestätigt sind, wie in mehreren Berichten von den Bahnhöfen festgestellt wurde.

Datenschützer sind besonders besorgt über die Undurchsichtigkeit und das Übermaßpotenzial des Einsatzes von KI im öffentlichen Raum. Jake Hurfurt von Big Brother Watch äußerte erhebliche Bedenken über die Normalisierung einer solchen invasiven Überwachung ohne angemessenen öffentlichen Diskurs oder Aufsicht.

Jake Hurfurt, Leiter der Forschungs- und Ermittlungsabteilung von Big Brother Watch, sagte: “Network Rail hatte kein Recht, eine diskreditierte Technologie zur Erkennung von Emotionen gegen ahnungslose Pendler an einigen der größten Bahnhöfe Großbritanniens einzusetzen, und ich habe beim Informationsbeauftragten eine Beschwerde über diesen Versuch eingereicht.

Es ist alarmierend, dass eine öffentliche Einrichtung beschlossen hat, einen groß angelegten Versuch mit einer von Amazon entwickelten KI-Überwachung in mehreren Bahnhöfen durchzuführen, ohne die Öffentlichkeit darüber zu informieren, vor allem, wenn Network Rail Sicherheitstechnologie mit pseudowissenschaftlichen Werkzeugen vermischt und vorschlägt, dass die Daten an Werbetreibende weitergegeben werden könnten.”

“Technologie kann eine Rolle dabei spielen, die Eisenbahnen sicherer zu machen, aber es muss eine solide öffentliche Debatte über die Notwendigkeit und Verhältnismäßigkeit der eingesetzten Werkzeuge geben.

“KI-gestützte Überwachung könnte unsere gesamte Privatsphäre gefährden, insbesondere wenn sie missbraucht wird, und die Missachtung dieser Bedenken durch Network Rail zeigt eine Missachtung unserer Rechte.”