Jeder, der bei facebook Videos schaut, kennt das: Am Ende des Filmchens wird eine Empfehlung für weitere Filmchen gegeben. Wie in der Dauerschleife schlechter Werbung. Und dann das:
Ein auf den 27. Juni 2020 datiertes Video, das von der Daily Mail veröffentlicht wurde, zeigt »Aufnahmen von schwarzen Männern bei Auseinandersetzungen mit weißen Zivilisten und Polizeibeamten.« »Es hatte«, betont die New York Times, »keinen Bezug zu Affen oder Primaten«.
Doch die künstliche Intelligenz, die für facebook das nächste Video aussucht, das der Nutzer angeboten bekommt, dachte darüber wohl etwas anders – falls Denken das richtige Wort ist. Sie fragte: »keep seeing videos about Primates« – »Möchten sie weiter Videos über Primaten sehen ?«
Primaten, oder in vermeintlich korrekter, leichter Sprache: Affen, waren aber in dem Video überhaupt nicht zu sehen. Nur »Black men« – man achte auf die Großschreibung im Original! – und »white civilians and police officers« – »weiße Zivilisten und Polizeibeamte«, schreibt die New York Times.
Auf den Vorschlag aufmerksam gemacht, reagierten die üblichen Verdächtigen wie ein Mann: Darci Groves, eine ehemalige Mitarbeiterin bei facebook »entsetzlich und ungeheuerlich«, ein Produktmanager, der dem Videodienst der Firma zugeordnet ist, nannte den Vorfall »inakzeptabel« und versprach, das Unternehmen werde die »die Ursache« für den Fehler untersuchen. Eine Sprecherin von Facebook erklärte: »Wie wir bereits gesagt haben, haben wir zwar Verbesserungen an unserer KI vorgenommen, aber wir wissen, dass sie nicht perfekt ist und wir noch weitere Fortschritte machen müssen. Wir entschuldigen uns bei jedem, der diese beleidigenden Empfehlungen gesehen haben könnte.« Die Software erhielt von facebook zunächst eine Sperre.
Warum ? – Weil bei dem Vorschlag Schwarze Männer zu Affen gemacht oder zumindest mit Affen verglichen worden sind. »Facebook-Algorithmus verwechselt schwarze Menschen mit Affen«, titelt etwa die Welt.
Doch die eiligen Reaktionen aus dem Umkreis offenkundiger Anti-Rassisten könnten etwa zu schnell gewesen sein. Denn wer sagt eigentlich, dass sich der Vorschlag der künstlich intelligenten Software auf die »schwarzen Männer« des gezeigten Videos bezog ? Vielleicht waren die Polizisten gemeint ? Oder die weißen Zivilisten ?
Zur Erinnerung: Menschen sind auch Primaten. Die Software lag also vollkommen richtig. Sie läge auch richtig, wenn sie bei jedem Filmchen mit Menschen anschließend einen Film mit Primaten vorschlüge. Rassistisch ist sie deshalb jedenfalls nicht. Sie ist womöglich nur ein kleines bisschen intelligenter.
Wer aber Primaten auf Affen reduziert und dann im nächsten Kurzschluss sicher ist, mit Affen wären die Schwarzen auf den Bildern gemeint, der sollte sich gut überlegen, ob nicht er selber hier der Rassist ist – oder die Rassistin.
NEWSLETTER
Add new comment