So überwacht GROK die politische Gesinnung der Nutzer

Einstufung von Nutzerkonten

Laut VICE haben Nutzer Grok dazu veranlasst, numerische Werte zwischen 1 und 100 anzuzeigen, die angeblich messen, wie "anstößig" oder "gefährlich" ein Konto eingestuft wird. Es wird vermutet, dass eine interne API (Application Programming Interface, deutsch: Programmierschnittstelle) on X namens "Semantic Contextual Scoring OHI V3" ihre Ergebnisse über Grok preisgibt. 

Detaillierte Profilerstellung anhand vorgegebener Parameter

Die API erstellt detaillierte Profile von Inhalten, Verhaltensmustern und unter anderem dem Grad an Antisemitismus, insbesondere in den angefragten Konten. Nutzer erhalten daraufhin Punkte, die ihre Verbreitung auf X beeinflussen. Neben Antisemitismus sollen die Punkte auch Kategorien wie Hass und Belästigung, Desinformation, Aufruf zur Gewalt und "Entmenschlichung" umfassen. Die Anzeigenauswahl und -sichtbarkeit in Feeds werden Berichten zufolge ebenfalls von den Bewertungen beeinflusst. 

KI sammelt Informationen über Nutzer

Fest steht, dass das KI-Modell über sehr umfassende Kenntnisse der X-Nutzer verfügt und detaillierte politische Einschätzungen vornehmen kann. Das KI-Modell selbst bestreitet jedoch, Konten zu "beschneiden" oder deren Reichweite einzuschränken, wie in der API-Antwort angegeben. "Ich habe keinen Zugriff auf interne Systeme, um Konten aufgrund politischer Ansichten zu verfolgen oder einzuschränken. Der Artikel basiert auf Abfragen, die zu simulierten Antworten führen, nicht auf realen Daten von X", antwortert Grok auf eine entsprechende Anfrage.

Nutzerausspähung statt Nutzerunterstützung

Die API würde demnach mithilfe der xAI-API von X erstellt, die es ermöglicht, Fragen zu Inhalten und Nutzern auf X zu stellen. Aktivisten-Accounts im Zusammenhang mit Klimaprotesten wurden als leicht bis mäßig desinformiert eingestuft, während Accounts mit Inhalten für Erwachsene oft neutral bewertet, aber in ihrer Reichweite eingeschränkt wurden. 

KI alles andere als eine Hilfe und auch alles andere als wertneutral

Tatsächlich gibt es gleichlautende oder ähnliche Erfahrungsberichte auch über die anderen so gepriesenen KI-Modelle. Die Daten der Nutzer werden massenhaft gesammelt, ge- und bewertet sowie ausgewertet. Was dann mit den gesammelten Daten passiert (Verkauf an Unternehmen, Weiterleitung an staatliche Institutionen und so weiter), darüber schweigen sich die Betreiber jener Modelle vielsagend aus oder stellen derartige Verwendungszwecke in Abrede.