Funktionsweise des „For You“ Feeds von X

„Die Veröffentlichung ist deutlich umfangreicher als die erste Version vom Januar. Damals fehlten zentrale Bestandteile des Systems. Inzwischen sind sowohl das Inhaltsbewertungs-System Grox als auch große Teile des Ranking-Systems Phoenix öffentlich dokumentiert und teilweise ausführbar. Dadurch lässt sich die grundsätzliche Funktionsweise des Für-Dich-Feeds heute wesentlich besser nachvollziehen.“

„Jedoch gibt es gravierende Einschränkungen: Sowohl von Grox als auch von Phoenix liegen nur vereinfachte Modelle vor. Die tatsächlich produktiven Modelle, Trainingsdaten und laufenden Aktualisierungen sind nicht öffentlich. Wichtige interne Signale fehlen weiterhin. Dazu gehören insbesondere Account- und Vertrauensbewertungen, die potenziell erheblichen Einfluss auf die Sichtbarkeit von Accounts und Beiträgen haben können.“

„Symbolisch ist die Veröffentlichung dennoch bedeutsam. Forschende und Öffentlichkeit können viele Entscheidungen des Systems heute deutlich besser nachvollziehen als zuvor. Wenngleich man Einschränkungen hinsichtlich der Übertragbarkeit auf das tatsächliche Plattformverhalten machen muss.“

„Die technische Funktionsweise des Für-Dich-Feeds ist heute deutlich besser nachvollziehbar. Dabei spielen zwei Systeme eine zentrale Rolle: Phoenix sagt verschiedene Nutzerreaktionen auf Beiträge voraus und bildet die Grundlage des Rankings. Grox bewertet Inhalte beispielsweise hinsichtlich Spam, Sicherheitsrisiken oder Erwachseneninhalten und kann dadurch die Sichtbarkeit von Beiträgen beeinflussen.“

„Die Veröffentlichung erlaubt es, wesentliche Teile dieser Prozesse zu simulieren. Allerdings gibt es wichtige Einschränkungen: Sowohl Phoenix als auch Grox sind nur in vereinfachter Form veröffentlicht. Wie stark sie vom produktiven System abweichen, ist nicht bekannt. Die Simulation erfolgt in einer synthetischen Umgebung. Viele Signale, die im produktiven System verfügbar sind, fehlen dabei – etwa aktuelle Nutzerinteraktionen, Netzwerkstrukturen und aktuell prominente Inhalte. Das Verhalten der veröffentlichten Version kann daher erheblich vom Verhalten auf der realen Plattform abweichen.“

„Die Veröffentlichung ermöglicht einen deutlich besseren Einblick in die Mechanismen des Systems. Sie erlaubt jedoch keine exakte Vorhersage, wie ein konkreter Beitrag auf der Plattform tatsächlich behandelt oder verbreitet wird.“

„Technisch versierte Nutzer*innen können heute wesentliche Teile der Bewertung ihrer Beiträge mit den veröffentlichten Grox- und Phoenix-Komponenten nachvollziehen und näherungsweise simulieren. Die Aussagekraft bleibt jedoch aus den genannten Gründen begrenzt.“

„Hinzu kommt ein grundsätzliches Problem: Grox und Phoenix sind komplexe KI-Modelle. Sie liefern vor allem Scores und Wahrscheinlichkeiten, jedoch keine verständlichen Begründungen dafür, warum ein Posting beispielsweise als Spam eingestuft oder als besonders relevant bewertet wird.“

„Das Tool ‚Under the Hood‘ steht bislang nur einem Teil der Nutzer*innen zur Verfügung. Die bisher bekannten Funktionen konzentrieren sich vor allem auf die Darstellung von Ranking- und Empfehlungssignalen, nicht aber auf deren Zustandekommen. Der praktische Nutzen für einzelne Nutzer*Innen ist daher derzeit begrenzt, da das Tool nur eingeschränkt erklärt, wie sich etwa die Sichtbarkeit eigener Beiträge verbessern lässt.“

„Für die Forschung ist die Veröffentlichung dennoch interessant. Sie ermöglicht Experimente mit einem System, das wesentliche Mechanismen der Plattform nachbildet. Für die meisten Nutzer*innen dürfte der unmittelbare Mehrwert dagegen überschaubar bleiben.“

„Durch die Veröffentlichung ändert sich nicht viel im Vergleich zu dem, was bereits bekannt ist. Das Grundproblem bleibt: X verlässt sich bei der Auswahl der Inhalte weitgehend auf die hauseigene künstliche Intelligenz (KI), das Large Language Model ‚Grok‘. Die Eigenschaften solcher Modelle ergeben sich aus dem Training mit spezifisch dafür ausgewählten Daten sowie den Bedingungen beim Einsatz des konkreten Modells. Beides ist nicht aus dem Quellcode ersichtlich. Daher schafft die Veröffentlichung wieder einmal Aufmerksamkeit für X, aber kaum Transparenz.“

„Der Quellcode bestätigt im Wesentlichen nur, was schon bekannt war: Die zentrale Instanz zur Auswahl der Inhalte ist die hauseigene KI, das Large Language Model ‚Grok.‘ Das Grundproblem bei KI ist, dass nicht der Quellcode die meisten relevanten Eigenschaften eines Modells bestimmt, sondern diese durch das Training mit Daten festgelegt werden. Die dadurch entstehenden Eigenschaften können nur durch den Einsatz des trainierten Modells unter realistischen Bedingungen überprüft werden. Es ist ja allgemein bekannt, dass solche Modelle oft andere Ergebnisse liefern, als im Training beabsichtigt. Ohne Zugang zu dem trainierten Modell und die Möglichkeit, es im Einsatz zu beobachten, können keine sinnvollen Rückschlüsse darauf gezogen werden, wie die Inhalte auf X ausgewählt werden.“

„Das Modell benutzt die KI, um eine Reihe von Eigenschaften vorherzusagen, zum Beispiel wie wahrscheinlich jemand einen Beitrag teilt oder einem Account folgt. Die sogenannten ‚Gewichte‘, also die Bewertung wie relevant diese Eigenschaften sind, können dem Code entnommen werden. Allerdings ergeben diese Gewichte ohne Einblick in die Wahrscheinlichkeit, wie häufig diese Eigenschaften jeweils vorhergesagt werden, wenig Sinn. X stellt lediglich die Möglichkeit bereit, synthetische Daten zu schaffen, um die KI zu testen. Das sind aber gerade nicht die realen Einsatzbedienungen.“

„Eine Möglichkeit, das trainierte Modell im realen Einsatz zu beobachten, könnte eventuell das Tool ‚Under the Hood‘ sein. Das ist aber im Moment noch nicht zu beurteilen, weil das Tool für die meisten User bislang nicht zugänglich ist.“

„Der Quellcode trägt kaum zur Transparenz bei. Das Tool ‚Under the Hood‘ ist noch nicht allgemein verfügbar, deshalb kann es nicht abschließend beurteilt werden. Der Nutzen für individuelle User dürfte sich aber in Grenzen halten. Momentan liefert es nur eine Datei im Dateiformat JSON, das in der Datenwissenschaft sehr verbreitet ist. Für normale Nutzende ist so eine Datei aber nicht ohne viel Aufwand lesbar. Zudem sind individuelle Bewertungen bei einem im Grunde auf Wahrscheinlichkeiten basierenden Verfahren nicht sehr aussagekräftig.“

„Falls es gelingt, die Daten, welche ‚Under the Hood‘ zur Verfügung stellt, von vielen Nutzenden zu sammeln und auszuwerten, könnten damit eventuell Rückschlüsse auf das Modell möglich sein. Ob das gehen wird, oder ob es technische oder juristische Einschränkungen solcher Forschung geben wird, kann im Moment noch nicht gesagt werden.“