Facebook hat in aller Stille damit experimentiert, die Menge der politischen Inhalte in den Newsfeeds der Nutzer zu reduzieren. Dieser Schritt ist ein stillschweigendes Eingeständnis, dass die Funktionsweise der Algorithmen des Unternehmens ein Problem darstellen kann.
Der Kern der Sache ist der Unterschied zwischen dem Provozieren einer Reaktion und dem Bereitstellen von Inhalten, die von den Nutzern gewünscht werden. Die Algorithmen der sozialen Medien – die Regeln, nach denen die Computer entscheiden, welche Inhalte angezeigt werden – stützen sich stark auf das Verhalten der Menschen, um diese Entscheidungen zu treffen. Sie achten insbesondere auf Inhalte, auf die Menschen reagieren oder sich mit ihnen „beschäftigen“, indem sie sie liken, kommentieren und teilen.
Als Informatiker, der sich mit der Art und Weise befasst, wie eine große Anzahl von Menschen mit Hilfe von Technologien interagiert, verstehe ich die Logik der Nutzung der Weisheit der Massen in diesen Algorithmen. Ich sehe auch erhebliche Fallstricke in der Art und Weise, wie die sozialen Medienunternehmen dies in der Praxis tun.
Das Konzept der Weisheit der Massen geht davon aus, dass die Nutzung von Signalen aus den Handlungen, Meinungen und Vorlieben anderer Menschen zu fundierten Entscheidungen führt. So sind beispielsweise kollektive Vorhersagen in der Regel genauer als individuelle Vorhersagen. Die kollektive Intelligenz wird genutzt, um Finanzmärkte, Sport, Wahlen und sogar Krankheitsausbrüche vorherzusagen.
Im Laufe der Jahrmillionen währenden Evolution wurden diese Prinzipien im menschlichen Gehirn in Form von kognitiven Verzerrungen kodiert, die Namen wie Vertrautheit, bloße Erfahrung und Mitläufereffekt tragen. Wenn alle anderen rennen, sollten auch Sie rennen; vielleicht hat jemand einen Löwen kommen sehen und die Flucht könnte Ihr Leben retten. Sie wissen vielleicht nicht warum, aber es ist klüger, später Fragen zu stellen.
Ihr Gehirn nimmt Hinweise aus der Umgebung auf – auch von Ihren Mitmenschen – und setzt diese Signale mithilfe einfacher Regeln schnell in Entscheidungen um: Geh mit dem Gewinner, folge der Mehrheit, kopiere deinen Nachbarn. Diese Regeln funktionieren in typischen Situationen bemerkenswert gut, weil sie auf soliden Annahmen beruhen. Sie gehen beispielsweise davon aus, dass Menschen oft rational handeln, dass es unwahrscheinlich ist, dass viele falsch liegen, dass die Vergangenheit die Zukunft vorhersagt und so weiter.
Die Technologie ermöglicht es den Menschen, auf die Signale einer viel größeren Zahl anderer Menschen zuzugreifen, die sie meist nicht kennen. Anwendungen der künstlichen Intelligenz nutzen diese Popularitäts- oder „Engagement“-Signale in großem Umfang, von der Auswahl von Suchmaschinenergebnissen bis hin zur Empfehlung von Musik und Videos, vom Vorschlagen von Freunden bis hin zum Ranking von Beiträgen in Newsfeeds.
