We use cookies to provide some features and experiences in QOSHE

More information  .  Close
Aa Aa Aa
- A +

Kalifornische Verhaltensdesigner, chinesische Erziehungspolizisten: die Bombe der künstlichen Intelligenz explodiert still – in unseren Hirnen

6 3 0
29.05.2019

In der Stadt Ampara in Sri Lanka machte 2018 das Gerücht die Runde, ein muslimischer Essbudenbesitzer würze sein Essen auf eine Art, die Buddhisten unfruchtbar machen würde. – Reiner Hafenkäse, aber die Information genügte, und wüste Ausschreitungen eruptierten. Allerdings glich das Klima zwischen Buddhisten und Muslimen schon vorher einer Zunderbüchse. Und Mob-Ausschreitungen sind auch nicht gerade neu. Neu sind dagegen die Brandbeschleuniger im Netz. Die Algorithmen der Social Media sind Supraleiter des leicht brennbaren Bullshits. «EdgeRank» von Facebook priorisiert Nachrichten aufmerksamkeitserregenden Inhalts, und dazu gehören Videos, die Uremotionen wecken wie Angst oder Zorn.

Gegen solche Unsitten sucht Facebook Remedur zu schaffen: mit Erziehung des Plattformnutzers. Einerseits wurde eine Netiquette des Postings eingeführt, andererseits teilte das Unternehmen 2018 mit, es werde den Newsfeed-Algorithmus justieren («to tweak»: «herumdoktern», nennt das der Jargon). Was das bei der notorischen Geheimniskrämerei rund um diesen Algorithmus auch heissen mag, jedenfalls wählte man zum Testen Länder wie Sri Lanka aus. Und man kann sich des ironischen Eindrucks nicht erwehren, die sri-lankischen «Probanden» hätten es eigens darauf abgesehen, die übelsten Folgen der «Optimierung» vorzuführen. Während Facebook Friede, Freude, Eierkuchen verkündet, verlustieren sich die Plattformnutzer mit Konflikt, Krawall und Konfrontation.

Ironie hin oder her, wir bekommen es mit einem Phänomen der modernen elektronischen Polis zu tun, das sich in Zukunft als noch unbehaglicher erweisen könnte. Nennen wir es Techno-Paternalismus. Die neuen «smarten» Geräte, die uns auf Schritt und Tritt begleiten, sind nicht einfach bloss «Helfer», sie sind «Erzieher», indem sie uns andauernd empfehlen, beraten, schubsen, bewerten, und all dies zu «unserem Besten». Das liegt daran, dass die Algorithmen neuestens unsere Verhaltensweisen «lernen», sie unter Umständen selber verbessern und so auf uns zurückwirken. Wir sind quasi in einen Lern-Loop mit den Maschinen........

© Neue Zürcher Zeitung