In seinem inzwischen zum Klassiker avancierten, 2018 erschienenen Buch «AI Superpowers» stellte Kai-Fu Lee die provozierende These auf, dass China für die USA eine wachsende technologische Bedrohung darstelle. Als Lee Ende 2019 einen Gastvortrag vor den Teilnehmern meines Kurses «Das neue China» in Yale hielt, waren meine Studenten von seiner provokanten Argumentation fasziniert: Amerika sei dabei, angesichts von Chinas Vorteil bei der Umsetzung (Big-Data-Anwendungen) seinen First-Mover-Vorteil im Bereich der Entdeckung (des Know-how bei KI-Algorithmen) einzubüssen.

Freilich liess Lee dabei eine zentrale Entwicklung unberücksichtigt: das Aufkommen grosser Sprachmodelle (LLM) und der generativen künstlichen Intelligenz. Während er auf eine allgemeinere Form von Universaltechnologie verwies, die er auf die industrielle Revolution zurückführte, erfasste er den ChatGPT-Rausch, der inzwischen die KI-Debatte bestimmt, nicht im Ansatz. Zwar enthielten Lees Argumente vage Hinweise auf Deep Learning und neurale Netzwerke, doch ging es dabei viel mehr um das Potenzial der KI, von Menschen ausgeführte Tätigkeiten zu ersetzen, als um die Möglichkeiten einer «künstlichen allgemeinen Intelligenz», die dem menschlichen Denken nahekommt. Was Chinas Zukunft als KI-Supermacht angeht, ist das durchaus kein trivialer Aspekt.

Das Wichtigste aus der Welt der Wirtschaft auf einen Blick? Abonnieren Sie hier unseren Newsletter «FuW Daily».

Das liegt daran, dass die chinesische Zensur diese Zukunft schwer in Frage stellt. In einem kürzlich erschienenen Essay bringen Henry Kissinger, Eric Schmidt und Daniel Huttenlocher – deren 2021 erschienenes Buch auf das Potenzial einer Universal-KI hinwies – starke Argumente dafür vor, dass wir am Rande einer durch ChatGPT und Co. ermöglichten intellektuellen Revolution stehen. Sie sprechen dabei nicht nur die von grossen generativen Sprachmodellen ausgehenden moralischen und philosophischen Herausforderungen an, sondern werfen auch wichtige praktische Fragen zur Umsetzung auf, die direkten Einfluss auf den Umfang des in die verarbeitete Sprache eingebetteten Wissensfundus haben.

Genau hier lässt Chinas strenges Zensursystem die Alarmglocken schrillen. Während die Zensur im Osten wie im Westen eine lange, umfangreiche Geschichte hat, ragt die Propagandaabteilung der Kommunistischen Partei Chinas in ihren Bemühungen heraus, alle Aspekte der Meinungsäusserung in der chinesischen Gesellschaft – Presse, Film, Literatur, Medien und Bildung – zu kontrollieren sowie die Kultur und die Werte zu steuern, die die öffentliche Debatte formen.

«Die aggressive Informationskontrolle ist ein echtes Problem für ein ChatGPT chinesischer Art.»

Anders als im Westen, wo alles seinen Weg ins Internet findet, beharren Chinas Zensoren auf der Einhaltung strenger politischer Richtlinien zur KPCh-konformen Informationsverbreitung. Chinas Internetnutzer sind nicht imstande, Texte zur ein Jahrzehnt währenden Kulturrevolution, zur Tragödie auf dem Platz des Himmlischen Friedens im Juni 1989, zu Menschenrechtsproblemen in Tibet und Xinjiang, den Spannungen mit Taiwan, den Demokratieprotesten des Jahres 2019 in Hongkong, Protesten gegen Chinas Null-C0vid-Politik und vielem anderen abzurufen.

Diese aggressive Informationskontrolle ist ein echtes Problem für ein ChatGPT chinesischer Art. Durch Auslöschung wichtiger historischer Ereignisse und der damit verbundenen menschlichen Erfahrungen hat Chinas Zensursystem die Informationsbasis für das Training grosser Sprachmodelle durch maschinelles Lernen verengt und verzerrt. Chinas Fähigkeit, von einer intellektuellen KI-Revolution zu profitieren, wird darunter logischerweise leiden.

Die Auswirkungen der Zensur lassen sich natürlich nicht präzise quantifizieren. Doch die alljährliche Freedom-House-Umfrage «Freedom on the Net» bietet eine qualitative Bewertung. Für 2022 weist sie China den niedrigsten Gesamtwert für die Freiheit des Internets unter siebzig einbezogenen Ländern zu.

Dieser Wert ergibt sich aus den Antworten auf 21 Fragen (und fast hundert Unterfragen), die sich in drei allgemeine Kategorien einordnen lassen: Zugangshürden, Verstösse gegen Nutzerrechte und inhaltliche Beschränkungen. Die Unterkategorie Inhalt – die die Filterung und die Sperrung von Websites, rechtliche Beschränkungen für Inhalte, Dynamik und Vielfalt des online erhältlichen Informationsangebots und die Nutzung digitaler Tools zur Mobilisierung der Bürger umfasst – stellt die bisher genaueste Annäherung an eine Messung der Auswirkungen der Zensur auf die Menge der durchsuchbaren Informationen dar. Chinas Wert lag in dieser Kategorie bei zwei von 35 Punkten, verglichen mit einem Durchschnittswert von 20.

Das dürfte sich auch künftig kaum ändern. Die chinesische Regierung hat bereits einen Entwurf für neue Regeln zu Chatbots veröffentlicht. Am 11. April beschied die chinesische Cyberspace-Behörde (CAC), dass generative KI-Inhalte «sozialistische Kernwerte verkörpern müssen und keine Inhalte enthalten dürfen, die die staatliche Macht untergraben, für den Sturz des sozialistischen Systems eintreten, die Uneinigkeit im Lande fördern oder die nationale Einheit untergraben».

Dies unterstreicht einen zentralen Unterschied zwischen dem bestehenden Zensursystem und den neuen Bemühungen zur Kontrolle der KI. Während Ersteres eine Filterung nach Schlüsselwörtern nutzt, um nicht genehme Informationen zu blockieren, stützen sich Letztere (wie kürzlich bei einem DigiChina-Forum festgestellt) darauf, die sich rasch ändernde generative Verarbeitung derartiger Informationen in jedem Einzelfall zu unterbinden. Und je mehr sich die CAC bemüht, ChatGPT-Inhalte zu kontrollieren, desto kleiner wird entsprechend der Ausstoss chatbotgenerierter chinesischer Informationen – ein weiteres Hindernis für eine intellektuelle KI-Revolution in China.

Es überrascht nicht, dass erste Ergebnisse von Chinas Bemühungen mit generativer KI enttäuschten. Baidus Wenxin Yiyan oder Ernie Bot – Chinas bekanntestes First Mover LLM – wurde jüngst in «Wired» dafür kritisiert, dass es versuche, in «einem von der staatlichen Zensur abgeschotteten Internet zu operieren». Ähnlich enttäuschende Ergebnisse wurden für andere KI-Sprachverarbeitungsmodelle in China vermeldet, darunter Robot, Lily und Alibabas Tongyi Qianwen (was sich in etwa mit «Wahrheit durch tausend Fragen» übersetzen lässt).

Zudem kam eine aktuelle Beurteilung von NewsGuard – einem «Tool für ein vertrauenswürdiges Internet», das von einem grossen Team angesehener westlicher Journalisten gegründet wurde und unterhalten wird – zu dem Schluss, dass ChatGPT-3.5 von OpenAI auf Chinesisch deutlich mehr falsche oder «halluzinogene» Informationen liefert als auf Englisch.

Das bemerkenswerte Buch «Kingdom of Characters: The Language Revolution that Made China Modern» der Literaturwissenschaftlerin Jing Tsu unterstreicht die wichtige Rolle, die die Sprache in Chinas Entwicklung seit dem Jahr 1900 gespielt hat. Letztlich ist Sprache nichts weiter als ein Informationsmedium, und in ihrem letzten Kapitel greift Tsu dieses Punkt auf und argumentiert: «Wer immer Informationen kontrolliert, kontrolliert die Welt.»

Im Zeitalter der KI wirft diese Schlussfolgerung profunde Fragen für China auf. Informationen sind der Treibstoff grosser KI-Sprachmodelle. Doch die staatliche Zensur bremst China durch kleine Sprachmodelle. Diesem Unterschied könnte im Kampf um die Herrschaft über Informationen und die Weltmacht eine entscheidende Bedeutung zukommen.

Stephen S. Roach ist ehemaliger Chairman von Morgan Stanley Asia. Er lehrt an der Universität Yale. Copyright: Project Syndicate.

Fehler gefunden?Jetzt melden.

QOSHE - Mit der KI kommt die Stunde der Wahrheit für Chinas Zensur - Stephen S. Roach
menu_open
Columnists Actual . Favourites . Archive
We use cookies to provide some features and experiences in QOSHE

More information  .  Close
Aa Aa Aa
- A +

Mit der KI kommt die Stunde der Wahrheit für Chinas Zensur

10 0
31.05.2023

In seinem inzwischen zum Klassiker avancierten, 2018 erschienenen Buch «AI Superpowers» stellte Kai-Fu Lee die provozierende These auf, dass China für die USA eine wachsende technologische Bedrohung darstelle. Als Lee Ende 2019 einen Gastvortrag vor den Teilnehmern meines Kurses «Das neue China» in Yale hielt, waren meine Studenten von seiner provokanten Argumentation fasziniert: Amerika sei dabei, angesichts von Chinas Vorteil bei der Umsetzung (Big-Data-Anwendungen) seinen First-Mover-Vorteil im Bereich der Entdeckung (des Know-how bei KI-Algorithmen) einzubüssen.

Freilich liess Lee dabei eine zentrale Entwicklung unberücksichtigt: das Aufkommen grosser Sprachmodelle (LLM) und der generativen künstlichen Intelligenz. Während er auf eine allgemeinere Form von Universaltechnologie verwies, die er auf die industrielle Revolution zurückführte, erfasste er den ChatGPT-Rausch, der inzwischen die KI-Debatte bestimmt, nicht im Ansatz. Zwar enthielten Lees Argumente vage Hinweise auf Deep Learning und neurale Netzwerke, doch ging es dabei viel mehr um das Potenzial der KI, von Menschen ausgeführte Tätigkeiten zu ersetzen, als um die Möglichkeiten einer «künstlichen allgemeinen Intelligenz», die dem menschlichen Denken nahekommt. Was Chinas Zukunft als KI-Supermacht angeht, ist das durchaus kein trivialer Aspekt.

Das Wichtigste aus der Welt der Wirtschaft auf einen Blick? Abonnieren Sie hier unseren Newsletter «FuW Daily».

Das liegt daran, dass die chinesische Zensur diese Zukunft schwer in Frage stellt. In einem kürzlich erschienenen Essay bringen Henry Kissinger, Eric Schmidt und Daniel Huttenlocher – deren 2021 erschienenes Buch auf das Potenzial einer Universal-KI hinwies – starke Argumente dafür vor, dass wir am Rande einer durch ChatGPT und Co. ermöglichten intellektuellen Revolution stehen. Sie sprechen dabei nicht nur die von grossen generativen Sprachmodellen ausgehenden moralischen........

© Finanz und Wirtschaft


Get it on Google Play