Künstliche Intelligenz vor Gericht |
Der Zug hat den Bahnhof verlassen (und wir suchen noch den Fahrplan)
Es gibt Rechtsgebiete, die entwickeln sich langsam. Und dann gibt es solche, die einem das Gefühl geben, man renne ihnen hinterher wie einem Zug, der den Bahnhof längst verlassen hat – während man selbst noch am Fahrkartenautomaten steht und verzweifelt „Bitte wählen Sie eine Option“ liest. Das Recht der Künstlichen Intelligenz gehört eindeutig zur zweiten Kategorie und genau hier stehen Themen wie AI act und DSGVO und Probleme der AI im Fokus.
Während Juristen noch eifrig darüber diskutieren, ob ein Algorithmus überhaupt „verstehen“ kann, was er tut (Spoiler: Der Algorithmus diskutiert nicht zurück), hat die Praxis längst Fakten geschaffen: Bewerbungen werden automatisiert vorsortiert, Kreditentscheidungen algorithmisch vorbereitet und Texte von Maschinen verfasst, die sich kaum noch von menschlichen unterscheiden – was gelegentlich auch daran liegt, dass manche menschlichen Texte sich kaum noch von Maschinen unterscheiden.
Der Gesetzgeber hat darauf, na sagen wir mal, reagiert – mit dem viel diskutierten europäischen AI Act. Doch wer glaubt, damit sei nun Klarheit geschaffen, glaubt vermutlich auch, dass Bedienungsanleitungen freiwillig gelesen werden.
Ordnung durch Kategorien – oder: Willkommen im regulatorischen Escape Room
Der AI Act ist ein typisches Produkt europäischer Regulierung: ambitioniert, systematisch, risikobasiert – und ungefähr so leicht zugänglich wie ein Möbelaufbau ohne Anleitung, aber mit sehr vielen Schrauben.
Er teilt KI-Systeme in Kategorien ein – von „inakzeptabel“ bis „geringes Risiko“. Was auf den ersten Blick nach Ordnung aussieht, entpuppt sich bei näherem Hinsehen als eine Art juristischer Escape Room: Man ist sich sicher, dass es irgendwo eine Lösung gibt, aber der Weg dahin ist… nun ja… kreativ.
Denn das zentrale Problem beginnt bereits bei der Einordnung: Wann genau liegt ein „Hochrisikosystem“ vor? Die Antwort ist keineswegs trivial. Ein KI-System im Personalbereich kann hochriskant sein – muss es aber nicht. Es kommt darauf an. Worauf genau, wird man im Zweifel herausfinden, wenn es zu spät ist.
Für Unternehmen bedeutet........