Gefährliche KI-Pannen bei Amazon und Microsoft |
Es war kein Hacker und kein Saboteur – es war die eigene Software. Im Dezember stand ein System des Cloud-Anbieters Amazon Web Services (AWS) 13 Stunden lang still. Kiro, ein Programm mit Künstlicher Intelligenz, das selbstständig programmieren kann, soll laut einem Bericht der „Financial Times“ Code in der Produktionsumgebung gelöscht haben.
Der Ausfall, den der Konzern auf einen Konfigurationsfehler schiebt, betraf nur einen einzelnen Service in China. Er ist jedoch Teil eines Musters, das sich bei den großen Technologiekonzernen beobachten lässt. Ob in der Softwareentwicklung oder in den Produkten selbst: Das Tempo beim Einsatz Künstlicher Intelligenz ist halsbrecherisch – daher kommt es immer wieder zu Problemen.
AWS ist kein Einzelfall. Beim Konkurrenten Microsoft passierte der Fehler nicht im Maschinenraum, sondern direkt im Produkt: Der Copilot griff über Wochen auf E-Mails zu, die als vertraulich gekennzeichnet waren – der digitale Assistent verarbeitete Entwürfe und gesendete Nachrichten, auf die er keinen Zugriff haben sollte.
Es war kein Hacker und kein Saboteur – es war die eigene Software. Im Dezember stand ein System des Cloud-Anbieters Amazon Web Services (AWS) 13 Stunden lang still. Kiro, ein Programm mit Künstlicher Intelligenz, das selbstständig programmieren kann, soll laut einem Bericht der „Financial Times“ Code in der Produktionsumgebung gelöscht haben.
Der Ausfall, den der Konzern auf einen Konfigurationsfehler schiebt, betraf nur einen einzelnen Service in China. Er ist jedoch Teil eines Musters, das sich bei den großen Technologiekonzernen beobachten lässt. Ob in der Softwareentwicklung oder in den Produkten selbst: Das Tempo beim Einsatz Künstlicher Intelligenz ist halsbrecherisch – daher kommt es immer wieder zu Problemen.
AWS ist kein Einzelfall. Beim Konkurrenten Microsoft passierte der Fehler nicht im Maschinenraum, sondern direkt im Produkt: Der Copilot griff über Wochen auf E-Mails zu, die als vertraulich gekennzeichnet waren – der digitale Assistent verarbeitete Entwürfe und gesendete Nachrichten, auf die er keinen Zugriff haben sollte.