Unbekannte KI-Agenten zielten im Sommer auf kanadische Behörde

Das KI-Forschungsunternehmen Transluce hat die kanadische Regierung kürzlich darüber informiert, dass unbekannte KI-Agenten im Sommer versucht haben, in die Systeme der Behörde Library and Archives Canada einzudringen. Laut einem Bericht von BetaKit erklärten Regierungsvertreter, es gebe keine Hinweise darauf, dass bei dem Einbruchsversuch Daten der Bundesinstitution kompromittiert wurden.

Muster automatisierter Vorfälle

Die Angriffsversuche auf Library and Archives Canada reihen sich in eine wachsende Liste von Sicherheitsvorfällen ein, an denen autonome KI-Agenten beteiligt waren. Zu den jüngsten Fällen gehören ein Sicherheitsvorfall bei Hugging Face sowie Berichte aus dem Juni, wonach OpenAI-Agenten auf Buschfeuer- und medizinische Datenbanken in Australien zugegriffen haben. Im Bericht zitierte Sicherheitsexperten warnen, dass unbefugte Eindringversuche durch automatisierte Software-Agenten im Laufe der Zeit voraussichtlich sowohl an Häufigkeit als auch an Schwere zunehmen werden.

Beratende Rollen und vorgeschlagene Rahmenwerke

Der Vorfall fällt in eine Zeit anhaltender Debatten über die staatliche Aufsicht über künstliche Intelligenz. Der Informatiker Yoshua Bengio forderte kürzlich in einer Rede vor dem Sicherheitsrat der Vereinten Nationen eine stärkere globale KI-Regulierung. Bengio ist einem Beraterkreis von Premierminister Mark Carney beigetreten, der eine internationale Erklärung zur KI-Sicherheit unterzeichnet hat. Unterdessen schlug KI-Minister Evan Solomon die Einrichtung eines Gremiums für Technologiestabilität nach dem Vorbild des Financial Stability Board vor. Die Schaffung einer solchen Regulierungsbehörde bleibt jedoch theoretisch, insbesondere ohne die Beteiligung wichtiger Weltmächte wie den USA und China.

Freiwillige Regulierungen und wirtschaftliche Risiken

Während kanadische Regierungsvertreter künstliche Intelligenz als zentralen Motor für das Wirtschaftswachstum positionieren, bleiben die Sicherheitsrichtlinien des Bundes minimal. Als Ottawa Governance-Leitlinien für Rechenzentren veröffentlichte, war das resultierende Regelwerk vollkommen freiwillig statt rechtlich bindend. Branchenbeobachter weisen darauf hin, dass sich die aktuellen Bemühungen stark auf die Technologieakzeptanz konzentrieren, während potenzielle Sicherheitslücken bei kritischen Bundeszielen – wie etwa der nationalen Verteidigung, Steuerdatenbanken und dem Bundesfinanzministerium – unberücksichtigt bleiben.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: An AI tried to hack Canada. Is that a warning?