Vereinigte Staaten
Anthropisch
Anthropic, ein in San Francisco ansässiges Unternehmen, das sich mit der Sicherheit und Forschung im Bereich der künstlichen Intelligenz (KI) befasst, gibt an, den nach seiner Einschätzung ersten dokumentierten groß angelegten Cyberangriff abgewehrt zu haben, der überwiegend von KI durchgeführt wurde. Nach Angaben des Unternehmens wurden schätzungsweise 80–90 % der für diesen Angriff erforderlichen Arbeiten von KI ausgeführt.
Anthropic berichtete am 13. November, dass eine vom chinesischen Staat unterstützte Gruppe seinen KI-gestützten Programmierassistenten „Claude Code“ manipuliert und versucht habe, etwa 30 Ziele weltweit zu infiltrieren. Zu den Zielen gehörten große Technologieunternehmen, Finanzinstitute, Chemiehersteller und Regierungsbehörden. Das Unternehmen gab an, Mitte September verdächtige Aktivitäten entdeckt zu haben, die sich später als Teil einer äußerst ausgeklügelten Spionagekampagne herausstellten. Um Sicherheitskontrollen zu umgehen, gaben sich die Angreifer als legitimes Cybersicherheitsunternehmen aus, das defensive Tests durchführte, und umgingen die Sicherheitsvorkehrungen von „Claude Code“, wodurch sie das Programm über seine Sicherheitsgrenzen hinaus nutzten.
Berichten zufolge haben die Angreifer die agentischen Fähigkeiten der KI in einem bisher beispiellosen Ausmaß genutzt. Der Vorfall wird als Wendepunkt angesehen, an dem KI nicht mehr nur dazu dient, Angreifer zu beraten, sondern nun dazu eingesetzt wird, wichtige Phasen eines Cyberangriffs selbst auszuführen.
Wie sich dies auf Ihr Unternehmen auswirken könnte
Während Angreifer KI nutzen, um komplexe Operationen zu automatisieren und zu skalieren, können Unternehmen dieselbe Technologie einsetzen, um ihre Abwehrmaßnahmen zu verbessern. KI-gestützte Tools können Teams dabei helfen, Bedrohungen schneller zu erkennen, ungewöhnliches Verhalten in Echtzeit zu identifizieren und große Teile der Reaktion auf Sicherheitsvorfälle zu automatisieren, wodurch Unternehmen bessere Chancen haben, Angriffe einzudämmen, bevor sie sich ausbreiten.
