Ki-malware lernt, wie sicherheitsexperten denken – alarm in der cyber-szene

Ein neuartiges Malware, das die Programmbezeichnung ‘Gaslight’ trägt, stellt die Künstliche Intelligenz (KI) in der Cybersicherheit vor eine unerwartete Herausforderung. Die Bedrohung, entwickelt in der Programmiersprache Rust, ist darauf ausgelegt, KI-gestützte Analysewerkzeuge zu täuschen – und das mit einer Methode, die bisher als äußerst selten gilt.

So funktioniert der ausgeklügelte trick

Die Malware injiziert gezielt falsche Nachrichten in seinen eigenen Code. Diese simulieren dann Systemfehler wie Speicherfehler, Netzwerkprobleme oder Datenbankfehler. Wichtig ist: Sie sind formatiert wie legitime Debug-Logs, inklusive Markdown-Syntax. Das erhöht die Wahrscheinlichkeit, dass automatisierte Analyse-Systeme die falschen Informationen für echte Systemmeldungen halten – ein klassischer ‘Red Herring’, um die KI zu verwirren.

Die Bedrohung: Ein versteckter Block von rund 3,5 Kilobyte enthält Dutzende dieser täuschend echt wirkenden Fehlermeldungen. Beispiele sind fehlerhafte Speicherzugriffe, Probleme mit Zugriffstoken, Prozessabbrüche oder potenzielle SQL-Injection-Schwachstellen. Keine dieser Meldungen spiegelt jedoch das tatsächliche Verhalten des Malware wider; sie dienen ausschließlich als Ablenkung.

Der Knackpunkt: Es geht nicht darum, die Ausführung des Schadprogramms in einer Testumgebung zu verhindern. Stattdessen zielt Gaslight darauf ab, die Interpretationsfähigkeiten von KI-Modellen zu stören. Indem das Malware ‘Rauschen’ in seinen Code einfügt, versucht es, die Modelle zu verwirren, sie zu überfordern oder sogar die Analyse ganz zu unterbrechen. Dies fällt unter den Begriff ‘Prompt Injection’ – ein Angriff, der nicht das System selbst, sondern die Art und Weise, wie die KI die eingegebenen Informationen interpretiert, angreift.

Ki-sicherheit im visier

Experten betonen, dass es bisher keine Hinweise darauf gibt, dass dieser Ansatz effektiv ist. Allerdings deutet die Entwicklung von Gaslight auf eine klare Tendenz hin: Angreifer beginnen zunehmend Malware so zu gestalten, dass sie von KI-gestützten Sicherheitssystemen analysiert wird. Das bedeutet einen Paradigmenwechsel in der Art und Weise, wie Cyberkriminelle ihre Werkzeuge entwickeln und einsetzen. Es ist ein Wettlauf zwischen den Entwicklern von Malware und den Entwicklern von KI-Sicherheit, ein Wettlauf, der noch lange nicht vorbei ist.

Die Implikation: Die Entwicklung von Gaslight ist ein deutliches Warnsignal. KI-basierte Sicherheitslösungen sind zwar leistungsstark, aber nicht unfehlbar. Die Fähigkeit, KI-Systeme zu täuschen, eröffnet neue Angriffsmöglichkeiten und unterstreicht die Notwendigkeit, die KI-Sicherheit kontinuierlich weiterzuentwickeln – und dabei stets das Potenzial für Manipulation zu berücksichtigen.