Forscher von Trend Micro demonstrierten das Verfahren am Beispiel der Cyberbande „Earth Alux“. Sie fütterten unbeschränkte Large Language Models (LLMs) mit eigenen Sicherheitsanalysen und ließen KI-Systeme entsprechende Schadsoftware programmieren. Die von Hugging Face frei verfügbaren Modelle produzierten Code, der dem Original in allen veröffentlichten Details glich – allerdings noch menschliche Nachbearbeitung benötigte.
Besonders brisant: Die Technik eignet sich perfekt für False-Flag-Operationen. Angreifergruppen können gezielt die Taktiken und Techniken (TTPs) konkurrierender Organisationen nachahmen und so Ermittler auf falsche Fährten locken. Bereits heute streuen nordkoreanische Hacker russische Codeschnipsel in ihre Programme – KI macht solche Täuschungsmanöver jedoch präziser und effizienter.
Die Trend-Micro-Experten warnen dennoch vor überzogenen Reaktionen. Transparenz bei Sicherheitsbedrohungen bleibe essentiell – Herausgeber sollten jedoch prüfen, ob ihre Veröffentlichungen KI-gestützte Nachahmung ermöglichen. Die ohnehin komplexe Attributierung von Cyberangriffen wird durch diese Entwicklung zusätzlich erschwert.