Der böse Zwilling oder das böse Alter Ego ist ein altes Motiv in Horrorgeschichten. Wie der Security-Anbieter Trend Micro warnt, könnten digitale Versionen in diesem Jahr zu einer neuen Bedrohung werden.
Bei genauerer Betrachtung sind die "bösartigen digitalen Zwillinge", die Trend Micro schildert, eine Kombination von verschiedenen bereits verwendeten KI-basierten Methoden, um Menschen nachzuahmen und personalisierte Angriffe zu ermöglichen. Für einen digitalen Zwilling werden gestohlene oder geleakte persönliche Informationen verwendet, um ein individualisiertes Large Language Model zu trainieren. Dieses soll das Wissen, die Persönlichkeit und den Schreibstil des Opfers nachahmen, so Trend Micro. Dies kann kombiniert werden mit kompromittierten biometrischen Daten sowie Deepfake-Videos und Stimmimitationen, die auf Aufnahmen des Opfers basieren. So können Identitäten vorgetäuscht und Freunde, Kollegen oder Familienmitglieder des Opfers in viele Arten von Betrugsfallen gelockt werden.
KI wird laut Trend Micro von Angreifern auch verwendet, um weitere neue Betrugsmaschen zu ermöglichen. Mittels "Business Email Compromise" beziehungsweise "Business Process Compromise" könnten beispielsweise falsche Mitarbeitende in ein Unternehmen eingeschleust werden.
Zudem können alte Betrugsvarianten raffinierter gemacht werden. Künstliche Intelligenz erleichtert die Informationssammlung. Bei Online-Beziehungs- und Investitionsbetrug können verwundbare Individuen gezielt identifiziert und angesprochen werden, bevor eine menschliche Kontaktperson die Täuschung vertieft. KI erleichtert es zudem Hackern, die notwendigen Kenntnisse und Fähigkeiten für ihre Missetaten zu erwerben.
KI-Applikationen als neue Einfallstore
KI-Applikationen können des Weiteren selbst Sicherheitslücken aufweisen und Cyberkriminellen neue Einfallstore bieten. Unternehmen, die in diesem Jahr verstärkt KI einsetzen, sollten deshalb einige Bedrohungen im Auge behalten, rät Trend Micro. KI-Agenten können zum Beispiel Schwachstellen aufweisen und darüber manipuliert werden, so dass sie schädliche oder verbotene Aktionen durchführen. Über generative KI-Systeme können vertrauliche Informationen in die falschen Hände geraten.
Zudem könnten fehlerhafte oder missbräuchlich genutzte KI-Agenten die Hardware-Ressourcen überlasten und so zu Dienstunterbrechungen führen. Dies wäre eine neue Methode für DDoS-Angriffe.