Der "böse digitale Zwilling" als neue Cyberbedrohung

8. Januar 2025 um 14:03
  • security
  • Künstliche Intelligenz
  • Trend Micro
image
Illustration: Erstellt durch Inside IT mit Midjourney.

Security-Experten warnen vor KI-gestützten, hyper-personalisierten Cyberangriffen.

Der böse Zwilling oder das böse Alter Ego ist ein altes Motiv in Horrorgeschichten. Wie der Security-Anbieter Trend Micro warnt, könnten digitale Versionen in diesem Jahr zu einer neuen Bedrohung werden.
Bei genauerer Betrachtung sind die "bösartigen digitalen Zwillinge", die Trend Micro schildert, eine Kombination von verschiedenen bereits verwendeten KI-basierten Methoden, um Menschen nachzuahmen und personalisierte Angriffe zu ermöglichen. Für einen digitalen Zwilling werden gestohlene oder geleakte persönliche Informationen verwendet, um ein individualisiertes Large Language Model zu trainieren. Dieses soll das Wissen, die Persönlichkeit und den Schreibstil des Opfers nachahmen, so Trend Micro. Dies kann kombiniert werden mit kompromittierten biometrischen Daten sowie Deepfake-Videos und Stimmimitationen, die auf Aufnahmen des Opfers basieren. So können Identitäten vorgetäuscht und Freunde, Kollegen oder Familienmitglieder des Opfers in viele Arten von Betrugsfallen gelockt werden.
KI wird laut Trend Micro von Angreifern auch verwendet, um weitere neue Betrugsmaschen zu ermöglichen. Mittels "Business Email Compromise" beziehungsweise "Business Process Compromise" könnten beispielsweise falsche Mitarbeitende in ein Unternehmen eingeschleust werden.
Zudem können alte Betrugsvarianten raffinierter gemacht werden. Künstliche Intelligenz erleichtert die Informationssammlung. Bei Online-Beziehungs- und Investitionsbetrug können verwundbare Individuen gezielt identifiziert und angesprochen werden, bevor eine menschliche Kontaktperson die Täuschung vertieft. KI erleichtert es zudem Hackern, die notwendigen Kenntnisse und Fähigkeiten für ihre Missetaten zu erwerben.

KI-Applikationen als neue Einfallstore

KI-Applikationen können des Weiteren selbst Sicherheitslücken aufweisen und Cyberkriminellen neue Einfallstore bieten. Unternehmen, die in diesem Jahr verstärkt KI einsetzen, sollten deshalb einige Bedrohungen im Auge behalten, rät Trend Micro. KI-Agenten können zum Beispiel Schwachstellen aufweisen und darüber manipuliert werden, so dass sie schädliche oder verbotene Aktionen durchführen. Über generative KI-Systeme können vertrauliche Informationen in die falschen Hände geraten.
Zudem könnten fehlerhafte oder missbräuchlich genutzte KI-Agenten die Hardware-Ressourcen überlasten und so zu Dienstunterbrechungen führen. Dies wäre eine neue Methode für DDoS-Angriffe.

Loading

Mehr zum Thema

image

Das intelligente e-Archiv von CENT Systems

e-Archiv as a Service: Das Smart Archive von CENT Systems macht physische Archive überflüssig und ermöglicht die rechtssichere Aufbewahrung Ihrer Daten in einer Cloud mit Datenstandort Schweiz. Gleichzeitig ermöglicht das Smart Archive die KI-gestützte Interaktion mit digitalisierten Dokumenten.

image

Daten von Swissmem-Ausgleichskasse gestohlen

Die Ausgleichskasse des Verbandes der Schweizer Maschinen-, Elektro- und Metallindustrie wurde gehackt. Die Angreifer haben Server und Daten verschlüsselt.

publiziert am 4.2.2025
image

Kanton Zürich sucht Security-Expertise

Ein Expertenpool soll das Amt für Informatik bei der Umsetzung der Informations­sicherheitsrichtlinien unterstützen. Es geht um bis zu 7000 Arbeitstage.

publiziert am 4.2.2025
image

KI-Bericht des Bundes lässt auf sich warten

In der EU sind die ersten Bestimmungen des AI Acts in Kraft getreten. In der Schweiz hingegen verzögert sich der Bericht zur KI-Regulierung. Das sorgt für Kritik.

publiziert am 3.2.2025