Update: BACS veröffentlicht Tipps für Jugendliche, um Deepfakes zu erkennen

Update vom 04.10.2024: Im Rahmen des European Cyber Security Month hat das Bundesamt für Cybersicherheit (BACS) nun Tipps für Jugendliche rund um Deepfakes und anderen, auf künstlicher Intelligenz (KI) basierenden Manipulationen veröffentlicht. In sozialen Netzwerken werde KI schon seit geraumer Zeit eingesetzt, um das Nutzererlebnis zu optimieren. Jugendliche würden heute selbstverständlich mit diesen KI-Funktionen umgehen, sie jedoch meist nicht hinterfragen, schreibt das BACS.

Weil viele ihrer sozialen Interaktionen sich im Internet abspielen, seien Kinder und Jugendliche anfällig für Deepfake-Manipulationen. Also die gezielte Nutzung solcher Technologien durch Cyberkriminelle, um ihre Identität und wahren Motive zu verschleiern. Aktuell seien Deepfakes bei genauerer Betrachtung meist noch erkennbar. Das BACS empfiehlt, auf folgendes zu achten:

• Metallischer und monotoner Klang der Stimme
• Merkwürdiger Inhalt des Telefongesprächs
• Verwendung eines untypischen Wortschatzes
• Unlogische Schatten oder unpassende Frisur zum Gesicht
• Unscharfe Übergänge von Gesichtspartien
• Unterschiedliche Qualität (Person vs. Hintergrund)

In einem Video demonstriert Brian Ceccato, Technischer Analyst beim BACS, wie Stimmen und sogar Schweizer Dialekte imitiert oder live Videobilder verfälscht werden können:

Originalmeldung vom 01.10.2024:

BACS klärt über Deepfakes und andere KI-Gaunereien auf

Künstliche Intelligenz (KI) ist im Trend – dies gilt leider auch in der Welt der Cyberkriminellen. Wie sie KI einsetzen, um ihre Opfer aufs Glatteis zu führen, ist das Thema einer aktuellen Sensibilisierungskampagne des Schweizer Bundesamt für Cybersicherheit (BACS). Die Kampagne findet im Rahmen des diesjährigen "European Cyber Security Month" (ECSM) statt. Diese fokussiert sich - unter dem Motto "Think Before U Click!" - etwas allgemeiner auf die manipulativen Taktiken von Onlinegaunern. 

Schwerpunktmässig geht es beim Beitrag des BACS um Social-Engineering-Angriffe. Man knüpfe damit an die im Oktober 2023 durchgeführte und erfolgreiche Aktion an, teilt das Bundesamt dazu mit. In ihrer Übersicht nennt die Behörde ein paar Beispiele, wie sich Cybergauner mit KI als jemand anderes ausgeben können. "Beispielsweise können sie leicht authentisch wirkende E-Mails verfassen, Stimmen imitieren oder Bildmaterial fälschen", heisst es im Beitrag des BACS.

Im Extremfall kombinieren Cyberkriminelle alle diese Elemente zu einem Deepfake-Video. Zur ECSM-Kampagne wollen das BACS und seine Partner ein Kurzvideo präsentieren, indem sie aufzeigen, wie einfach Cyberkriminelle Deepfakes erstellen können. Auch verfügbar sollen ein Erklärvideo speziell für ältere Menschen und weiterführende Informationen auf der BACS-Webseite sein, wie es in der Mitteilung heisst. Die zielgruppenspezifischen Inhalte erstellte die Behörde mit den Partnerorganisationen Jugend und Medien sowie Ralph Landolt von Seniorweb.ch. Am 22. Oktober führt das Bundesamt zudem eine virtuelle Mittagsveranstaltung durch, zu der man sich hier anmelden kann. Die Kampagne dauert noch bis zum 31. Oktober.

Auf europäischer Ebene wird der ECSM von der EU-Cybersecurity-Behörde ENISA und der Europäischen Kommission koordiniert. Hunderte von Behörden, Hochschulen, NGOs und privatwirtschaftlichen Unternehmen beteiligten sich an den jährlichen Aktionen, heisst es auf der Website. Die erste solche Kampagne fand im Jahr 2012 statt.

Deepfakes sind übrigens nicht per se illegal. Welche legalen Anwendungen es gibt und wie Sie Deepfakes erkennen, erfahren Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.