Der Einfluss von Open-Source-KI auf Hacking: der Standpunkt des FBI
Hacker haben eine neue Waffe gefunden, um ihre illegalen Aktivitäten effektiver zu gestalten: Künstliche Intelligenz (KI). Nach Angaben des FBI nutzen Cyberkriminelle zunehmend Open-Source-KI-Modelle, um ihre Tools zu verbessern und Internetnutzer auszutricksen.
Einsatz von KI durch Cyberkriminelle
Cyberkriminelle nutzen Chatbots, die auf Sprachmodellen wie ChatGPT, Google Bard oder Claude basieren, um ihre böswilligen Aktivitäten zu erleichtern. Durch die Ausnutzung spezifischer Anfragen gelingt es ihnen, Sicherheitsmaßnahmen und Einschränkungen zu umgehen, die von den Entwicklern dieser Tools eingeführt wurden. Das FBI hat Alarm geschlagen, aber festgestellt, dass die bei Internetnutzern beliebtesten KI-Modelle nicht die Favoriten der Hacker sind.
Open-Source-Modelle, ein von Hackern beliebtes Tool
Hacker nutzen lieber kostenlose, anpassbare Open-Source-KI-Modelle als solche, die von Unternehmen kontrolliert werden. Diese Open-Source-Modelle, die für jedermann im Internet zugänglich sind, können leicht zur Generierung illegaler Inhalte genutzt werden. Darüber hinaus sind sie leichter und benötigen weniger Rechenleistung als die großen Modelle der Branchenriesen. Daher können sie lokal auf einem Computer oder sogar auf einem Smartphone genutzt werden, ein Vorteil für Entwickler und Cyberkriminelle. Interessant ist auch, dass Kriminelle benutzerdefinierte KI-Modelle verwenden, die von anderen Hackern entwickelt wurden. Im Dark Web gibt es viele Chatbots, die von Hackern entwickelt wurden, um illegale Inhalte wie Malware zu generieren. Kürzlich sind zwei Chatbots, die ausschließlich kriminellen Aktivitäten gewidmet sind, auf Schwarzmärkten aufgetaucht: WormGPT und FraudGPT. Diese Chatbots sind darauf ausgelegt, überzeugende Phishing-E-Mails zu erstellen, Viren wie Ransomware zu verschlüsseln und Angriffe zu orchestrieren. Sie werden im Darknet zu einem hohen Preis verkauft.
Die unterschiedlichen Einsatzmöglichkeiten von KI durch Cyberkriminelle
Hacker nutzen KI auf unterschiedliche Weise, um ihre illegalen Aktivitäten auszuführen. Insbesondere nutzen sie KI, um Phishing-Seiten zu entwerfen, die die Benutzeroberfläche offizieller Plattformen imitieren. Darüber hinaus nutzen sie die Fähigkeiten der generativen KI, um polymorphe Viren zu erstellen, die ihren Code bei jeder Ausführung ändern können, was ihre Erkennung für herkömmliche Antivirenprogramme komplizierter macht. Betrüger nutzen die Deepfake-Technologie auch, um Geld von ihren Opfern zu erpressen. Sie erzeugen gefälschte Bilder und Videos, die ihre Opfer in kompromittierenden Situationen darstellen. Anschließend nutzen sie diese Inhalte, um ihre Opfer zu belästigen, indem sie sie in sozialen Netzwerken oder auf pornografischen Seiten veröffentlichen. Darüber hinaus scheuen Hacker nicht davor zurück, ihre Opfer mithilfe von Voice-Cloning-KI am Telefon zu manipulieren. Indem sie die Stimmen geliebter Menschen nachahmen, gelingt es ihnen, Zielpersonen davon zu überzeugen, ihnen zu vertrauen und ihnen Geld zu geben.
Die Zukunft von KI und Hacking
Das FBI prognostiziert eine Zunahme des kriminellen Einsatzes von KI, da die Technologie breiter verfügbar wird. Daher ist es unerlässlich, Präventions- und Schutzstrategien zu entwickeln, um dem böswilligen Einsatz von KI durch Hacker entgegenzuwirken. Die Bemühungen sollten sich auf die Sicherung von Open-Source-KI-Modellen und die Implementierung robusterer Sicherheitsmaßnahmen zur Verhinderung von Manipulationen konzentrieren. KI hat das Potenzial, der Gesellschaft in vielen Bereichen zu nützen, es ist jedoch unerlässlich, ihren verantwortungsvollen und ethischen Einsatz sicherzustellen.
Quelle: PCMag