Nya uppgifter från cybersäkerhetsbolaget TrendAi visar att jailbreakade stora språkmodeller (LLM) har använts för att skapa sofistikerade cyberhot riktade mot amerikanska politiker och politiskt engagerade personer, genom AI-genererade påverkanskampanjer, stöld av inloggningsuppgifter och bedrägerier med kryptovalutor.
Cyberhoten är en sofistikerad kampanj, som kallas ”brandcampro”, från en ensam rysktalande hotaktör. Kampanjen har skapats och styrts med hjälp av en jailbreakad version av Google Gemini och andra AI-verktyg för att automatisera innehållsskapande, sätta upp infrastruktur för nätfiske, knäcka inloggningsuppgifter och driva bedrägerier med kryptovaluta i stor skala.
Cyberkampanjen ska ha nått cirka 17 000 följare på Telegram medan stulna API-nycklar och AI-drivna automatiseringsverktyg använts för att avsevärt sänka driftskostnaderna.
– Denna cyberkampanj visar hur moderna AI-system möjliggör en ny typ av skalbar och kostnadseffektiv cyberkriminallitet som kombinerar påverkanskampanjer, automatisering och ekonomiska bedrägerier, säger Martin Fribrock, Country Manager Sweden, Finland and Baltics på TrendAI.
