Infractorii cibernetici testează inteligența artificială în dark web – nou studiu Kaspersky

Serviciul Digital Footprint Intelligence de la Kaspersky a găsit aproape 3000 de postări dark web care discutau în principal despre utilizarea ChatGPT și a altor LLM-uri pentru activități ilegale. Actorii amenințărilor explorează scheme, de la crearea de alternative nefaste ale chatbot-ului până la jailbreaking-ul originalului și nu numai. Conturile și serviciile ChatGPT furate care oferă crearea lor automată în masă inundă și canalele dark web, ajungând la alte 3000 de postări.

În 2023, serviciul Kaspersky Digital Footprint Intelligence a descoperit aproape 3000 de postări pe dark web, discutând despre utilizarea ChatGPT în scopuri ilegale sau vorbind despre instrumente care se bazează pe tehnologiile AI. Chiar dacă discuțiile au atins apogeul în martie, acestea persistă.

Popularitatea instrumentelor bazate pe inteligență artificială a condus la integrarea răspunsurilor automate de la ChatGPT sau echivalentele acestuia în unele forumuri pentru infracțiunile cibernetice. În plus, actorii amenințărilor tind să partajeze jailbreak-urile prin diverse canale dark web – seturi speciale de solicitări care pot debloca funcționalități suplimentare – și să conceapă modalități de exploatare a instrumentelor legitime, cum ar fi cele pentru pentesting, pe baza modelelor în scopuri rău intenționate. În afară de chatbot și inteligența artificială menționate, se acordă o atenție considerabilă proiectelor precum XXXGPT, FraudGPT și altele. Aceste modele sunt comercializate pe dark web ca alternative la ChatGPT, oferind funcționalități suplimentare și absența limitărilor originale.

O altă amenințare pentru utilizatori și companii este piața de conturi pentru versiunea plătită a ChatGPT. În 2023, au fost observate alte 3000 de postări (în plus față de cele menționate anterior) care făceau publicitate unor conturi ChatGPT de vânzare pe dark web și pe canale Telegram. Aceste postări fie distribuie conturi furate, fie promovează serviciile de auto-înregistrare, creând un număr masiv de conturi la cerere. În special, anumite postări au fost publicate în mod repetat pe mai multe canale dark web.

Cercetările detaliate sunt prezentate pe site-ul Kaspersky Digital Footprint Intelligence. Pentru a evita amenințările legate de activitățile infracționale cibernetice din segmentul întunecat al internetului, merită implementate următoarele măsuri de securitate:

• Utilizați Kaspersky Digital Footprint Intelligence pentru a-i ajuta pe analiștii de securitate să exploreze viziunea adversarului asupra resurselor companiei, să descopere cu promptitudine potențialii vectori de atac disponibili pentru atacatori. Acest lucru ajută, de asemenea, la creșterea gradului de conștientizare cu privire la amenințările existente din partea infractorilor cibernetici, pentru a vă ajusta apărarea în consecință sau pentru a lua măsuri de contracarare și eliminare în timp util.
• Alegeți o soluție fiabilă de securitate la nivel endpoint, cum ar fi Kaspersky Endpoint Security for Business, care este echipată cu capabilități de detectare și control al anomaliilor bazate pe comportament, pentru o protecție eficientă împotriva amenințărilor cunoscute și necunoscute.
• Serviciile dedicate pot ajuta la combaterea atacurilor de profil înalt. Kaspersky Managed Detection and Response poate ajuta la identificarea și oprirea intruziunilor în stadiile incipiente, înainte ca atacatorii să-și atingă obiectivele. Dacă întâmpinați un incident, serviciul Kaspersky Incident Response vă va ajuta să răspundeți și să minimizați consecințele, în special – identificați nodurile compromise și protejați infrastructura de atacuri similare în viitor.