Un nou tip de fraudă digitală: amenințări dezvoltate cu AI

Microsoft continuă eforturile pentru protejarea utilizatorilor și a platformelor de fraude cibernetice. De la blocarea tentativelor de fraude în Azure și adăugarea de noi funcționalități anti-scam în Edge, până la combaterea fraudei asistenței tehnologice cu funcții noi în Windows Quick Assist, între aprilie 2024 și aprilie 2025, Microsoft a reușit următoarele:
Blocarea pierderii a 4 miliarde de dolari în tentative de fraudă
Respingerea a peste 49.000 de înscrieri frauduloase în platforme
Blocarea a aproximativ 1,6 milioane de boți pe oră
„România se află într-un moment critic în lupta împotriva fraudelor cibernetice prin AI, care transformă spațiul digital într-un câmp de luptă cu mize ridicate,” a declarant Dan Gavojdea, Security Lead pentru regiunea CEE la Microsoft. „Asistăm la o creștere a atacurilor extrem de convingătoare. De la scheme avansate de phishing care vizează credibilitatea instituțiilor publice sau financiare, la magazine online frauduloase care exploatează încrederea în platforme, aceste amenințări bazate pe AI învață și se adaptează într-un ritm alert. Transformarea digitală rapidă a României, în special în comerțul online și sectorul bancar, a creat o fereastră de vulnerabilitate din cauza conștientizării publice întârziate și a infrastructurii de securitate depășite. De aceea programe precum Microsoft ATLAS nu sunt doar utile, ci esențiale. Acestea le oferă instituțiilor publice instrumentele avansate necesare pentru a proteja cetățenii și a păstra încrederea în economia digitală. Este momentul să prioritizăm reziliența cibernetică națională și să investim în educația cibernetică publică pe scară largă. România are atât talentul cât și parteneriatele necesare pentru a construi încredere digitală în întreaga regiune — dar numai dacă acționăm decisiv.”

Evoluția tentativelor de înșelăciune cu ajutorul AI
Inteligența artificială (AI) permite generarea de conținut credibil dezvoltat de actori rău intenționați în tentativele de fraudă online. Software-ul AI utilizat în tentativele de înșelăciune variază de la aplicații legitime folosite în scopuri malițioase, până la instrumente special dezvoltate pentru astfel de intenții. Instrumentele AI pot scana și extrage informații despre companii, ajutând hackerii să își construiască profiluri detaliate ale angajaților sau altor ținte pentru a crea procese de inginerie socială extrem de convingătoare. În unele cazuri, victimele pot fi atrase în scheme de fraudă tot mai complexe prin recenzii de produse false cu ajutorul AI și interfețe false de shopping, site-uri web și branduri de e-commerce, cu istoric complet și chiar cu testimonial de clienți, prin utilizarea de conținut deep fake, precum clonarea vocii, e-mailuri de phishing și site-uri web false care arată cât se poate de autentic.
Potrivit echipei Microsoft Anti-Fraud, atacurile de înșelăciune cu AI se întâmplă la nivel global, cu o mare parte din activitate venind din China și Europa, în special din Germania, una dintre cele mai mari piețe de e-commerce și servicii online din Uniunea Europeană (UE). Cu cât este mai mare o piață digitală într-o regiune, cu atât sunt mai probabile tentativele de fraudă.

Fraudă pe piața muncii
Progresul inteligenței artificiale generative a făcut mai ușor pentru escroci să creeze anunțuri false pe diverse platforme de locuri de muncă. Practica lor se bazează pe generarea de profiluri false cu acreditări furate, anunțuri de locuri de muncă false cu descrieri auto-generate și campanii pe e-mail făcute prin AI, pentru a-i păcăli pe cei aflați în căutarea unui loc de muncă. Pentru prevenție, platformele de joburi ar putea introduce autentificarea cu mai mulți factori pentru conturile angajatorilor.

Escrocii cer adesea informații personale, precum CV-uri și detalii despre conturi bancare, sub pretextul verificării informațiilor candidatului. Mesajele SMS și e-mailurile care oferă oportunități de angajare cu salarii mari pentru calificări minime sunt, de obicei, un indicator al fraudei. Ofertele de angajare care includ cereri de plată, oferte care par prea bune pentru a fi adevărate, oferte nesolicitate sau cereri de interviu prin SMS și lipsa platformelor de comunicare formale pot fi toate indicii ale fraudei.
Recomandări:    

Monitorizarea escrocheriilor bazate pe AI: Companiile ar putea implementa algoritmi de detectare a deepfake-urilor pentru a identifica aplicațiile pe bază de AI, cu expresii faciale și expresii de limbaj neconforme.
A se evita ce pare prea bun pentru a fi adevărat: Verificați legitimitatea site-urilor web prin verificarea conexiunilor securizate (https) și utilizarea instrumentelor de protecție împotriva greșelilor de tipar, precum funcția dedicate din Microsoft Edge.
Evitați furnizarea de informații personale surselor neverificate: Observați indicatori de tentative de fraudă precum cererile de plăți, comunicarea prin platforme informale, precum SMS, WhatsApp, conturi Gmail non-business.