Gartner: Inteligența artificială generativă a devenit un risc emergent pentru organizații

Disponibilitatea pe scară largă a inteligenței artificiale (IA) generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit în al doilea trimestru al anului 2023 o preocupare de prim rang pentru directorii responsabili pentru gestionarea riscurilor din organizații, după cum relevă analiștii Gartner.

„Intelligenția artificială generativă a fost al doilea cel mai frecvent risc identificat în cadrul sondajului nostru din al doilea trimestru, apărând pentru prima dată în top 10”, a spus Ran Xu, director de cercetare în cadrul Gartner Risk & Audit Practice. „Acest lucru reflectă atât creșterea rapidă a gradului de conștientizare a publicului și utilizarea instrumentelor IA generative, cât și amploarea potențialelor cazuri de utilizare și, prin urmare, riscurile potențiale pe care le generează aceste instrumente”, a completat Ran Xu.

În luna mai 2023, Gartner a chestionat 249 de directori seniori responsabili pentru gestionarea riscurilor din organizații pentru a oferi liderilor o viziune comparativă a 20 de riscuri emergente. Rapoartele Quarterly Emerging Risk Reports includ informații detaliate despre impactul posibil, intervalul de timp, nivelul de atenție și oportunitățile percepute pentru aceste riscuri.

Viabilitatea terților a fost principalul risc care a apărut rapid pe care organizațiile îl monitorizează cel mai îndeaproape în sondajul din trimestrul 2 al acestui an (vezi tabelul 1). Incertitudinea planificării financiare a fost al treilea risc, urmat de riscul de concentrare în cloud. Tensiunile comerciale din China au completat lista primelor cinci riscuri care au fost împărțite între problemele simptomatice ale volatilității macroeconomice și geopolitice generale actuale și preocupările legate de tehnologie.

Tabelul 1: Cinci dintre cele mai frecvent citate riscuri emergente în T2 2023

Poziție	Tipul riscului	Frecvență
1	Viabilitatea terților	67%
2	Disponibilitatea pe scară largă a IA generative	66%
3	Incertitudinea planificării financiare	62%
4	Riscul de concentrare în cloud	62%
5	Tensiunile comerciale din China	56%

Sursa: Gartner (august 2023)

Disponibilitatea pe scară largă a IA generative

Gartner a identificat anterior șase riscuri ale IA generative și patru domenii de reglementare a IA care sunt relevante pentru funcțiile care dau încredere. În ceea ce privește gestionarea riscului organizației, potrivit experților Gartner trebuie abordate trei aspecte principale:

• Proprietatea intelectuală

   „Informațiile introduse într-un instrument de IA generativă pot deveni parte a setului său de instruire, ceea ce înseamnă că informațiile sensibile sau confidențiale ar putea ajunge în rezultate pentru alți utilizatori”, a spus Xu. „Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfârși prin a încălca din neatenție drepturile de proprietate intelectuală ale altora care le-au folosit”, a detaliat el.

   Este important să educăm conducerea organizației cu privire la necesitatea prudenței și a transparenței în ceea ce privește utilizarea unor astfel de instrumente, astfel încât riscurile de proprietate intelectuală să poată fi gestionate în mod corespunzător, atât în ceea ce privește introducerea de date, cât și rezultatul obținut prin instrumentele de IA generativă.

• Confidențialitatea datelor

Instrumentele de IA generativă pot partaja informații despre utilizator cu terțe părți, cum ar fi furnizorii sau furnizorii de servicii, fără notificare prealabilă. Acest lucru are potențialul de a încălca legea confidențialității în multe jurisdicții. De exemplu, reglementările au fost deja implementate în China și UE, cu propuneri de reglementări apărute în SUA, Canada, India și Marea Britanie, printre altele.

• Securitatea cibernetică

„Hackerii testează mereu noi tehnologii pentru a găsi modalități de a le utiliza pentru propriile lor scopuri, iar inteligența artificială generativă nu este diferită”, a spus Xu. „Am văzut exemple de coduri malware și ransomware pe care IA generativă a fost păcălită să le producă, precum și atacuri de „prompt injections” care pot păcăli aceste instrumente pentru a oferi informații pe care nu ar trebui să le partajeze. Acest lucru duce la industrializarea atacurilor avansate de phishing”, a completat Xu.

Cauzele și implicațiile riscului de viabilitate a terților

„Inflația persistentă, care răspunde mai puțin la creșterea ratei dobânzii și care persistă o durată mai lungă decât se anticipa, a mărit presiunile pe costuri și pe marjă aplicate asupra terților”, a spus Xu. „Pe măsură ce băncile centrale cresc ratele dobânzilor pentru a lupta împotriva inflației, acest lucru duce, de asemenea, la un proces de înăsprire a creditelor, care poate forța furnizorii să suspende operațiunile sau să devină insolvabili pe măsură ce costurile îndatorării cresc”, a explicat Xu.

În cazul în care condițiile economice se deteriorează pe sacră largă, acest lucru poate cauza o scădere neașteptată a cererii care ar putea afecta viabilitatea furnizorilor sau capacitatea acestora de a furniza bunuri și servicii în timp util. Experții Gartner au identificat trei consecințe potențiale ale viabilității terților furnizori pe care managerii de risc trebuie să le monitorizeze pe măsură ce situația evoluează:

• Pierderea de informații și materiale cheie: Dacă terții își măresc prețurile din cauza situației economice de ansamblu, există un risc clar de a pierde accesul la informații și materiale cheie, deoarece terții ar favoriza clienții dispuși să plătească prețuri mai mari.
• Ipotezele nerealiste de planificare financiară: Ipotezele de evoluție a costurilor vor deveni invalide pe măsură ce furnizorii cresc prețurile sau eșuează, necesitând costuri de schimbare și prețuri crescute pentru obținerea de bunuri și servicii.
• Provocările din afara lanțului de aprovizionare: Partenerii, cum ar fi furnizorii de administrarea serviciilor sau partenerii comerciali, creditorii sau furnizorii de tehnologie își pot înceta sau reduce operațiunile.