La răscrucea dintre AI şi identitate

Facial Recognition System concept.

Share

Astăzi, aproape fiecare organizație și majoritatea indivizilor folosesc sau experimentează Inteligența Artificială (AI). Există o mulțime de exemple despre cum aceasta schimbă afacerile în bine, de la marketing și HR până la echipe IT. Ceea ce era cândva imposibil din punct de vedere computațional sau prohibitiv de costisitor de făcut, este acum la îndemână cu utilizarea AI.

Potrivit Gartner, aproximativ 80% dintre întreprinderi vor folosi API-uri sau modele AI generative (GenAI) până în 2026. Pe măsură ce AI generează valoare pentru organizații, alimentează cererea și adoptarea în continuare. În mediul nostru digital modern, există o cantitate fenomenală de date pe care acum le putem folosi pentru a antrena ChatGPT de la OpenAI și alte modele GenAI.

AI poate implica mai natural datele care trăiesc în lumea online, captând anumite activități și evenimente pentru a oferi mai multe informații și context. În special, capacitatea AI de a analiza seturi de date disparate, de a identifica modele și de a prezice tendințe este extrem de valoroasă pentru liderii IT. 87% dintre respondenții la sondaj plănuiesc să folosească AI.

Nu este surprinzător faptul că organizațiile intervievate au planificat activ AI. De fapt, doar 13% dintre organizațiile globale au declarat că nu au niciun plan pentru a implementa inițiative AI. Peste jumătate dintre respondenții chestionați (61%) se așteaptă să implementeze inițiative AI în următorul an. 76% au fost de acord că organizația lor ar trebui să investească în AI, iar 63% au dezvoltat deja o politică AI.
Cu toate acestea, una dintre provocările din jurul AI este modul în care aceste modele de limbaj mari (LLM) operează cu subiecte complexe. Există o mulțime de date superficiale sau incorecte, iar acest lucru creează limitări pentru LLM. De exemplu, ei pot privi doar datele disponibile.

În timp ce AI prezintă progrese în capacitatea de a procesa logica diferit, ea estompează, de asemenea, liniile dintre oameni și mașini. Acesta este motivul pentru care managementul identității este crucial pentru a se asigura că organizațiile pot conecta în siguranță oamenii la tehnologie.

Integrarea AI în managementul identității și accesului (IAM) reprezintă o schimbare a regulilor jocului pentru companiile care doresc să ofere utilizatorilor o experiență sigură și fără probleme. Capacitățile sale pot introduce soluții de gestionare a identității mai precise, eficiente și adaptabile, care ar putea face ca managementul identității, plin de fricțiuni și greoi, să devină de domeniul trecutului.

În realitate, tehnologia AI a început deja să revoluționeze modul în care companiile gestionează identitatea și accesul, făcându-le mai sigure și mai eficiente. AI în managementul identității are potențialul de a rezolva o serie de probleme legate de natura dinamică a identității și a comportamentelor utilizatorilor.

Însă experţii spun că, cu inteligența artificială încă la început, acum este momentul să ne asigurăm că protecţiile sunt la locul lor. Acolo unde există oportunități, există și amenințare. AI ar putea fi o slăbiciune în securitatea unei companii. Soluțiile de inteligență artificială atrag, de asemenea, o atenție deosebită din partea actorilor răuvoitori care realizează că — deși pot fi folosite de companii pentru a identifica deficiențele de securitate și a le soluționa — ar putea reprezenta ele însele o slăbiciune în poziția de securitate a unei companii. Până în acest punct, conform unui sondaj recent Gartner Peers Insights cu privire la modul în care echipele de software folosesc GenAI, 38% dintre respondenți au citat probleme legate de securitatea cibernetică, iar un procent similar a citat și probleme de politică de guvernare, în timp ce 41% au spus că costul instrumentelor AI a fost o provocare.

Pe măsură ce o multitudine de noi capabilități AI apar pe piață, este nevoie de o mai bună supraveghere și guvernare a AI. În special deoarece sistemele AI procesează cantități mari de date sensibile, organizațiile trebuie să acorde prioritate confidențialității datelor și să adere la cerințele de reglementare. Aceasta include implementarea tehnicilor de anonimizare a datelor, asigurarea de protocoale securizate de acces la date și luarea în considerare a procesării locale a datelor pentru a minimiza riscul de încălcare a datelor și pentru a asigura conformitatea cu legile privind protecția datelor.

Mai simplu, organizațiile care doresc să consolideze protocoalele de securitate și să îmbunătățească experiența utilizatorului nu pot ignora complexitatea confidențialității datelor și considerentele etice. Nici nu pot ignora faptul că AI poate greși. O rată de eroare de 15% poate să nu arate rău pe hârtie, cu toate acestea, atunci când aveți de-a face cu date sensibile, acest lucru ar putea duce la daune financiare și reputaționale semnificative.