Atunci când explorăm locuri noi, recenziile de pe Google Maps sunt acele informații „a la terre” ce ne pot ajuta să găsim locul potrivit – un restaurant, un loc cu muzică live sau un obiectiv turistic.
În fiecare zi, oameni din toată lumea publică milioane de recenzii pe Google, de aceea efortul de a menține informația relevantă și exactă este unul non-stop. Cea mai mare parte a muncii de prevenire a conținutului nepotrivit în recenzii este realizată în „în spatele scenei”. Google ridica cortina și prezintă ce se întâmplă după ce este apăsat butonul „publică” al unei recenzii.
Crearea și aplicarea politicilor și regulilor
Recenziile sunt guvernate de politici stricte de conținut. Google se asigură astfel că recenziile au la bază experiențe reale și nu permite apariția comentariilor irelevante și jignitoare pe Google Business Profiles. Aceste politici evoluează odată cu lumea din jurul nostru, pentru a proteja locurile și afacerile de conținut jignitor sau off-topic, atunci când există un potențial risc de abuz. De exemplu, o astfel de situație a apărut atunci când guvernele și afacerile au început să ceară dovada vaccinării anti-COVID pentru accesul în anumite locuri. În acest caz, Google a adăugat reguli suplimentare pentru a înlătura recenziile care criticau afacerile pentru politicile de protecție a sănătății sau pentru respectarea reglementărilor privind vaccinarea.
Moderarea recenziilor cu ajutorul machine learning
După ce o persoană scrie o recenzie, ea este automat trimisă în sistemul Google de moderare, pentru a verifica dacă aceasta respectă sau nu politicile care guvernează recenziile. Putem vedea acest sistem de moderare ca pe un agent de securitate care oprește intrarea în clădire a persoanelor neautorizate – în cazul nostru, agenții de securitate opresc publicarea conținutului nepotrivit pe Google.
Ținând cont de volumul mare de recenzii primit în orice moment, este nevoie atât de înțelegerea nuanțată a oamenilor, cât și de capacitatea de scalare pe care o oferă mașinile, pentru a modera conținutul adăugat de utilizatori. Fiecare sistem are punctele lui forte, iar Google investește enorm în amândouă.
Mașinile sunt în prima linie a apărării pentru că sunt foarte eficiente în identificarea modelelor. Acestea ajută mașinile să valideze sau nu conținutul. În acest fel, majoritatea conținutului fals sau incorect este eliminat înainte de a fi publicat și citit. Computerele analizează recenziile din mai multe unghiuri, precum:
- Conținut: Recenzia cuprinde conținut off-topic sau jignitor?
- Contul de pe care s-a scris recenzie: Are antecedente de comportament suspect?
- Locul recenzat în sine: A fost observată activitate necaracteristică acestuia, precum o creștere rapidă a numărului de recenzii într-o perioadă scurtă de timp? A generat atenție recent prin apariție în știri sau social media, ceea ce ar explica un val de recenzii incorecte?
Pregătirea unui computer să facă diferența între ce este acceptabil și conținutul care încalcă regulile necesită un echilibru delicat. De exemplu, uneori cuvântul „gay” este folosit cu sens peiorativ, lucru care nu este tolerat în recenziile Google. Dacă modelele Google de machine learning ar lua doar acest context pentru cuvântul „gay”, atunci spațiile legate de comunitatea LGBTQ+ ar avea de suferit. Prin adaptarea modelelor de înțelegere a modurilor în care anumite cuvinte sau fraze sunt utilizate, Google îmbunătățește capacitatea sistemului de a opri conținutul care încalcă regulile și reduce șansele de a bloca în mod greșit recenziile îndreptățite de a fi publicate.
Dacă sistemul Google nu identifică nicio încălcare a politicilor, recenzia este publicată în câteva secunde. Însă analiza nu se oprește odată cu publicarea recenziei. Sistemele Google continuă să analizeze conținutul adăugat de utilizatori și urmărește apariția de modele îndoielnice. Acestea pot fi orice: de la un grup de persoane care lasă comentarii pentru același grup de profile de business, până la o afacere sau un loc care primesc un număr ciudat de mare de recenzii de 1 sau 5 stele într-o perioadă scurtă de timp.
Recenzii autentice și de încredere
Parte a efortului de a preveni abuzurile în recenziile de pe Google Maps o constituie posibilitatea oamenilor de a raporta orice recenzie care încalcă politicile. Oricine crede că vede o recenzie de acest fel pe Google Maps este încurajat să o raporteze.
Echipa de operatori umani este activă oricând și analizează conținutul raportat. Când identifică recenzii care încalcă regulile, acestea sunt eliminate și, în unele cazuri, este suspendat contul utilizatorului care le-a scris sau chiar este posibilă deschiderea unui litigiu.
Pe lângă analiza recenziilor raportate, echipa umană identifică proactiv riscuri de abuzuri potențiale, pentru a reduce posibilitatea unui succes a acestora. De exemplu, când urmează un eveniment care va stârni un interes semnificativ – precum alegerile, Google implementează sisteme suplimentare de protecție pentru locurile asociate evenimentului și alte afaceri pe care oamenii ar putea să le caute pe Maps. Google continuă să monitorizeze aceste locuri și afaceri până când riscul de abuz scade, obiectivul fiind același: de a publica doar recenzii autentice și de încredere.
Investiția Google în analiza și înțelegerea modului în care conținutul contributorilor poate fi abuzat a fost esențială pentru a ne menține cu un pas înaintea actorilor rău intenționați. Cu peste 1 miliard de persoane care intră pe Google Maps în fiecare lună pentru a naviga sau explora, Google se asigură că informațiile pe care oamenii le văd – în special recenziile – sunt de încredere.