Uber: prepoznavanje lica sprječava vozače da pristupe njihovim računima u Indiji

U Indiji, vozači Ubera tvrde da ih je sistem za otključavanje prepoznavanja lica u aplikaciji koštao posla. U istraživanju koje je sproveo MIT Technology Review nad 150 vozača Ubera u zemlji, skoro polovina njih tvrdi da im je pristup aplikaciji suspendovan, privremeno ili trajno, nakon problema u vezi sa identifikacijom putem selfija. Mnogi sumnjaju da je promjena u njihovom fizičkom izgledu – kao što je obrijana glava, izrasla brada ili nova frizura – koja uzrokuje bubu. Kod četvrtine njih blokada je povezana sa lošim osvetljenjem prilikom snimanja fotografije.

Indija se računa oko 600.000 Uberovih vozača. Mnogi drugi surađuju s lokalnom platformom za zajedničko korištenje automobila Ola i za start-upove kao što su Swiggy, Zomato i Urban Compagny. Sve ove kompanije traže od svojih zaposlenih, kao mjeru sigurnosti, da naprave selfi kako bi otključali pristup svom računu.

Uber provjerava da li lice vozača odgovara onome što kompanija ima u evidenciji pomoću programa pod nazivom "Provjera ID-a u stvarnom vremenu". Uveden je u Sjedinjene Američke Države 2016. godine, u Indiji godinu dana kasnije, a potom i na drugim tržištima. “Ovaj sistem sprečava prevare i štiti račune vozača od hakovanja. Također štiti vozače ugradnjom još jednog sloja zaštite u aplikaciju kako bi se osiguralo da je prava osoba za volanom”, rekao je Joe Sullivan, glavni službenik za sigurnost u Uberu, u saopštenje za javnost datira iz 2017.

PROČITAJTE TAKOĐE

Poput Amazona, kineski gigant Tencent razvija uslugu plaćanja otiskom dlana

Međutim, procedure provjere vozača u kompaniji su daleko od transparentne. Adnan Taqi, vozač Ubera koji živi u Mumbaiju, imao je problema s ovim procedurama kada ga je aplikacija zamolila da napravi selfi nakon mraka. Njegov račun je bio blokiran 48 sati, što je u velikoj mjeri poremetilo njegovu aktivnost. Kaže da vozi 18 sati ravno, a ponekad i 24 sata, da bi zaradio za život. Nekoliko dana kasnije napravio je selfi zbog čega mu je nalog ponovo suspendovan. Bilo je zaglavljeno cijelu sedmicu. Adnan Taqi smatra da je ovoga puta u pitanju dlakavost koja je izazvala suspenziju: "Nisam se brijao nekoliko dana, a i kosa mi je lagano narasla", kaže on.

Drugi kažu da su imali poteškoća da se identifikuju zbog ogrebotina na kameri svog telefona ili zbog jeftinog pametnog telefona niskih performansi. Problem koji nije jedinstven za Uber. Vozači koji rade sa platformom za zajedničko korištenje automobila Ola, koju podržava japanska grupa Softbank, suočavaju se sa sličnim problemima.

Uber se brani od bilo kakve zloupotrebe suspenzije

Kontaktiran od strane MIT Technology Review, Uber je rekao da se deaktivacija ne može dogoditi samo na temelju problema prepoznavanja lica. Kompanija je pojasnila da je pomoću sistema za provjeru ID-a u realnom vremenu moguće prenijeti fotografije na najmanje dva ljudska agenta koji ručno provjeravaju fotografije. Ovaj proces traje manje od 25 sekundi. Osim toga, Uber osigurava da njegov alat može uzeti u obzir promjene frizure.

Međutim, više od deset vozača intervjuisanih za ovaj članak reklo je da moraju pronaći bolje osvjetljenje prije snimanja selfija kako bi izbjegli blokiranje Uber računa. "Svaki put kada Uber zatraži selfie uveče ili noću, moram da se zaustavim i stanem ispod stuba lampe da bih napravio jasnu sliku ili rizikujem da budem suspendovan", kaže Santosh Kumar, vozač Ubera u Hyderabadu.

"Provjera ID-a u stvarnom vremenu počinje pretvaranjem vašeg lica u skup tačaka", kaže Jernej Kavka, nezavisni tehnološki konsultant s pristupom Microsoftovom Face API-ju, koji Uber koristi za verifikaciju ID-a u stvarnom vremenu.

“Kod prevelike dlake na licu, tačke se mijenjaju i sistem možda neće prepoznati gdje je brada”, ističe on. Ista stvar se dešava kada je osvetljenje loše ili kamera telefona nema dobar kontrast. "Tada je kompjuteru teško da otkrije ivice", precizira nezavisni konsultant.

PROČITAJTE TAKOĐE

AI ovog startupa dovoljno je pametan da vozi različite vrste autonomnih vozila

U Indiji bi softver mogao biti posebno krhak. U decembru 2021., Smriti Parsheera (član CyberBRICS projekta) i Gaurav Jain (ekonomista Međunarodne finansijske korporacije), istraživači tehnološke politike, objavili su preliminarnu studiju koji je testirao i verifikovao performanse četiri komercijalna alata za obradu lica (Amazon Rekognition, Microsoft Azure Face, Face++ i FaceX) na indijskim licima. Kada je softver primijenjen na bazu podataka od 32.184 izbornih kandidata, Microsoftovo lice nije uspjelo čak ni otkriti prisustvo lica na preko 1.000 slika sa stopom greške od preko 3% – najgore od četiri.

Za vozače, apeli da se ospori suspenzija kod Ubera su dugi i frustrirajući

Prema Smriti Parsheeri, aplikacija Uber možda neće otkriti vozače jer njen softver nije obučen za širok spektar lica Indijanaca. Međutim, ona dodaje da i drugi problemi mogu doći u igru: „Moglo bi postojati niz drugih faktora koji doprinose kao što su osvetljenje, ugao snimka, efekti starenja, itd.“ objašnjava ona. I da dodam: „Ali nedostatak transparentnosti oko upotrebe ovih sistema otežava pružanje konkretnijeg objašnjenja“.

Uber kaže da redovno provodi testiranje pravednosti (interno i eksterno, kroz partnerstvo s Microsoftom) kako bi shvatio kako ovaj alat radi s različitim korisnicima na osnovu njihove boje kože i identificirao načine za poboljšanje njegove efikasnosti ili tačnosti. Kada je kontaktiran, Microsoft je odbio da odgovori na pitanja iz MIT Technology Review.

Problemi se ne završavaju odlukom algoritma. Vozači kažu da je mehanizam žalbe za sporove sa Uberovim uslugama dosadan, dugotrajan, frustrirajući i uglavnom nepotreban. Kažu da ponekad provedu sedmice pokušavajući riješiti svoje probleme. “Moramo stalno zvati njihovu dežurnu liniju prije nego što nam deblokiraju račune. Sistematski nam govore da server ne radi”, kaže Adnan Taqi, ogorčeni – ali prije svega fatalistički – tamnokosi muškarac. "Kao da im server uvijek ne radi."

PROČITAJTE TAKOĐE

Električni terenci su također problem u suočavanju s klimatskom krizom

Uber jednostavno odgovara da nudi vozačima priliku da se žale na suspenziju naloga.

Ako problemi potraju – a zaštita ostane ograničena – mogli bi imati nesrazmjerne posljedice i to ne samo na rad. „Platforme rada u Indiji počinju da postaju ključno sučelje za radnike, tržište i vladu – daju zajmove za automobile ili čak kredite za veće troškove domaćinstva“, kaže istraživačica Aditi Surie, direktorica Indijskog instituta za ljudska naselja , koja je provela istraživanje o timskom radu u Indiji. U zemlji u kojoj ovakva vrsta posla može katapultirati osobu iz nesigurnosti u egzistenciju srednje klase (posebno jer se procjenjuje da većina onih koji su zapali u siromaštvo tokom pandemije živi u Indiji), zaglavljivanje ili izbacivanje sa platforme može imaju razorne posledice.

U Velikoj Britaniji, Uber se suočio s najmanje dvije tužbe

Drugdje u svijetu samozaposleni su se branili od upotrebe prepoznavanja lica. U Velikoj Britaniji, na primjer, najmanje 35 vozača Ubera tvrdilo je prošle godine da su im računi neopravdano suspendovani. Nezavisni radnički sindikat Velike Britanije osudio je " rasistički algoritam“. Uber se suočio s najmanje dvije tužbe u Velikoj Britaniji zbog ovog softvera. Kompanija ističe da u Velikoj Britaniji i EU vozači mogu da biraju da li će njihov selfi biti verifikovan tehnologijom ili ljudskim agensima.

Neke zemlje su preduzele korake kako bi osigurale bolju zaštitu samozaposlenih. Evropska unija je prošle godine predložila direktivu za poboljšanje uslova rada i osiguranje transparentnosti algoritama. U septembru 2021. sud u Kaliforniji je oborio prijedlog 22, izborna inicijativa koja nije omogućila samozaposlenim da koriste socijalna davanja predviđena državnim zakonom. Ovi propisi priznaju da algoritamski sistemi mogu "imati negativan uticaj na prava radnika", objašnjava Divij Joshi, pravnik i doktorant na Univerzitetskom koledžu u Londonu. Ali Indija trenutno ima malo pravne zaštite za samozaposlene, rekao je: "Ovi isti napori u pogledu transparentnosti se u Indiji ne vide iz perspektive politike ili regulative."

Elizabeth Anne Watkins, organizacijskoj sociologinji sa Univerziteta Princeton koja je opširno proučavala utjecaj prepoznavanja lica na vozače Ubera u Sjedinjenim Državama, vjerojatno bi taj obrazac bio poznat. „Sklon kvarovima u različitim uslovima, sistem stavlja težak teret na radnike koji imaju malo organizacijske podrške kada prepoznavanje lica ne uspije“, napisao je sada istraživač u Intelovim laboratorijama u članku iz 2020. Nadalje, odgovornost za provjeru identiteta prebacuje se na radnike koji snose posljedice sistemskih propusta.

Samantha Dalal, koja proučava kako radnici razumiju algoritamske sisteme, kaže da bi moglo biti više transparentnosti o tome kako je umjetna inteligencija donijela odluku. "Uključujući objašnjenje koje ide dalje od 'Vaš račun je blokiran' bilo bi od pomoći", kaže ona. I da dodam: “Takvi kapaciteti postoje”.

Bez odgovora od svog neljudskog, trgovačkog šefa, slobodnjaci rade mnogo pokušaja i grešaka u interakciji s aplikacijama, kaže Samantha Dalal. U mejlu Uber navodi da je kalifornijska kompanija poslala nekoliko jasnih upozorenja prije suspendovanja naloga.

Članak Varsha Bansal, preveo s engleskog Kozi Pastakia. Ovaj članak je napisan uz podršku mreže AI Accountability Network Politzer Centra.

PROČITAJTE TAKOĐE

Mogu li naši pametni telefoni pomoći u smanjenju rizika od urušavanja mostova?