Trans voznikom zaklepajo svoje račune Uber

Uber bi morda želel sprejeti najsodobnejšo tehnologijo v svojem prizadevanju za prevlado na cesti, toda nedavni incident, v katerem je bil transspolni voznik in varnostna funkcija za prepoznavanje obrazov aplikacije rideshare, razkriva eno od številnih pasti zanašanja na računalniške algoritme. Janey Webb, trans Uber voznik v Iowi, se je prejšnji mesec znašla brez dostopa do aplikacije, ker je funkcija ni prepoznala, zaradi česar je zamudila dneve dela in dohodka, poroča CNBC .



Uberjev sistem za prepoznavanje obrazov, Preverjanje ID-ja v realnem času , ki je bil uveden septembra 2016 in od voznikov zahteva, da občasno predložijo selfije, da preverijo svojo identiteto. Z uporabo Microsoft Cognitive Services varnostna funkcija primerja selfie s fotografijo voznika, ki jo Uber hrani v evidenci (zagotovljeno v času registracije voznika in postopka začetnega preverjanja z aplikacijo), in začasno blokira voznikov račun, če se fotografije ne ujemajo. .

To se sliši kot dobra varnostna funkcija, razen če, kot v Webbovem primeru, ste trans in ste v procesu prehoda. CNBC poroča, da je Webb začela delati za Uber oktobra 2017, približno v istem času, ko je začela prehod. Spremembe njenega videza so sčasoma dvignile rdečo zastavo v algoritmu preverjanja ID-ja v realnem času.



Webb je za CNBC povedala, da je sprejela ukrepe za skrbno dokumentiranje svojega prehoda v aplikaciji, da bi se izognila težavam z varnostno funkcijo in obveščala morebitne potnike. Toda to ni bilo dovolj. Tik pred razvpito prometno velikim četrtim julijskim vikendom je bil Webbov račun zamrznjen in bila je pozvana, da se je dve uri odpeljala do edinega Uberjevega centra za osebno podporo v Iowi, da bi rešila težavo. Rekli so ji menda, da bi se problem lahko znova pojavil.



'Ne moremo pričakovati, da bo trans oseba posodobila svojo licenco vsake tri mesece ali tako, da bi se izognila deaktivaciji,' je povedal Webb za CNBC. Uber še ni odgovoril na njihovo prošnjo za komentar.

Poleg Uberja pa se Webbova težava s preverjanjem ID-ja v realnem času dotika naraščajoče skrbi glede prihodnosti tehnologije za prepoznavanje obrazov in računalniških algoritmov na splošno, ki na splošno niso predstavljali marginaliziranih skupnosti. Google je sodeloval z GLAAD za pomagati zgraditi umetno inteligenco, ki vključuje LGBTQ potem ko sem odkril, da so neškodljivi izrazi, kot je I'm gay, samodejno registrirani kot negativni, ko so uporabniki objavljali na platformah družbenih medijev, kot sta Twitter in Facebook.

Lani je izbruhnila polemika, ko so transspolni youtuberji odkrili, da raziskovalci, ki delajo na tehnologiji prepoznavanja obrazov uporabljali njihove videoposnetke zagotoviti podatke za umetno inteligenco, da jo naučijo prepoznati obraze ljudi, ki so podvrženi zdravstveni prehodi. To je bilo storjeno brez vednosti ali privolitve YouTuberjev.



Mnogi ljudje v marginaliziranih skupnostih ostajajo sumničavi do umetne inteligence in tehnologije za prepoznavanje obrazov na splošno. Septembra lani je poročilo univerze Stanford, ki trdi, da bi tehnologija za prepoznavanje obrazov lahko nekoga identificirala kot LGBTQ+, povzročilo polemiko, tako za domnevno napačne ugotovitve v poročilu in za idejo, da bi tehnologijo lahko uporabili za izgon LGBTQ+ ljudi.

Akademiki, kot je Sherry Turkle, profesorica na Massachusetts Institute of Technology, je v intervju za NBC OUT da bi bili queer ljudje prav, če bi takšno tehnologijo za prepoznavanje obrazov sprejeli s skepticizmom. Podatke bi lahko uporabili za pomoč vladam pri izdelavi registracij LGBTQ+ oseb, kar je poteza nekatere države se že izvajajo.

'Najprej, kdo je lastnik te tehnologije in kdo ima rezultate?' je rekel Turkle. 'Težava je zdaj v tem, da je 'tehnologija' izraz, ki v resnici pomeni 'blago.' To pomeni, da lahko vaša tehnologija razloči mojo spolnost iz pogleda v moj obraz, vi pa lahko kupujete in prodajate te informacije z namenom družbenega nadzora.'

Etična razprava o tej tehnologiji se bo verjetno še naprej segrevala, saj funkcije, kot je preverjanje ID-ja v realnem času, postanejo običajne. Zaustavitev Webbovega računa je bistveno vplivala na njen dohodek in ne bo zadnja trans ženska, ki bo imela takšno izkušnjo. Umetna inteligenca hitro raste in pri tem gradi kumulativne podatke, ki jih bo sčasoma le težje vrniti in spreminjati. Toda na obeh straneh debakla se zdi, da obstaja soglasje o eni stvari: posledice za marginalizirane ljudi bi morale biti v ospredju.