Trans autovadītāji tiek bloķēti no saviem Uber kontiem

Uber, iespējams, vēlas izmantot jaunākās tehnoloģijas, cenšoties iegūt dominējošo stāvokli uz ceļa, taču nesenais incidents, kurā iesaistīts transpersonas autovadītājs un kopbraukšanas lietotnes sejas atpazīšanas drošības funkcija, atklāj vienu no daudzajām nepilnībām, kas saistītas ar paļaušanos uz datoru algoritmiem. Dženija Veba, trans-Uber autovadītāja Aiovas štatā, pagājušajā mēnesī tika izslēgta no lietotnes, jo funkcija viņu neatpazina, kā rezultātā viņa zaudēja darba un ienākumu dienas. CNBC ziņo .

Uber sejas atpazīšanas sistēma, Reāllaika ID pārbaude , kas tika izlaista 2016. gada septembrī, un autovadītājiem ir jāiesniedz periodiski pašbildes, lai pārbaudītu savu identitāti. Izmantojot Microsoft kognitīvos pakalpojumus, drošības līdzeklis salīdzina pašbildi ar vadītāja fotoattēlu, ko Uber saglabā failā (tiek nodrošināts vadītāja reģistrācijas un sākotnējās verifikācijas procesa laikā ar lietotni), un uz laiku aptur vadītāja konta darbību, ja fotoattēli nesakrīt. .

Tas izklausās pēc lieliskas drošības funkcijas, ja vien, kā tas ir Veba gadījumā, jūs neesat transpersona un pašlaik notiek pāreja. CNBC ziņo, ka Veba sāka strādāt Uber 2017. gada oktobrī, aptuveni tajā pašā laikā, kad viņa sāka pāreju. Viņas izskata izmaiņas galu galā izvirzīja sarkano karogu reāllaika ID pārbaudes algoritmā.

Veba pastāstīja CNBC, ka viņa ir veikusi pasākumus, lai rūpīgi dokumentētu savu pāreju lietotnē, lai izvairītos no problēmām ar drošības līdzekli un informētu potenciālos pasažierus. Bet ar to nepietika. Tieši pirms bēdīgi intensīvās satiksmes ceturtās jūlija nedēļas nogales Vebas konts tika iesaldēts, un viņa tika aicināta divas stundas braukt uz Uber vienīgo klātienes atbalsta centru Aiovas štatā, lai atrisinātu problēmu. Viņai esot teikts, ka problēma varētu atkārtoties.

'Nevar sagaidīt, ka transpersona atjaunina savu licenci ik ​​pēc trim mēnešiem, lai izvairītos no deaktivizēšanas,' CNBC sacīja Vebs. Uber vēl nav atbildējis uz viņu komentāru pieprasījumu.

Tomēr bez Uber Webb problēma ar reāllaika ID pārbaudi skar pieaugošās bažas par sejas atpazīšanas tehnoloģiju un datoru algoritmu nākotni kopumā, kas kopumā nav ietekmējušas marginalizētās kopienas. Google sadarbojās ar GLAAD, lai palīdzēt izveidot LGBTQ iekļaujošu AI pēc tam, kad atklāju, ka tādi nekaitīgi vārdi kā es esmu gejs automātiski tiek reģistrēti kā negatīvi, kad lietotāji publicēja ziņas sociālo mediju platformās, piemēram, Twitter un Facebook.

Pagājušajā gadā strīdi izcēlās, kad transpersonas YouTube lietotāji atklāja, ka pētnieki, kas strādā pie sejas atpazīšanas tehnoloģijas bija izmantojuši savus videoklipus sniegt datus AI, lai palīdzētu tai iemācīt atpazīt to cilvēku sejas, kuriem tiek veiktas medicīniskās pārejas. Tas tika darīts bez YouTube lietotāju ziņas vai piekrišanas.

Daudzi cilvēki marginalizētās kopienās joprojām ir aizdomīgi pret AI un sejas atpazīšanas tehnoloģiju kopumā. Pagājušā gada septembrī Stenfordas universitātes ziņojums, kurā teikts, ka sejas atpazīšanas tehnoloģija var identificēt kādu kā LGBTQ+, izraisīja domstarpības gan attiecībā uz, iespējams, kļūdaini atklājumi ziņojumā un par domu, ka šo tehnoloģiju varētu izmantot LGBTQ+ cilvēku izslēgšanai.

Akadēmiķi, piemēram, Masačūsetsas Tehnoloģiju institūta profesore Sherry Turkle, teica intervija ar NBC OUT ka dīvaini cilvēki būtu pareizi pret šādu sejas atpazīšanas tehnoloģiju skeptiski. Šo informāciju varētu izmantot, lai palīdzētu valdībām izveidot LGBTQ+ personu reģistrāciju dažas valstis jau izpilda.

'Pirmkārt, kam pieder šī tehnoloģija un kam ir rezultāti?' Tērkls teica. 'Problēma tagad ir tāda, ka 'tehnoloģija' ir populāra frāze, kas patiešām nozīmē 'prece'. Tas nozīmē, ka jūsu tehnoloģija var noteikt manu seksualitāti, skatoties uz manu seju, un jūs varat pirkt un pārdot šo informāciju sociālās kontroles nolūkos.

Ētikas debates par šo tehnoloģiju, visticamāk, turpinās uzkarst, jo tādas funkcijas kā reāllaika ID pārbaude kļūs par ierastu lietu. Vebas konta darbības apturēšana būtiski ietekmēja viņas ienākumus, un viņa nebūs pēdējā transpersona, kurai ir šāda pieredze. AI aug strauji, veidojot kumulatīvos datus, kuru atgriešanās un izmaiņas laika gaitā kļūs tikai grūtāk. Taču šķiet, ka abās sagrāves pusēs valda vienprātība par vienu lietu: sekām marginalizētajiem cilvēkiem jābūt priekšā un centrā.