Veido atpažinimo uždraudimo byla



„Google“ mokslininkė paaiškina, kodėl ji mano, kad policija neturėtų naudoti veido atpažinimo programinės įrangos.



Vaizdo įrašas Kinografas

Šis straipsnis yra „On Tech“ naujienlaiškio dalis. Tu gali registruokis čia gauti darbo dienomis.

Veido atpažinimas programinė įranga gali būti labiausiai pasaulyje skaldanti technologija.



Teisėsaugos institucijos ir kai kurios įmonės naudoja jį įtariamiesiems ir aukoms nustatyti, suderindamos nuotraukas ir vaizdo įrašus su duomenų bazėmis, pvz., vairuotojo pažymėjimų įrašais. Tačiau pilietinių laisvių grupės teigia, kad tai yra veido atpažinimas prisideda prie privatumo erozijos , sustiprina šališkumą prieš juodaodžius ir yra linkęs į piktnaudžiavimas .

San Franciskas ir pagrindinis policijos kūno kamerų tiekėjas pirmadienį uždraudė teisėsaugai ir IBM jas naudoti atsitraukė nuo savo darbo šioje srityje. Kai kurie pasiūlymai pertvarkyti policijos departamentus reikalauja sugriežtinti apribojimai apie tai, kaip jie naudoja veido atpažinimą.



Timnit Gebru, „Google“ etiško dirbtinio intelekto komandos lyderė, paaiškino, kodėl ji mano, kad veido atpažinimas yra pernelyg pavojingas, kad jį būtų galima naudoti teisėsaugos tikslais. Tai redaguotos ištraukos iš mūsų virtualios diskusijos Moterų forumas ekonomikai ir visuomenei pirmadienį.

Ovide: Kuo nerimaujate dėl veido atpažinimo?

Naudokite: Bendradarbiauju su Joy Buolamwini prie M.I.T. Media Lab, kuri vadovavo an analizė kurie nustatė labai didelius klaidų lygio skirtumus [veido atpažinimo sistemose], ypač tarp šviesesnės odos vyrų ir tamsesnės odos moterų. Melanomos patikros metu įsivaizduokite, kad yra aptikimo technologija, kuri netinka žmonėms su tamsesne oda.

Taip pat supratau, kad net tobulas veido atpažinimas gali būti naudojamas netinkamai. Esu juodaodė moteris, gyvenanti JAV, susidūrusi su rimtomis rasizmo pasekmėmis. Veido atpažinimas naudojamas prieš juodaodžių bendruomenę. Baltimorės policija per Freddie Gray protestus naudojo veido atpažinimas protestuotojų atpažinimui susiejant vaizdus su socialinių tinklų profiliais.

Tačiau policijos pareigūnas ar liudininkas taip pat gali pažvelgti į stebėjimo filmuotą medžiagą ir kadrus iš puodelio ir klaidingai atpažinti ką nors kaip Jimą Smithą. Ar programinė įranga tikslesnė ar mažiau šališka nei žmonės?

Tai priklauso. Mūsų analizė parodė, kad daugeliui žmonių veido atpažinimas buvo mažiau tikslus nei žmonių.

Kita problema yra tai, kas vadinama automatizavimo šališkumu. Jei jūsų intuicija jums sako, kad vaizdas nepanašus į Smithą, o kompiuterinis modelis jums sako, kad tai jis 99 procentų tikslumu, greičiausiai patikėsite šiuo modeliu.

Taip pat yra galios disbalansas. Veido atpažinimas gali būti visiškai tikslus, tačiau jis vis tiek gali būti naudojamas tam tikroms žmonių grupėms kenksmingu būdu.

Pernelyg didelis pasitikėjimas technologijomis, netinkamas naudojimas ir skaidrumo trūkumas – mes nežinome, kaip plačiai naudojama ši programinė įranga – yra pavojingas.

Policijos kūno kamerų gamintojas neseniai aptarė dirbtinio intelekto naudojimą analizuoti vaizdo medžiagą ir galbūt pažymėti teisėsaugos incidentus peržiūrėti. Koks jūsų požiūris į technologijų naudojimą tokiu būdu?

Mano žarnyno reakcija yra tokia, kad daugelis technologijų žmonių nori pereiti prie technologinio sprendimo, nesiklausydami žmonių, kurie dirbo su bendruomenės lyderiais, policija ir kitais, siūlančiais sprendimus, kaip reformuoti policiją.

Ar matote būdą, kaip atsakingai panaudoti veido atpažinimą teisėsaugai ir saugumui?

Šiuo metu tai turėtų būti uždrausta. Aš nežinau apie ateitį.

Galite žiūrėti visą mūsų pokalbį apie naudingą A.I naudojimą. ir jo minusai čia .


, „The New York Times“ vartotojų technologijų rašytojas, rašo siekdamas paaiškinti, kaip el. laiškai gali nustatyti, kada ir kur spustelite, ir kaip susigrąžinti stebėjimą.

„Google“ „Gmail“ yra tokia populiari iš esmės dėl to, kad jos dirbtinis intelektas veiksmingai filtruoja el. pašto šiukšles. Tačiau tai mažai padeda kovoti su kitu nepatogumu: el. pašto sekimu.

Stebėjimo priemonės yra įvairių formų, pavyzdžiui, nematoma programinės įrangos dalis, įterpta į el. laišką, arba hipersaitas, įterptas tekste. Jie dažnai naudojami aptikti, kada kas nors atidaro el. laišką, ir net asmens buvimo vietą, kai pranešimas atidaromas.

Kai naudojami teisėtai, el. pašto stebėjimo priemonės padeda įmonėms nustatyti, kokio tipo rinkodaros pranešimus jums siųsti ir kaip dažnai su jumis bendrauti. Šiame el. paštu siunčiamame naujienlaiškyje taip pat yra keletas stebėjimo priemonių, padedančių mums gauti įžvalgų apie temas, apie kurias norite skaityti, be kitų metrikų.

Tačiau iš privatumo perspektyvos pašto sekimas gali jaustis nesąžiningai. Jūs nepasirinkote būti stebimas ir nėra paprasto būdo atsisakyti.

Laimei, daugelis el. pašto stebėjimo priemonių gali būti sužlugdytos išjungus vaizdų automatinį įkėlimą į „Gmail“ pranešimus. Štai kaip tai padaryti:

  • Gmail.com viršutiniame dešiniajame kampe ieškokite krumpliaračio piktogramos, spustelėkite ją ir pasirinkite parinktį Nustatymai.

  • Nustatymų lange slinkite žemyn iki Vaizdai. Pasirinkite Klausti prieš rodydami išorinius vaizdus.

Įjungę šį nustatymą, galite neleisti automatiškai įkelti stebėjimo programinės įrangos. Jei pasirinksite, galite sutikti įkelti vaizdus. Tai nesustabdys viso el. pašto sekimo, bet tai geriau nei nieko.

Papildomas techninis patarimas! Kai kurie skaitytojai paprašė daugiau pagalbos nustatant pranešimus įspėti jus apie nesąžiningus kredito kortelės mokesčius . Užsiregistruoti jas nėra lengva, nes, pripažinkime, finansinės svetainės nėra pačios paprasčiausios.

Turimų kredito kortelių programose ir svetainėse šiuos įspėjimus radau meniu, pažymėtuose Profilis ir nustatymai arba Pagalba ir palaikymas. Ieškokite įspėjimų arba pasinerkite į privatumo ir saugos parinktis. Prisiregistruokite, kad gautumėte el. pašto arba programos pranešimą kiekvieną kartą, kai jūsų kortelė naudojama perkant internetu ir telefonu.

Dažniausiai tie pirkiniai yra iš jūsų. Bet jūs norite iš karto žinoti (tikiuosi) retais atvejais, kai taip nėra.


  • Už prokinišką Twitter kampaniją: Mano New York Times kolegų atlikta analizė atskleidė naują ir neabejotinai Kinijai palankų buvimą Twitter tinkle, kurį sudaro paskyrų tinklas, kuriame eksponuojamos iš pažiūros koordinuotas elgesys . Išvados papildo įrodymus, rodančius, kad „Twitter“ yra manipuliuojama siekiant sustiprinti Kinijos vyriausybės pranešimus apie koronavirusą ir kitas temas.

  • Restoranai tikrai nėra šių programų gerbėjai: „Times“ technologijų reporteris paaiškina, kodėl restoranai vis labiau nepatenkinti dideli mokesčiai ir kiti maisto pristatymo paslaugų aspektai, pvz., Grubhub ir Postmates. (Trečiadienio informaciniame biuletenyje apie tai pakalbėsiu su Nathaniel.)

  • Kiekvieno žmonių susibūrimo trūkumai: Kaimynystės socialinis tinklas „Nextdoor“ buvo ir vieta, kur žmonės gali padėti vieni kitiems pandemijos metu, ir būdas kaimynams priekaištauti vieni kitiems dėl numanomų nusikaltimų ar gerbėjų baimių. „The Verge“ rašo apie iššūkius, su kuriais susiduria „Nextdoor“ savanoriai moderuoja diskusijas apie rasę ir pastarųjų protestų.

Apkabinimai tai

NPR popkultūros laimingoji valanda neseniai man pristatė įnoringos mini vaikų istorijos kad rašytoja Anne Louise Avery kuria „Twitter“. .


Norime išgirsti jūsų nuomonę. Pasakykite mums, ką manote apie šį informacinį biuletenį ir ką dar norėtumėte, kad mes išnagrinėtume. Mus galite pasiekti adresu ontech@nytimes.com.

Kiekvieną darbo dieną gaukite šį naujienlaiškį į savo pašto dėžutę; prašome užsiregistruoti čia .