Těhotná žena byla neprávem zatčena kvůli chybě rozpoznávání obličeje

Začátkem tohoto roku v únoru byla před svým domem v Detroitu v Michiganu zatčena těhotná žena za loupež a krádež auta. Později toho dne byla údajně propuštěna na osobní kauci 100 000 dolarů. O šest měsíců později, 3. srpna, podal právník Porchy Woodruffové žalobu za neoprávněné zatčení detroitskou policií, která k nalezení možných viníků používá software pro rozpoznávání obličeje poháněný umělou inteligencí. Ukázalo se, že software neprávem identifikoval Woodruffovou jako možného podezřelého.

Woodruffová řekla, že trpěla kontrakcemi, ostrými bolestmi, křečemi a záchvaty paniky, když zůstala v cele. Po propuštění byla okamžitě převezena do nemocnice, kde jí byla diagnostikována dehydratace a dostala intravenózně dva sáčky tekutin.

Lze se na software pro rozpoznávání obličeje spolehnout?

Detroitská policie používá software střídmě, odhaduje se, že bude použit přibližně 125krát ročně. Podle manuální směrnice týkající se používání technologie rozpoznávání obličeje může být software „používán pouze tehdy, existuje-li důvodné podezření, že takové použití poskytne informace relevantní pro aktivní nebo probíhající vyšetřování násilného zločinu nebo vyšetřování vloupání“.

Software funguje tak, že oddělení žádá svého dodavatele rozpoznávání obličejů (DataWorks Plus), aby porovnal neznámé tváře s databází kriminálních záběrů. Systém pak spustí tyto mugshoty a poskytne seznam hodnocených výsledků zpět policii na základě pravděpodobnosti, že jde o stejnou osobu. Nakonec lidský analytik probírá fotografie a rozhoduje o potenciálních podezřelých.

Poté se stěžovatel podívá na uvedené shody a identifikuje pachatele. Ze šesti černošek uvedených policií oběť identifikovala fotografii Woodruffové, která byla základem jejího zatčení, i když neoprávněného. The New York Times uvedl, že Woodruffová byla zatčen před osmi lety za řízení s prošlým řidičským průkazem a záběr z tohoto zatčení byl v policejních záznamech. Woodruffové snímek z roku 2015 se shodoval s obrázkem podezřelého, který byl sejmut ze záběrů veřejných kamer.

Obavy o bezpečnost a soukromí

I když technologie rozpoznávání obličeje může pomoci při rychlém dopadení padoucha, nemusí být nutně přesná. Podle zprávy The New York Times jde o třetí případ neoprávněného zatčení detroitskou policií v roce 2023.

Podle detroitské rady policejních komisařů, civilní dozorčí skupiny, se letos 125 vyhledávání obličejů tohoto oddělení zaměřilo většinou na černochy. Detroit je většinou černošské město a podle údajů ze sčítání lidu z roku 2020 je to také nejvíce rasově segregované město v USA.

Společnost Clearview AI, která je jednou z nejmocnějších společností na světě pro rozpoznávání obličejů, provedla téměř milion vyhledávání pro americkou policii. Dosud shromáždila databázi 30 miliard obrázků pomocí platforem sociálních médií. Společnost umožňuje orgánům činným v trestním řízení nahrát fotografii obličeje, aby nalezly shodu ve své databázi, kterou pak propojí s místem, kde se tyto obrázky vyskytují online.

Mnozí vyjádřili obavy ohledně společností a vládních agentur, které otevřeně porušují čtvrtý dodatek pomocí nástrojů hromadného sledování prostřednictvím technologií, jako je rozpoznávání obličeje.

Zdroje:
https://interestingengineering.com/culture/heavily-pregnant-woman-wrongly-arrested-over-a-facial-recognition-error
https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html

Foto: NYT, Pixabay.com