Můj obličej patří mně

V čem je problém?

Sledování kamerovými systémy přechází do nové fáze. Klasické kamery, dosud pouze zaznamenávající obraz, se mění ve složité nástroje detekce či identifikace. Lidská obsluha je nahrazována algoritmy umělé inteligence. Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky atd. Zejména využití biometrické identifikace u lidí považujeme za oblast primární pozornosti nejen vzhledem k citlivosti dat, s nimiž pracuje, ale i vzhledem k možným negativním dopadům.

Co přesně nám na kamerách pracujících s biometrickými údaji vadí? 

Předně, může jít o základ infrastruktury pro budoucí automatizované hodnocení lidí ve všech aspektech jejich života (např. napojení na údaje o platbách, cestách apod.) a sociální kontrolu po vzoru čínského kreditového systému. Zkušenosti hovoří jasně: to, co dnes vypadá jako sci-fi scénář, se může zrealizovat během velmi krátké doby.

Při sledování dochází k obrovskému objemu zpracovávaných biometrických dat: nejde přitom jen o data hledaných osob, ale všech, jejichž tváře jsou technologiemi vyhodnocovány. Nejsou záruky, že nashromážděná data o pohybu a chování masy konkrétních  lidí nejsou nebo nebudou dál využívána nejrůznějšími způsoby – pokušení je velké.

Nespolehlivost systémů: biometrická identifikace je překvapivě málo neprůstřelná což potvrzují závěry odborníků. Nesprávná identifikace může ovšem mít pro konkrétní lidi vážné důsledky – od nevpuštění na sportovní utkání až po falešné trestní obvinění. Technologie fungující za systémy budí jednak falešný pocit spolehlivosti, jednak následnými rozhodnutími bez lidského prvku mohou omezit práva člověka bez možnosti účinné obrany. Biometrické kamery mají časté falešné shody či naopak malou spolehlivost (falešná pozitivita i negativita). Že ani v naléhavých případech nemusí robustní systémy biometrických kamer usnadnit dopadení pachatele, dokazuje brutální útok na číšníka v centru Prahy v roce 2018, kdy útočníky ve stejnou chvíli jako kamery rozpoznali obyčejní cestující.

Umělá inteligence systémů je často špatně natrénována – hrozí tak zasednutí na lidi s určitými znaky. Bez korekce lidským zdravým rozumem tak mohou být jako podezřelí vyhodnoceni lidé s pomalejší chůzí či tmavou barvou pleti. Navázání sledovacího systému na automatizované rozhodnutí např. o přístupu na určité místo či o uložení pokuty pak citelně omezuje práva takto vybraných lidí s určitými znaky. Na tuto skutečnost upozornili v otevřeném dopise například vědci zabývající se vývojem softwaru.

Masové sledování veřejného prostoru a pocit neustálého dohledu neviditelným Velkým bratrem nezdravě mění chování lidí – mohou mít obavy navštívit nějakou akci či prostor, pokojně demonstrovat či vyjádřit názor (viz tzv. chilling effect). Množí se účelová chování na obelstění (ne až tak chytré) technologie (viz článek Jak obelstít Velkého bratra).


Jak jsme na tom v Česku? V červenci 2023 jsme zjistili, že policie již téměr rok využívá software na rozpoznávávní tváří. Systém kamer s biometrickými funkcemi na pražském letišti. Podle nás nelegálně – čekáme na vyjádření Úřadu pro ochranu osobních údajů.

Je průběžně uvažováno o zavádění dalších systémů na území Prahy. Naposledy (léto 2023) se objevily informace o biometrice na Pražském hradě. Týdeník Euro přinesl informaci, dle které na podzim 2020 zástupci policie oznámili, že od společnosti Cogniware koupili špičkový recognition software. Do jaké míry. Technologie podobná té v Číně v Česku již je.

Využití biometrických kamerových systémů se aktuálně opírá pouze o velmi vágní ustanovení zákona o policii psané v době analogových kamer – dostatečná zákonná úprava chybí.  O plošné sledování chytrými kamerami se pokoutně pokusila již BIS v případě sledování automobilů a jejich posádek vpašováním do systémů kontroly dálničních známek.

Souvisejícím, ale ještě hůře postižitelným problémem, jsou pak databáze obličejů jako PimEyes či ClearView. I s těmi se dá v Česku aktivně pracovat.

Co navrhujeme?

V rámci evropské sítě nevládních organizací European Digital Rights (EDRi) jsme spustili petici #ReclaimYourFace, jejíž českou verzi Můj obličej patří mně bylo možné podepsat v Česku až do sprna 2022. Petice byla označena jako „historicky nejvlivnější občanská iniciativa“ a měla dopad na aktuální vyjednávání evropské legislativy, v rámci kterého nadále usilujeme o přijetí celoevropské regulace biometrické identifikace ve veřejném prostoru. Zvažujeme také možnost iniciovat změnu v zákoně o Policii ČR či v zákoně o obecní policii, která by plošnému sledování s biometrikou dala meze.

V odborné studii jsme zmapovali systémy biometrické identifikace fungující v ČR, včetně nastavení jejich pojistek proti zneužití a úniku dat. Na tuto velkou studii jsme v červnu 2022 navázali seminářem v Poslanecké sněmovně, jehož záznam je k dispozici zde: Jakou potřebujeme regulaci využívání metod rozpoznávání tváří ve veřejném prostoru? (21. června 2022). K dispozici je případně i na YouTube.

Víme, že podložené argumenty fungují – v roce 2020 jsme radní na Praze 1 přesvědčili, že finance na podporu biometrických systémů v bytových domech nejsou dobrý nápad. O rizicích biometrické identifikace šíříme informace mezi veřejností, bezpečnostními složkami i odborníky.

19. 4. 2023 / Akt EU o umělé inteligenci: proč chceme přísnout regulaci masového biometrického dohledu?
1. 9. 2022 / TZ: evropská petice proti kamerám rozpoznávající tváře je u konce. „historicky nejvlivnější občanská iniciativa,“ říkají někteří
29. 6. 2022 / Petici ReclaimYourFace podepisují lidé i na ulici: koukněte na video
9. 6. 2022 / Zveme na seminář o kamerách na rozpoznávání tváří
1. 2. 2022 / Petice za zákaz biometrických kamer přechází do offline fáze: buďte u toho
30. 11. 2021 / TZ: Kamery rozpoznávající tváře na letišti v Praze. Jsou v souladu se zákonem?
14. 7. 2021 / V pražském metru došlo během pandemie k umístění několika stovek kamer
16. 6. 2021 / Video: bude v Česku #PaperBagSociety?
7. 6. 2021 / „Zakažme masové biometrické sledování,“ volají organizace z celého světa
25. 4. 2021 / Kolem biometrického dohledu je živo
15. 2. 2021 / Kamerové systémy na rozpoznávání obličeje (Český rozhlas Dvojka)
12. 2. 2021 / Biometrika jako rozjetý vlak, který je potřeba zastavit (komentář)
4. 2. 2021 / Kamerové systémy na rozpoznávání obličejů ohrožují naše práva a svobody, tvrdí analýza (tisková zpráva)