Můj obličej patří mně

V čem je problém?

Sledování kamerovými systémy přechází do nové fáze. Klasické kamery, dosud pouze zaznamenávající obraz, se mění ve složité nástroje detekce či identifikace. Lidská obsluha je nahrazována algoritmy umělé inteligence. Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky atd. Zejména využití biometrické identifikace u lidí považujeme za oblast primární pozornosti nejen vzhledem k citlivosti dat, s nimiž pracuje, ale i vzhledem k možným negativním dopadům.

Co přesně nám na kamerách pracujících s biometrickými údaji vadí? 

Předně, může jít o základ infrastruktury pro budoucí automatizované hodnocení lidí ve všech aspektech jejich života (např. napojení na údaje o platbách, cestách apod.) a sociální kontrolu po vzoru čínského kreditového systému. Zkušenosti hovoří jasně: to, co dnes vypadá jako sci-fi scénář, se může zrealizovat během velmi krátké doby.

Při sledování dochází k obrovskému objemu zpracovávaných biometrických dat: nejde přitom jen o data hledaných osob, ale všech, jejichž tváře jsou technologiemi vyhodnocovány. Nejsou záruky, že nashromážděná data o pohybu a chování masy konkrétních  lidí nejsou nebo nebudou dál využívána nejrůznějšími způsoby – pokušení je velké.

Nespolehlivost systémů: biometrická identifikace je překvapivě málo neprůstřelná což potvrzují závěry odborníků. Nesprávná identifikace může ovšem mít pro konkrétní lidi vážné důsledky – od nevpuštění na sportovní utkání až po falešné trestní obvinění. Technologie fungující za systémy budí jednak falešný pocit spolehlivosti, jednak následnými rozhodnutími bez lidského prvku mohou omezit práva člověka bez možnosti účinné obrany. Biometrické kamery mají časté falešné shody či naopak malou spolehlivost (falešná pozitivita i negativita). Že ani v naléhavých případech nemusí robustní systémy biometrických kamer usnadnit dopadení pachatele, dokazuje brutální útok na číšníka v centru Prahy v roce 2018, kdy útočníky ve stejnou chvíli jako kamery rozpoznali obyčejní cestující.

Umělá inteligence systémů je často špatně natrénována – hrozí tak zasednutí na lidi s určitými znaky. Bez korekce lidským zdravým rozumem tak mohou být jako podezřelí vyhodnoceni lidé s pomalejší chůzí či tmavou barvou pleti. Navázání sledovacího systému na automatizované rozhodnutí např. o přístupu na určité místo či o uložení pokuty pak citelně omezuje práva takto vybraných lidí s určitými znaky. Na tuto skutečnost upozornili v otevřeném dopise například vědci zabývající se vývojem softwaru.

Masové sledování veřejného prostoru a pocit neustálého dohledu neviditelným Velkým bratrem nezdravě mění chování lidí – mohou mít obavy navštívit nějakou akci či prostor, pokojně demonstrovat či vyjádřit názor (viz tzv. chilling effect). Množí se účelová chování na obelstění (ne až tak chytré) technologie (viz článek Jak obelstít Velkého bratra).


Jak jsme na tom v Česku? V ČR je již používán systém kamer s biometrickými funkcemi na pražském letišti. Podle nás nelegálně – čekáme na vyjádření Úřadu pro ochranu osobních údajů.

Je uvažováno o zavádění dalších systémů na území Prahy. Týdeník Euro přinesl informaci, dle které na podzim 2020 zástupci policie oznámili, že od společnosti Cogniware koupili špičkový recognition software. Do jaké míry bude využíván, zatím není jasné. Technologie podobná té v Číně v Česku již je, zatím se však nepoužívá.

Využití biometrických kamerových systémů se aktuálně opírá pouze o velmi vágní ustanovení zákona o policii psané v době analogových kamer – dostatečná zákonná úprava chybí.  O plošné sledování chytrými kamerami se pokoutně pokusila již BIS v případě sledování automobilů a jejich posádek vpašováním do systémů kontroly dálničních známek.

Co navrhujeme?

V rámci evropské sítě nevládních organizací European Digital Rights (EDRi) jsme spustili petici #ReclaimYourFace, jejíž českou verzi Můj obličej patří mně bylo možné podepsat v Česku až do sprna 2022. Petice byla označena jako „historicky nejvlivnější občanská iniciativa“ a měla dopad na aktuální vyjednávání evropské legislativy, v rámci kterého nadále usilujeme o přijetí celoevropské regulace biometrické identifikace ve veřejném prostoru. Zvažujeme také možnost iniciovat změnu v zákoně o Policii ČR či v zákoně o obecní policii, která by plošnému sledování s biometrikou dala meze.

V odborné studii jsme zmapovali systémy biometrické identifikace fungující v ČR, včetně nastavení jejich pojistek proti zneužití a úniku dat. Na tuto velkou studii jsme v červnu 2022 navázali seminářem v Poslanecké sněmovně, jehož záznam je k dispozici zde: Jakou potřebujeme regulaci využívání metod rozpoznávání tváří ve veřejném prostoru? (21. června 2022).

Víme, že podložené argumenty fungují – v roce 2020 jsme radní na Praze 1 přesvědčili, že finance na podporu biometrických systémů v bytových domech nejsou dobrý nápad. O rizicích biometrické identifikace šíříme informace mezi veřejností, bezpečnostními složkami i odborníky.

Podpořte nás v boji proti příliš chytrým kamerám.

Zapojte se
Jste odborníkem, který pracuje s technologiemi biometrické identifikace a uvědomuje si s tím spojená rizika? Ozvěte se nám!

Finanční podpora
I malá, ale pravidelná finanční podpora nám umožní plánovat a zahajovat právní či legislativní bitvy, které si žádají plno času a práce. Podpořte nás pravidelným příspěvkem.