Příliš chytré kamery

V čem je problém?

Sledování kamerovými systémy přechází do nové fáze. Klasické kamery, dosud pouze zaznamenávající obraz, se mění ve složité nástroje detekce či identifikace. Lidská obsluha je nahrazována algoritmy umělé inteligence. Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky atd. Zejména využití biometrické identifikace u lidí považujeme za oblast primární pozornosti nejen vzhledem k citlivosti dat, s nimiž pracuje, ale i vzhledem k možným negativním dopadům.

A co přesně nám na kamerách pracujících s biometrickými údaji vadí? 

  • Předně, může jít o základ infrastruktury pro budoucí automatizované hodnocení lidí ve všech aspektech jejich života (např. napojení na údaje o platbách, cestách apod.) a sociální kontrolu po vzoru čínského kreditového systému. Zkušenosti hovoří jasně: to, co dnes vypadá jako sci-fi scénář, se může zrealizovat během velmi krátké doby.
  • Při sledování dochází k obrovskému objemu zpracovávaných biometrických dat: nejde přitom jen o data hledaných osob, ale všech, jejichž tváře jsou technologiemi vyhodnocovány. Nejsou záruky, že nashromážděná data o pohybu a chování masy konkrétních  lidí nejsou nebo nebudou dál využívána nejrůznějšími způsoby – pokušení je velké.
  • Nespolehlivost systémů: biometrická identifikace je překvapivě málo neprůstřelná což potvrzují závěry odborníků. Nesprávná identifikace  může ovšem mít pro konkrétní lidi vážné důsledky – od nevpuštění na sportovní utkání až po falešné trestní obvinění. Technologie fungující za systémy budí jednak falešný pocit spolehlivosti, jednak následnými rozhodnutími bez lidského prvku mohou omezit práva člověka bez možnosti účinné obrany. Biometrické kamery mají časté falešné shody či naopak malou spolehlivost (falešná pozitivita i negativita). (Příkladem za všechny je dopadení pachatelů brutálního útoku na číšníka v centru Prahy v roce 2018: k tomu nijak nepřispěl robustní systém biometrických kamer pražského letiště, nýbrž pozorná uklízečka.)
  • Umělá inteligence systémů je často špatně natrénována – hrozí tak zasednutí na lidi s určitými znaky. Bez korekce lidským zdravým rozumem tak mohou být jako podezřelí vyhodnoceni lidé s pomalejší chůzí či tmavou barvou pleti. Navázání sledovacího systému na automatizované rozhodnutí např. o přístupu na určité místo či o uložení pokuty pak citelně omezuje práva takto vybraných lidí s určitými znaky. Na tuto skutečnost upozornili nedávno v otevřeném dopise například vědci zabývající se vývojem softwaru.
  • Masové sledování veřejného prostoru a pocit neustálého dohledu neviditelným Velkým bratrem nezdravě mění chování lidí – mohou mít obavy navštívit nějakou akci či prostor, pokojně demonstrovat či vyjádřit názor (viz tzv. chilling effect). Množí se účelová chování na obelstění (ne až tak chytré) technologie (viz článek Jak obelstít Velkého bratra).

V ČR je již používán systém kamer s biometrickými funkcemi (pražské letiště) a je uvažováno o zavádění dalších systémů (území Prahy). Jejich využití se však aktuálně opírá pouze o velmi vágní ustanovení zákona o policii psané v době analogových kamer – dostatečná zákonná úprava chybí.  O plošné sledování chytrými kamerami se například pokoutně pokusila BIS v případě sledování automobilů a jejich posádek vpašováním do systémů kontroly dálničních známek.

Co navrhujeme?

V rámci sítě nevládních organizací European Digital Rights (EDRi) usilujeme o přijetí celoevropské regulace biometrické identifikace ve veřejném prostoru. Zvažujeme také možnost iniciovat změnu v zákoně o Policii ČR či v zákoně o obecní policii, která by plošnému sledování s biometrikou dala meze.

V odborné studii zmapujeme systémy biometrické identifikace fungující v ČR, včetně nastavení jejich pojistek proti zneužití a úniku dat. Na tuto velkou studii navážeme seminářem v Poslanecké sněmovně, kde chceme rizika biometrické identifikace ve veřejném prostoru srozumitelně představit těm, kdo tvoří zákony. Víme, že podložené argumenty fungují – v roce 2020 jsme radní na Praze 1 přesvědčili, že finance na podporu biometrických systémů v bytových domech nejsou dobrý nápad. O rizicích biometrické identifikace budeme šířit informace mezi veřejností, bezpečnostními složkami i odborníky.

Odkazy k tématu:
„Velký bratr“ vidí všude. Lidé se strachují o soukromí a svobodu
Charta Chytrých měst
Matematici vyzývají k bojkotu spolupráce s policií 
„Počítač se spletl.“ Policie zatkla špatného muže kvůli technologii na poznání tváře

Chcete nás podpořit v boji proti příliš chytrým kamerám?

Zapojte se
Jste odborníkem, který pracuje s technologiemi biometrické identifikace a uvědomuje si s tím spojená rizika? Ozvěte se nám!

Finanční podpora
I malá, ale pravidelná finanční podpora nám umožní plánovat a zahajovat právní či legislativní bitvy, které si žádají plno času a práce.