Příliš chytré kamery

Aktuálně:
– 15. 2. 2021 / Kamerové systémy na rozpoznávání obličeje (Český rozhlas Dvojka)
– 12. 2. 2021 / Biometrika jako rozjetý vlak, který je potřeba zastavit (komentář)
– 4. 2. 2021 / Kamerové systémy na rozpoznávání obličejů ohrožují naše práva a svobody, tvrdí analýza (tisková zpráva)

V čem je problém?

Sledování kamerovými systémy přechází do nové fáze. Klasické kamery, dosud pouze zaznamenávající obraz, se mění ve složité nástroje detekce či identifikace. Lidská obsluha je nahrazována algoritmy umělé inteligence. Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky atd. Zejména využití biometrické identifikace u lidí považujeme za oblast primární pozornosti nejen vzhledem k citlivosti dat, s nimiž pracuje, ale i vzhledem k možným negativním dopadům.

Co přesně nám na kamerách pracujících s biometrickými údaji vadí? 

  • Předně, může jít o základ infrastruktury pro budoucí automatizované hodnocení lidí ve všech aspektech jejich života (např. napojení na údaje o platbách, cestách apod.) a sociální kontrolu po vzoru čínského kreditového systému. Zkušenosti hovoří jasně: to, co dnes vypadá jako sci-fi scénář, se může zrealizovat během velmi krátké doby.
  • Při sledování dochází k obrovskému objemu zpracovávaných biometrických dat: nejde přitom jen o data hledaných osob, ale všech, jejichž tváře jsou technologiemi vyhodnocovány. Nejsou záruky, že nashromážděná data o pohybu a chování masy konkrétních  lidí nejsou nebo nebudou dál využívána nejrůznějšími způsoby – pokušení je velké.
  • Nespolehlivost systémů: biometrická identifikace je překvapivě málo neprůstřelná což potvrzují závěry odborníků. Nesprávná identifikace  může ovšem mít pro konkrétní lidi vážné důsledky – od nevpuštění na sportovní utkání až po falešné trestní obvinění. Technologie fungující za systémy budí jednak falešný pocit spolehlivosti, jednak následnými rozhodnutími bez lidského prvku mohou omezit práva člověka bez možnosti účinné obrany. Biometrické kamery mají časté falešné shody či naopak malou spolehlivost (falešná pozitivita i negativita). Že ani v naléhavých případech nemusí robustní systémy biometrických kamer usnadnit dopadení pachatele, dokazuje brutální útok na číšníka v centru Prahy v roce 2018, kdy útočníky ve stejnou chvíli jako kamery rozpoznali obyčejní cestující.
  • Umělá inteligence systémů je často špatně natrénována – hrozí tak zasednutí na lidi s určitými znaky. Bez korekce lidským zdravým rozumem tak mohou být jako podezřelí vyhodnoceni lidé s pomalejší chůzí či tmavou barvou pleti. Navázání sledovacího systému na automatizované rozhodnutí např. o přístupu na určité místo či o uložení pokuty pak citelně omezuje práva takto vybraných lidí s určitými znaky. Na tuto skutečnost upozornili nedávno v otevřeném dopise například vědci zabývající se vývojem softwaru.
  • Masové sledování veřejného prostoru a pocit neustálého dohledu neviditelným Velkým bratrem nezdravě mění chování lidí – mohou mít obavy navštívit nějakou akci či prostor, pokojně demonstrovat či vyjádřit názor (viz tzv. chilling effect). Množí se účelová chování na obelstění (ne až tak chytré) technologie (viz článek Jak obelstít Velkého bratra).

V ČR je již používán systém kamer s biometrickými funkcemi na pražském letišti a je uvažováno o zavádění dalších systémů na území Prahy. Týdeník Euro nedávno přinesl informaci, dle které na podzim 2020 zástupci policie oznámili, že od společnosti Cogniware koupili špičkový recognition software. Do jaké míry bude využíván, zatím není jasné.

Využití biometrických kamerových systémů se každopádně aktuálně opírá pouze o velmi vágní ustanovení zákona o policii psané v době analogových kamer – dostatečná zákonná úprava chybí.  O plošné sledování chytrými kamerami se pokoutně pokusila BIS v případě sledování automobilů a jejich posádek vpašováním do systémů kontroly dálničních známek.

Co navrhujeme?

V rámci evropské sítě nevládních organizací European Digital Rights (EDRi) jsme spustili petici #ReclaimYourFace, jejíž českou verzi Můj obličej patří mně můžete podepsat tady. Usilujeme o přijetí celoevropské regulace biometrické identifikace ve veřejném prostoru. Zvažujeme také možnost iniciovat změnu v zákoně o Policii ČR či v zákoně o obecní policii, která by plošnému sledování s biometrikou dala meze.

V odborné studii jsme zmapovali systémy biometrické identifikace fungující v ČR, včetně nastavení jejich pojistek proti zneužití a úniku dat. Na tuto velkou studii navážeme seminářem v Poslanecké sněmovně, kde chceme rizika biometrické identifikace ve veřejném prostoru srozumitelně představit těm, kdo tvoří zákony. Víme, že podložené argumenty fungují – v roce 2020 jsme radní na Praze 1 přesvědčili, že finance na podporu biometrických systémů v bytových domech nejsou dobrý nápad. O rizicích biometrické identifikace budeme šířit informace mezi veřejností, bezpečnostními složkami i odborníky.

Odkazy k tématu:
Facial recognition tech stories and rights harms from around the world / rozsáhlá studie od INCLO, leden 2021
I ten nejdokonalejší software rozlišující obličeje už selhal, říká bezpečnostní expert / Euro, 22. 10. 2020
Kamerové systémy pohlídají i tělesnou teplotu / iHned.cz, 9. 9. 2020
Nejčastější nedorozumění v oblasti zpracování biometrických údajů / ÚOOÚ, 10. 8. 2020
„Počítač se spletl.“ Policie zatkla špatného muže kvůli technologii na poznání tváře / Aktuálně, 11. 7. 2020
Matematici vyzývají k bojkotu spolupráce s policií / Alarm, 7. 7. 2020
„Velký bratr“ vidí všude. Lidé se strachují o soukromí a svobodu / Deník.cz, 30. 11. 2019
Policie chce v Praze testovat sledování obličejů. ‚Není důvod, jen chtějí hračku,‘ oponují ochránci soukromí / iRozhlas.cz, 20. 11. 2019
Analýza biometrických údajů v kontextu obecného nařízení o ochraně osobních údajů / 2019
Charta Chytrých měst

Chcete nás podpořit v boji proti příliš chytrým kamerám?

Zapojte se
Jste odborníkem, který pracuje s technologiemi biometrické identifikace a uvědomuje si s tím spojená rizika? Ozvěte se nám!

Finanční podpora
I malá, ale pravidelná finanční podpora nám umožní plánovat a zahajovat právní či legislativní bitvy, které si žádají plno času a práce.