Akt EU o umělé inteligenci. Proč chceme přísnou regulaci masového biometrického dohledu?
V následujících dnech a týdnech by se v Evropském parlamentu měla uskutečnit klíčová jednání týkající se Aktu EU o umělé inteligenci. Spolu s dalšími organizacemi v EDRi věříme, že výsledkem bude co nejpřísnější regulace systémů masového biometrického dohledu. Proč?
Biometrické údaje, mezi které patří třeba naše tvář, nelze změnit. Již nyní se tak potýkáme s problematickými „databázemi obličejů“, ve kterých lze vyhledávat a fízlovat. Už jste zkoušeli, jestli se na PimEyes válí i váš obličej? Do toho!
Databáze PimEyes je částečně zdarma, někdo se na ní však nenajde. To databáze ClearView nabízí vyhledávání v desítkách miliard fotek: služba je proto veřejnosti spíše nedostupná, o to je však oblíbenější u bezpečnostních složek.
Další rozměr do debaty o tom, jak lze využít vaši tvář, pak přináší nové nástroje na generování audiovizuálních materiálů. Podle některých lze z pouhých sedmi vašich fotek vytvořit nové, takové, na kterých budete ve zcela fiktivních situacích.
Počet našich fotek však můžeme alespoň minimalizovat! Nefotit se, nesdílet, nešířit… Ve veřejném prostoru ale naši tvář jen tak neschováme či nezměníme. To, k čemu nasazení kamerových systémů rozpoznávající tváře může vést, vidíme:
- v Číně
- v Rusku, kde se biometrické systémy využívají nejen ke sledování opozice, ale nově i k pátrání po brancích
- či v Iránu, kde mají kamery identifikovat a trestat ženy, které se venku pohybují bez muslimského šátku hidžábu
No a jak jsme na tom v Evropě a v Česku?
Jednotný rámec chybí a názory jednotlivých vlád evropských zemí na tuto problematiku se tedy liší. Zatímco Itálie byla dosud přísná, ve Francii dostalo biometrické sledování „kvůli Olympiádě“ nedávno částečně zelenou.
V Česku je kamerový systém rozpoznávající tváře zatím oficiálně provozován pouze na Letišti Václava Havla. Již zde se tak podle nás děje v rozporu se zákonem. Kontrolu systému provádí z našeho podnětu Úřad pro ochranu osobních údajů.
Kamery s pokročilými funkcemi jsou u nás dále využívány zejména v soukromé sféře:
- řetězec COOP pomocí chytrých kamer loví zloděje
- firma Fingera slibuje přehled o tom, kolik času zaměstnanci tráví na pracovišti. Za hlavní výhodu považuje detekci živosti: tedy schopnost biometrického systému rozlišit skutečnou osobu od fotografie a zabránit tak pokusům o podvody s docházkou
- v nákupních centrech pak kamery zjišťují, jaký typ lidí jim do obchodu nejčastěji chodí, že jde třeba o ženy nad 60 let nebo muže pod 30 let. Podobná data jim pomáhají vytvářet marketingové strategie a ještě lépe cílit reklamu.
Věk, pohlaví… Hm, co vše lze vůbec zjistit z vašeho obličeje, říkáte si? To si můžete vyzkoušet na zábavně děsivé stránce HowNormalAmI.
Systémy rozpoznávající tváře nejsou samy o sobě špatné. AI Act je příležitostí říct si, které z nich chceme dále rozvíjet. Masový biometrický dohled, tedy nonstop kontrola tváří ve veřejném prostoru, mezi ně podle nás nepatří.