Sledovací systém Cogniware je firemním slídilem roku

Minulý pátek jsme vyhlásili Ceny Velkého bratra za rok 2020. Cenu v kategorii firemní slídil získala česká firma Cogniware, jejíž sledovací systém Cogniware Insights v sobě obsahuje celou řadu modulů na vyhodnocování důkazů pomocí metod umělé inteligence: rozpozná osobu podle hlasu, tváře, následně rozpozná i její věk či emoce. Samotný vývoj takového sledovacího systému, který má potenciál významně zasáhnout do soukromí, by ale na udělení ceny nestačil. Co nás tedy k rozhodnutí o tomto vítězi vedlo?

„Problém je hlavně v přístupu společnosti k tomu, komu tuto zbraň, jak její představitelé sami tento nástroj nazývají, dává do rukou. Hlavní zákazníky této společnosti (mezi něž se nově řadí i česká státní policie) tvoří totiž podle vyjádření například zpravodajské služby a policie ve Spojených arabských emirátech, v Saúdské Arábii, Jordánsku nebo Bahrajnu, tedy ve státech, které jsou všechny považovány dle indexu demokracie za autoritářské režimy. Společnost se přitom netají tím, že těží z nízké míry ochrany soukromí v těchto státech, či že neví, k čemu všemu tyto státy její nástroj využívají,“ uvedl k ocenění výkonný ředitel IuRe Jan Vobořil.

Je tak pravděpodobné, že softwarové nástroje firmy jsou využívány bezpečnostními složkami daných zemí i k potlačování lidských práv, které je v těchto státech běžným jevem. Udělením anticeny chceme ukázat, že v oblasti respektu k soukromí se na etickou seberegulaci v komerčním sektoru bohužel zkrátka spoléhat nedá. Nezájem společnosti o to, k čemu lze její nástroje využít, potvrzuje další výrok.

Při vědomí těchto skutečností je zarážející, že výzkumný projekt společnosti Cogniware (dodávající sledovací nástroje autoritářským režimům) zaměřený na sledování a detekci anomálií a predikci chování osob byl podpořen v minulém roce Technologickou agenturou ČR ze státního rozpočtu částkou 16.7 milionu Kč.

Aktuálně sílí volání občanské společnosti po regulaci podobných biometrických nástrojů, jejichž masové využití na veřejných prostranstvích by bylo pohromou pro soukromí nás všech. Ztělesněné je hlavně v celoevropské petici Reclaim Your Face (možno podepsat i na webu u nás: Můj obličej patří mně).

Jen pár dní starý hackerský útok, který zpřístupnil celému světu živé přenosy z téměř 150 000 kamer (z firmy Tesla, psychiatrických nemocnic, ale i škol či věznic) dokazuje, že biometrický dohled již dávno není přehnané téma sci-fi filmů, ale obrovský společenský problém, kterému je potřeba se věnovat – dříve, než bude opravdu pozdě.

Více k tématu:
:: Využití biometriky při sledování veřejného prostoru v České republice / naše studie
:: Kamerové systémy a užití systému pro rozpoznávání obličejů / poziční dokument Spolku pro ochranu osobních údajů
:: How normal am I? / vyzkoušejte si přímo na sobě, jak umělá inteligence hodnotí vaši tvář