Klíčové poznatky
- Tencent vytvořil technologii rozpoznávání obličeje, aby přistihl děti při hraní videoher po státem nařízeném zákazu vycházení.
- Rodičovská kontrola bez rodičů, kteří by hlídali děti přes ramena, není nic nového.
- Odborníci tvrdí, že problémy s pravidly vynucenými rozpoznáváním obličeje zahrnují osobní soukromí a přesnost.
Čínská herní společnost Tencent používá technologii rozpoznávání obličeje k vynucení zákazu vycházení pro nezletilé a odborníci říkají, že svět technických pravidel není daleko.
Software pro rozpoznávání obličeje není nová technologie, ale jak se stává pokročilejším, má kontroverznější využití kromě pouhého odemykání našich chytrých telefonů. Dr. Vir Phoha, profesor na College of Engineering and Computer Science na Syracuse University, řekl, že při používání rozpoznávání obličeje k vynucení pravidel existuje mnoho obav, ale jeden konkrétně vyniká nad ostatními.
„Mým hlavním zájmem je, že… soukromý průmysl se stává nástrojem státu k prosazování zákonů,“řekl Phoha Lifewire po telefonu. „A to je důležité, protože v…soukromém průmyslu nemusí existovat dostatek kontrol a protivah, které by zajistily transparentnost toho, jak se věci dělají interně.“
Rodičovská kontrola bez rodičů
Tencent řekl, že používá technologii rozpoznávání obličeje k zachycení dětí při hraní videoher pozdě do noci. Čína v roce 2019 schválila zákon, který prosazuje zákaz vycházení pro každého mladšího 18 let a omezuje čas strávený hraním hry na pracovní dny a víkendy. I když se tato technologie zdá být invazivní, byla vytvořena, aby vyřešila problém dětí, které jdou proti zákazu vycházení.
Podle Digital Trends tato technologie známá jako „Půlnoční hlídka“naskenuje obličej osoby z obrazovky počítače, aby ji porovnala s registrovaným jménem a obličejem, a podle toho sleduje dobu hraní.
I když by někteří rodiče uvítali, kdyby jejich děti dodržovaly pravidla, může technologie skutečně nahradit rodiče?
„Myslím, že mezi rodičovskými právy a rodičovskými povinnostmi existuje rozpor. A u věcí nařízených státem jsou rodiče obvykle těmi nejlepšími soudci,“řekl Phoha.
I když je tato konkrétní technologie v Číně, Federální obchodní komise v roce 2015 schválila ověřitelnou metodu souhlasu rodičů, která subjektům umožňuje používat technologii rozpoznávání obličeje k získání souhlasu rodičů. Tato technologie je trochu odlišná v tom, že je zaměřena na skenování tváří rodičů předtím, než děti získají přístup k určitému obsahu, aby se zajistilo, že s tím rodič souhlasí. Phoha však řekl, že když máte doma kameru, která monitoruje věci, otevírá vám potenciální potíže.
„Pokud je v domácnosti povolena kamera, jako třetí strana, která umožňuje přístup do mého domova, když si moje dítě hraje, myslím, že je to velký, velký problém,“řekl.
Problémy s pravidly vynucenými rozpoznáváním obličeje
Kromě etických otázek státem nařízených pravidel nebo převzetí role rodiče Phoha řekl, že s rozpoznáváním obličeje jsou vždy problémy s přesností.
„[Rozpoznání obličeje] lze velmi snadno podvrhnout, konkrétně pokud je to před počítačem a provádí se na dálku jako Tencent's,“řekl.
Pokud je to státem nařízené a pokud je to donucovací nebo vede k represivním opatřením, pak mi to není moc příjemné.“
Pokud by se rozpoznávání obličeje stalo široce přijímaným způsobem, jak prosazovat pravidla, mohlo by to významně ovlivnit lidi s jinou barvou pleti kvůli rasové zaujatosti této technologie. Četné studie prokázaly, že rozpoznávání obličeje může nesprávně identifikovat lidi, zejména ty barevné.
Při použití kvalitnějších fotografií aplikace je míra falešně pozitivních výsledků nejvyšší u lidí ze západní a východní Afriky a východní Asie a nejnižší u jedinců z východní Evropy. Tento efekt je obecně velký, s faktorem 100 více falešně pozitivních výsledků mezi zeměmi,“stojí v části studie NIST z roku 2019 v oblasti demografického rozpoznávání obličeje.
Phoha dodal, že ve vědeckém výzkumu je rozpoznávání obličeje schopno určit mnohem víc než jen rysy obličeje, včetně detekce něčí srdeční frekvence a identifikace, zda má osoba určitou nemoc.
Technologie rozpoznávání obličeje dokáže rozpoznat i vaše emoce. Například software pro rozpoznávání obličejů Amazon, známý jako Rekignition, dokáže detekovat emoce na tvářích lidí, včetně strachu.
Phoha řekla, že se s těmito typy technologií přibližujeme světu pravidel pro rozpoznávání obličejů/sledování. Dodal, že bychom se měli mít obzvláště na pozoru před státem nařízeným systémem pravidel pro rozpoznávání obličeje.
„Když se chci přihlásit do telefonu a používat ověřování obličejem, mohu tak učinit podle vlastního uvážení – je to moje volba a mohu jej používat, jak chci,“řekl. "Ale pokud je to státem nařízené a pokud je to donucovací nebo vede k represivním opatřením, pak mi to není moc příjemné."
