Klíčové poznatky
- Firmy používají umělou inteligenci ke sledování svých zaměstnanců.
- Amazon nainstaloval začátkem tohoto roku do svých dodávek kamery využívající strojové učení.
- Dohled nad umělou inteligencí by mohl vést k problémům se soukromím a zabezpečením, pokud by jej využívaly bezohledné společnosti.
Zaměstnavatelé stále častěji sledují své pracovníky pomocí umělé inteligence a pozorovatelé tvrdí, že tato praxe vyvolává obavy o soukromí.
Amazon začátkem tohoto roku nainstaloval do svých dodávek kamery využívající strojové učení. Společnost nedávno řekla svým řidičům, že musí souhlasit s jejich používáním. Praxe sledování na pracovišti může být legální, ale ne každý souhlasí s tím, že je etické.
„Společnosti používají nástroje pro monitorování zaměstnanců po celá desetiletí, ale s vyspělými technologiemi jsou stále invazivnější,“řekla v e-mailovém rozhovoru Aimee O'Driscoll, bezpečnostní výzkumnice na webu Comparitech pro srovnávání technologií.
"Většinu monitorování zaměstnanců lze považovat za narušení soukromí a dalo by se tvrdit, že to, co dělá Amazon, se příliš neliší od CCTV kamer v kanceláři."
Být sledován nebo vyhozen
Přibližně 75 000 řidičů doručovacích služeb Amazonu v USA nyní musí podepsat formulář „biometrický souhlas“. Formulář povolení umožňuje kamerám poháněným umělou inteligencí sledovat polohu, pohyb a biometrická data řidičů. Zaměstnanci, kteří dokument nepodepíší, mohou být propuštěni.
Sledování AI sleduje vše, co dělají řidiči Amazonu, a narušuje předpokládané soukromí subjektu, řekl v e-mailovém rozhovoru Chris Hauk, výzkumník ochrany soukromí na webu Pixel Privacy.
"To zahrnuje nahrávání pokaždé, když subjekt zívá nebo škrábe citlivou oblast," dodal. "Řidič má alespoň nějaké právo na zdání soukromí ve svém vozidle."
Sledování zaměstnanců pomocí umělé inteligence je stále větším problémem. Walmart patentoval technologii umělé inteligence, která umožňuje naslouchat interakci zaměstnanců se zákazníky u pokladen, zdůraznil O’Driscoll.
Vývojář softwaru Enaible poskytuje nástroje pro produktivitu založené na softwaru AI. Různé společnosti, včetně Macy's, používají analytický systém společnosti Microsoft, který dokáže sledovat chování zaměstnanců. Společnost Domino’s použila technologii AI ke kontrole, zda jsou pizzy vyrobeny správně.
"Jedním z hlavních problémů je, že při nesprávném použití může nedostatek soukromí vést k bezpečnostním problémům," řekl O’Driscoll.
"Data ze sledování by mohla skončit v rukou zločinců, nebo by sami špatní aktéři mohli využít sledování AI k cílení na oběti."
Výsledkem biometrických skenů obličeje je matematické znázornění obličeje subjektu údajů, které lze využít k identifikaci a sledování kdekoli po zbytek života, uvedl Ray Walsh, odborník na ochranu soukromí na webu ProPrivacy. e-mailový rozhovor.
„To představuje vážná rizika pro soukromí a bezpečnost pro řidiče Amazonu, jejichž data by mohla být narušena, prozrazena nebo potenciálně dokonce zneužita vládními slídiči pomocí příkazu,“dodal.
Vzhledem k tomu, že technologie umělé inteligence je relativně nová, neexistují žádné konkrétní pokyny pro její použití týkající se soukromí, řekl O’Driscoll. "To znamená, že bezpečnost bude pravděpodobně vždy legitimní omluvou pro invazi do soukromí, takže Amazon je pokryt svými současnými záměry," dodala.
Zaměstnanci mají právo ukončit nebo souhlasit s navrhovaným monitorováním umělé inteligence, ale činí tak tváří v tvář obrovské nerovnováze sil, O’Driscoll řekl, že sledování AI by mělo být regulováno. "Společnosti by v ideálním případě měly mít legitimní důvody (jako je bezpečnost) pro sledování AI," dodala.
Některé státy schválily zákony, které omezují a regulují používání dohledu na pracovišti, ale federální legislativa chybí, upozornil Walsh.
V roce 2019 byl do Sněmovny a Senátu zaveden zákon o algoritmické odpovědnosti, který byl ale nakonec zamítnut. Podobný zákon může být zaveden letos a „doufáme, že Kongres vedený demokraty a Bílý dům mohou zlepšit své šance na schválení,“řekl Walsh.
Neočekávejte soukromí při práci
Ne každý si myslí, že sledování řidičů Amazonem je zásahem do soukromí.
„Myslím, že je těžké tvrdit, že zaměstnanec má rozumná očekávání soukromí ve vozidle vlastněném společností,“řekl Will Griffin, hlavní etický ředitel společnosti Hypergiant pro umělou inteligenci, v e-mailovém rozhovoru.
"Větší obavou je, že během několika krátkých let budou všichni tito řidiči nahrazeni autonomními vozidly. Takže jakákoli debata o politice řidičů se stane diskutabilním bodem, až se vozový park stane plně autonomním."
Případ Amazonu zdůrazňuje potřebu odborů nebo cíleného federálního zásahu jako způsobu, jak obnovit rovnováhu moci mezi zaměstnanci Amazonu a společností, řekl Griffin.
"Zaměstnanci mají právo ukončit nebo souhlasit s navrhovaným monitorováním AI, ale dělají tak tváří v tvář obrovské nerovnováze sil," dodal.
