Klíčové poznatky
- Systémy AI, které monitorují dodávkové vozy, nespravedlivě penalizují řidiče Amazonu, tvrdí nová zpráva.
- Systém Amazon je součástí rostoucího trendu společností využívajících technologie k monitorování svých zaměstnavatelů na dálku.
-
Některý software umělé inteligence umožňuje zaměstnavatelům nepřetržitě sledovat chování zaměstnanců na pozadí a kreslit vzory v jejich pracovním postupu.
Zaměstnavatelé se stále častěji obracejí na software ke vzdálenému monitorování zaměstnanců, což vyvolává obavy u některých zastánců ochrany soukromí.
Nová zpráva tvrdí, že kamery s umělou inteligencí v dodávkách Amazonu nespravedlivě penalizují řidiče. Článek zjistil, že řidiči trpěli chybnými upozorněními, nesprávnými výsledkovými kartami řidičů, nepraktickými předpoklady o dopravní situaci a řidiči, kteří si osvojili praktiky k obcházení technologie.
„Zatímco se AI zlepšuje, stále se budou dělat chyby,“řekl Lifewire v e-mailovém rozhovoru Raymond Ku, ředitel Centra pro právo a politiku v kyberprostoru na Case Western Reserve University. "V rámci spravedlnosti si myslím, že všichni věříme, že někdo, kdo je jakýmkoli způsobem penalizován rozhodováním AI, by si měl být vědom této skutečnosti a měl by mít příležitost toto rozhodnutí napadnout."
Amazon's AI Cameras
Amazon uvedl, že jako bezpečnostní opatření nainstaloval do svých vozidel kamery s umělou inteligencí. Kamery jsou určeny ke sledování, když řidiči dodávky provádějí nebezpečné manévry, jako je jízda na znamení stop nebo nedovolené otáčení do protisměru.
Když kamery zaznamenají možné nebezpečné „události“při řízení, tyto případy se započítají do skóre výkonu pracovníků. Nižší skóre snižuje šanci, že řidiči získají bonusy, příplatky a ceny.
Řidiči Amazonu však řekli Motherboard, že jsou trestáni za některé řidičské návyky, které jsou považovány za bezpečné nebo mimo jejich kontrolu. Amazon neodpověděl na žádost Lifewire o komentář.
Ku poukázal na to, že jelikož řidiči souhlasili se záznamem, netrpí zásahem do soukromí podle zákona.
„To však neznamená, že by průměrný pracovník byl se sledováním spokojený nebo by nic nenamítal, kdyby mohl,“dodal. "To platí zejména tehdy, když sledování začne zasahovat do tradičnějších osobních prostor."
Zpráva vyvolává širší otázky, zda mohou být data zpřístupněna a používána v soudních sporech nebo policejními a federálními úředníky, řekla Bethany A. Corbinová pro Lifewire v e-mailovém rozhovoru. Mohlo by to také ovlivnit odpovědnost, zdůraznila.
"Pokud například technologie umělé inteligence říká zaměstnanci, aby se nedíval do bočních zrcátek, a zaměstnanec má nehodu jako přímý následek této rady, kdo je na vině?" Corbin přidán.
Growing Surveillance
S Amazonem dohled nekončí. Stále větší počet společností používá technologii ke sledování svých zaměstnanců na dálku, řekl expert na ochranu soukromí Chris Hauk Lifewire v e-mailovém rozhovoru.
Například marketingová firma Blackbelt zabývající se umělou inteligencí používá systém sledování času přidělování, který společnosti umožňuje autonomně sledovat a sledovat počítačovou aktivitu svých zaměstnanců. Microsoft Workplace Analytics umožní zaměstnavatelům sledovat dobu zaměstnance na webových stránkách, psaní e-mailů a další během pracovního dne.
Walmart také pracuje na systému, který naslouchá zvuku šustění tašek nebo pípání z pokladních skenerů, aby mohl sledovat metriky zaměstnanců a zajistit, aby zaměstnanci vykonávali své úkoly správně a efektivně. Senzory mohou dokonce naslouchat zákazníkům, když si povídají ve frontě, a zjistit, zda zaměstnanci vítají zákazníky správně.
Sledování pracoviště je od vypuknutí pandemie stále rozšířenější, řekl expert na ochranu soukromí Pankaj Srivastava Lifewire v e-mailovém rozhovoru.
„Většina této technologie je umístěna jako ‚zlepšení produktivity‘, ale způsob, jakým některé z těchto nástrojů fungují, naznačuje větší toleranci zaměstnavatelů při sledování každé činnosti jejich pracovníků,“dodal. „Například sledováním toho, kolik času zaměstnanci tráví jednotlivými úkoly, pořizováním fotek na dálku, aby byli zaměstnanci u svého stolu, a dokonce sledováním navštívených webových stránek a zaznamenáváním tahů zaměstnance na klávesnici a pohybu myši.“
Zatímco se AI zlepšuje, stále se budou dělat chyby.
Některý software umělé inteligence umožňuje zaměstnavatelům nepřetržitě sledovat chování zaměstnanců na pozadí a kreslit vzory v jejich pracovním postupu, řekl.
„Zaměstnanec může být propuštěn na základě jeho personalizované zprávy o výkonu s uvedením, že dokončení úkolu trvalo o několik minut déle než obvykle,“řekl Srivastava.
"Sbohem, koupelna přestávky."
