Klíčové poznatky
- Větší počet programů dokáže rozumět vaší řeči.
- Nová technologie generuje vlastní zvuk na pozadí, když mluvíte, aby zmátl software, který by mohl poslouchat.
-
Nová technika dosahuje výkonu v reálném čase předpovídáním útoku na budoucnost signálu nebo slova.
Mnoho programů rozumí vaší řeči během telefonování nebo videohovorů a odborníci tvrdí, že mohou představovat hrozbu pro soukromí.
Obranu může nabídnout nová technologie vyvinutá výzkumníky z Columbia University, nazvaná Neural Voice Camouflage. Generuje vlastní zvukový šum na pozadí, když mluvíte, čímž mate umělou inteligenci (AI), která poslouchá a přepisuje hlasy.
"Přítomnost přepisu umělé inteligence vyvolává otázky důvěry," Michael Huth, spoluzakladatel Xayn, vyhledávače na ochranu soukromí, a vedoucí katedry výpočetní techniky na Imperial College London, který se na výzkumu, řekl Lifewire v e-mailovém rozhovoru. "Účastníci schůzky mohou být opatrnější ohledně toho, které body zmiňují a jak je jejich řeč přepisována. To může být dobrá věc, protože to může zlepšit uctivé chování, ale také to může být špatné, protože konverzace může být méně otevřená kvůli výhrady k použité technologii."
Poslouchání a učení
Výzkumníci z Columbie pracovali na návrhu algoritmu, který by dokázal rozbít neuronové sítě v reálném čase. Nový přístup využívá „prediktivní útoky“– signál, který může narušit jakékoli slovo, jehož přepis jsou trénovány modely automatického rozpoznávání řeči. Navíc, když jsou útočné zvuky přehrávány vzduchem, musí být dostatečně hlasité, aby narušily jakýkoli nepoctivý mikrofon pro „naslouchání“, který by mohl být daleko.
„Klíčovou technickou výzvou k dosažení tohoto cíle bylo zajistit, aby to všechno fungovalo dostatečně rychle,“uvedl Carl Vondrick, profesor počítačových věd na Kolumbii a jeden z autorů studie popisující nový přístup. uvolnění. "Náš algoritmus, který dokáže v 80 % případů zablokovat nepoctivý mikrofon, aby správně slyšel vaše slova, je nejrychlejší a nejpřesnější na našem testovacím zařízení."
Nová technika dosahuje výkonu v reálném čase předpovídáním útoku na budoucnost signálu nebo slova. Tým útok optimalizoval, takže má hlasitost podobnou běžnému hluku na pozadí, což umožňuje lidem v místnosti přirozeně konverzovat a bez úspěšného sledování systémem automatického rozpoznávání řeči.
Účastníci schůzky mohou být opatrnější ohledně toho, které body vznesou a jak je jejich řeč přepisována.
Vědci řekli, že jejich technika funguje, i když nevíte nic o nečestném mikrofonu, jako je jeho umístění, nebo dokonce ani počítačový software, který na něm běží. Maskuje hlas člověka vzduchem, skrývá ho před těmito naslouchacími systémy, aniž by to obtěžovalo konverzaci mezi lidmi v místnosti.
"Naše metoda zatím funguje pro většinu anglické slovní zásoby a plánujeme použít algoritmus na více jazyků, stejně jako nakonec učinit šepot zcela nepostřehnutelným," Mia Chiquier, hlavní autor studie a doktorand ve Vondrickově laboratoři, uvedl v tiskové zprávě.
Uchování soukromých konverzací
Jako by toho všeho nebylo dost, reklamy na vás mohly cílit i na základě zvuku shromážděného z vašeho chytrého telefonu nebo zařízení chytré domácnosti.
„Se zařízeními, jako je [Amazon Echo] a jejich protějšky, tato zařízení nejenže máte vždy doma, neustále poslouchají vše, co říkáte nebo děláte, ale během let sběru dat od svých uživatelů mají zdokonalené zpracování přirozeného jazyka (přeměna mluveného slova na text/použitelná data pro zařízení prostřednictvím kombinace mikrofonů, softwaru a umělé inteligence),“uvedl Erik Haig, spolupracovník společnosti Harbor Research, společnosti zabývající se strategickým poradenstvím a rozvojem rizikového kapitálu.
AI přepisy konverzační řeči jsou nyní standardní součástí standardního komerčního softwaru, řekl Huth. Microsoft Teams má například možnost záznamu schůzek s vestavěnými přepisy AI, které mohou vidět všichni účastníci v reálném čase. Kompletní přepis může sloužit jako záznam jednání. Takové přepisy obvykle umožňují pořizování zápisu (aka poznámku), kdy zápis bude schválen na příští schůzi.
„Lidé mohou mít obavy ze špehování, když je zapnutý přepis AI,“dodala Huth.„To se zdá velmi podobné obavám z toho, že si konverzaci nahrajete bez souhlasu nebo tajně.“
Ne všichni ale souhlasí s tím, že chytrá zařízení jsou hrozbou. Většina lidí se nemusí starat o programy naslouchající vašim rozhovorům, řekl Brad Hong, vedoucí úspěšných zákazníků ve firmě Horizon3 pro kybernetickou bezpečnost, Lifewire e-mailem. Řekl, že nejdůležitějším problémem nyní není, kdo vás zaznamenává, ale spíše to, jak ukládají data.
„Všechny příběhy, které člověk slyší o aktivaci mikrofonu na jejich počítači nebo mobilních zařízeních, odposlouchávání Alexy nebo Google Home nebo dokonce o vládním dohledu, je pravda, že z toho všeho se laikům svírá žaludek,“dodal Hong. "Ale celkově vzato jsou lidé jen zřídka v situaci, která skutečně vyžaduje maskování jejich hlasů."
