Klíčové poznatky
- Odborníci na ochranu soukromí vyjadřují znepokojení nad tím, jak Facebook využívá veřejné fotografie na Instagramu k trénování umělé inteligence.
- Program byl naučen rozpoznávat obrázky tak, že počítači ukázal přes 1 miliardu veřejných fotografií.
- Zásady ochrany soukromí Instagramu obsahují sekci, která uživatelům dává vědět, že informace mohou být použity ve výzkumu a vývoji.
Facebook používá instagramové fotky k trénování umělé inteligence vzbuzuje obavy o soukromí.
Gigant sociálních médií nedávno oznámil, že vytvořil software, který se dokáže učit z toho, na co se dívá. Program se naučil rozpoznávat obrázky kontrolou více než 1 miliardy veřejných fotografií. Odborníci tvrdí, že uživatelé by si měli být vědomi toho, že Facebook používá jejich obrázky.
„Je to všechno o znalosti souhlasu,“řekl v e-mailovém rozhovoru James E. Lee, provozní ředitel Centra zdrojů pro krádeže identity.
"Zásady ochrany osobních údajů Instagramu – které většina lidí pravděpodobně nečte – uvádí velmi jasně, že společnost si vyhrazuje právo použít fotografie, které zveřejníte, k výzkumu. Uživatelé mohou rozpoznávání obličeje zapnout/vypnout v nastavení ochrany osobních údajů."
Lepší než ostatní
Facebookový program, přezdívaný SEER pro SEBE-SuERvised, překonal ostatní modely umělé inteligence (AI) v testu rozpoznávání objektů, tvrdí společnost. Program dosáhl „skóre přesnosti klasifikace“84.2 %, když prošel testem, který kontroluje, zda program umělé inteligence dokáže rozpoznat, co je na obrázku.
„Výkon SEER ukazuje, že učení s vlastním dohledem může vynikat v úkolech počítačového vidění v reálném světě,“uvedla společnost v příspěvku na blogu.
„Toto je průlom, který v konečném důsledku otevírá cestu pro flexibilnější, přesnější a adaptabilnější modely počítačového vidění v budoucnosti.“
Přestože jim smluvní podmínky Facebooku mohou umožnit využívat uživatelská data takovým způsobem, většina uživatelů si není explicitně a aktivně vědoma, že jejich data jsou pro takové účely těžena.
Pokud bude SEER spuštěn komerčně, pomůže identifikovat objekty, nikoli lidi, aniž by byl naprogramován tak, aby pomocí štítku poznal, co je na fotografii, řekl Lee. "Je to efektivnější a rychlejší způsob než současná metoda, která vyžaduje obrovské datové sady k tomu, aby se objekt shodoval s jeho identitou," dodal.
"Vždy existuje možnost zneužití, ale existují také legitimní potenciální výhody tohoto druhu technologie."
Program Facebooku by mohl společnosti pomoci lépe hlídat obsah, který porušuje její zásady, například omezit nechtěné vystavení obscénním nebo grafickým obrázkům, řekla Aimee O’Driscoll, bezpečnostní výzkumnice na webu Comparitech, v e-mailovém rozhovoru. Dalo by se také použít k automatickému popisu obrázků, což zlepšuje uživatelský dojem pro lidi se zrakovým postižením.
S tímto programem jste již souhlasili
Zásady ochrany osobních údajů Instagramu obsahují sekci, která uživatelům dává vědět, že informace mohou být použity ve výzkumu a vývoji. „Společnost využívá své zásoby dat pro jinou část svého podnikání, podobně jako používá uživatelská data k krmení své reklamní činnosti,“řekl O’Driscoll.
„I tak se mohou uživatelé stále cítit nepohodlně, když jsou jejich obrázky používány tímto způsobem.“
Yashar Behzadi, generální ředitel společnosti Synthesis AI, která využívá umělou inteligenci pro počítačové vidění, uvedl, že nejnovější pokroky v oblasti umělé inteligence Facebooku představují „významné zlepšení“schopnosti počítačového vidění.
„Uživatelé mohou pravděpodobně očekávat lepší značkování obrázků a kontextové vyhledávání, zatímco inzerenti budou mít prospěch z přesnějšího cílení na uživatele,“dodal.
Přístup Facebooku využívající miliardy obrázků na Instagramu však vyvolává vážné obavy v oblasti soukromí a regulačních opatření, řekl Behzadi.
„Přestože jim smluvní podmínky Facebooku mohou umožnit využívat uživatelská data takovým způsobem, většina uživatelů si není explicitně a aktivně vědoma, že jejich data jsou těžena pro takové účely,“řekl.
„Věříme, že společnosti by měly být vůči uživatelům upřímnější a transparentnější a umožnit jim plnou kontrolu nad svými daty.“
Mnoho dalších společností použilo umělou inteligenci k identifikaci obsahu obrázku, upozornil Bobby Gill, generální ředitel vývojáře aplikací Blue Label Labs, v e-mailovém rozhovoru. "Nicméně skutečnost, že se to téměř jistě využije pro marketing, je znepokojující," dodal.
Nový program by mohl vyvolat potenciální obavy o soukromí v závislosti na tom, jak Facebook plánuje systém používat, řekl Gill.
"Tato data budou pravděpodobně přístupná technickým obchodníkům, kteří by je použili k identifikaci určitých trendů na základě různých prvků identifikovaných v obrázku," řekl.
"Například schopnost získávat informace z obrázků, které lidé zveřejňují, dodává asociativním systémům, které obecně využívají chování k profilování a cílení na jednotlivce, další rozměr. Mohlo by dojít k zjištění, že kdokoli, kdo má, řekněme, žáby ve 3- U 7 % jejich obrázků je vysoká pravděpodobnost nákupu domácího fitness vybavení."
