Klíčové poznatky
- Řada nových aplikací může být schopna detekovat emoce studentů.
- Intel a výrobce softwaru pro učebny Class údajně vyvíjejí software, který bude hlídat tváře a řeč těla digitálních studentů.
- Někteří odborníci se obávají, že používání umělé inteligence ke sledování studentů by mohlo vést k narušení soukromí.
Školy by mohly brzy využívat umělou inteligenci (AI) ke sledování emočních stavů studentů.
Intel a tvůrce softwaru pro učebny Class vyvíjejí software, který bude hlídat tváře a řeč těla digitálních studentů. Systém údajně dokáže odhalit, zda se studenti nudí, jsou rozptýleni nebo zmatení, ale někteří odborníci se obávají, že by software mohl vést k narušení soukromí.
„Takové monitorovací produkty založené na AI by měly být transparentní ohledně toho, jak jsou tato data využívána,“řekl Lifewire v e-mailu Michael Huth, spoluzakladatel společnosti Xayn a vedoucí oddělení výpočetní techniky na Imperial College London. rozhovor. "Pokud se používá ke sledování angažovanosti v kohortě studentů, kde se angažovanost na individuální úrovni nezaznamenává, je to z hlediska ochrany soukromí poněkud méně problematické. Pokud by však některá z těchto dat měla být použita k ovlivnění hodnocení studentů, může vidět vznikající nejrůznější problémy."
Watching Over Students
Class a Intel se spojily s cílem integrovat technologii založenou na umělé inteligenci, která běží společně se softwarem pro videokonference Zoom, uvedl protokol. Tento software lze použít ke sledování studentů, uvádí zpráva.
„Prostřednictvím našeho partnerství s Intelem budeme moci do softwaru Class přinést nové, pohlcující funkce, které jsou založeny na funkcích podporovaných výzkumem,“uvádí se na webových stránkách společnosti. „Budeme také spolupracovat s Intelem na využití zdrojů a poskytovat pedagogům a studentům cenné poznatky, společné případové studie, bílé knihy, webináře a mnoho dalšího.“
Intel sdělil Protokolu, že software pro učebny je v rané fázi a neplánuje se poslat produkt na trh.
Partnerství se společností Class není jedinou potenciální spoluprací mezi softwarem Intel pro čtení emocí a dalšími výrobci. Online brožura od společnosti Intel nabízí novou elektronickou tabuli s názvem Viewboard určenou pro školy. Software Intel „umožňuje aplikaci myViewboard vyhodnotit a zobrazit emoční stavy studentů jako okamžitou zpětnou vazbu pro pedagogy“, jak uvádí brožura.
Class je jedním z mnoha softwarových produktů, které mají za cíl sledovat emoce studentů pomocí umělé inteligence. K dispozici je také 4Little Trees, výuková platforma detekce emocí, která je „virtuálním asistentem učitele, [který] vám pomůže výběrem nejvhodnějších otázek pro vás nebo vás v případě potřeby vyzvou, “podle webových stránek společnosti.
Ashish Fernando, generální ředitel společnosti iSchoolConnect zaměřené na umělou inteligenci, řekl Lifewire v e-mailovém rozhovoru, že umělou inteligenci lze trénovat, aby posuzovala lidské chování a vlastnosti bez dopadu subjektivních předsudků, které jednotlivci mají.
"AI dokáže vyhodnotit výrazně větší množství lidského chování, včetně snadno přehlédnutelných mikrovýrazů, mnohem rychleji než člověk," řekl Fernando. "Tam, kde zpětná vazba mohla trvat hodiny, umělá inteligence nyní může poskytnout totéž během několika minut."
Obavy ochrany soukromí
Využití umělé inteligence ke sledování lidí roste. Snapchat má technologii AI, která posuzuje emoční úroveň skupiny lidí na živé akci. Mad Street Den využívá AI počítačového vidění, aby pomohla maloobchodníkům rozpoznat výrazy obličeje a emoce potenciálních kupujících. BrainQ využívá AI k pochopení toho, jak cestující komunikují s autonomními vozidly, která používají. A společnosti používají AI ke sledování únavy řidičů.
"Toto je skvělý případ použití pro bezpečnost silničního provozu, ale přináší otázky týkající se práv na soukromí řidičů v jejich osobních vozidlech," řekl Huth. "Bude informace o únavě sdíleny s pojišťovnou nebo výrobcem automobilů? Nebo to jen upozorní řidiče, aby zastavil a odpočinul si? To je menší problém pro vozové parky komerčních vozů, jako jsou nákladní vozy, dodávky nebo kabiny."
Jedním problémem je, že informace umělé inteligence, jako je pohyb svalů k odvození emočního stavu, nemusí být spolehlivé, řekl Huth. "To vytváří dilema, protože spolehlivější AI může vyžadovat přístup k ještě citlivějším datům, jako jsou signály EEG," dodal.
Pro studenty může být umělá inteligence užitečná pro sledování dodržování předpisů během online zkoušek, když proktor nemůže být fyzicky přítomen. Ale toto použití umělé inteligence je sporné, řekl Huth, protože systém se snaží určit, zda student má v úmyslu podvádět nebo podvádí, a existuje skutečný potenciál pro falešně pozitivní výsledky, které vedou k neoprávněnému penalizaci studentů, kteří neudělali nic špatného..
„Jakákoli umělá inteligence používaná pro tento účel by musela být dostatečně robustní, aby si poradila s přestávkami na toaletu, nervózními tiky jednotlivých studentů (jako jsou nevyzpytatelné pohyby očí) a tak dále,“řekl Huth.
