Klíčové poznatky
- ToxMod od bostonské společnosti Modulate tvrdí, že automaticky v reálném čase detekuje rušivou řeč a působí proti ní.
- Místo toho, aby byl ToxMod omezován jednoduchým jazykem, používá strojové učení k tomu, aby zjistil nehmotné věci, jako jsou emoce, hlasitost a rytmus.
- ToxMod je aktuálně navržen pro použití s herními chatovacími místnostmi, ale není důvod, proč by nemohl přijít na váš kanál Twitch.
Společnost se sídlem v Bostonu používá strojové učení k vytvoření toho, co účtuje jako první hlasově nativní moderovací služba na světě, která dokáže rozpoznat rozdíl mezi tím, co se říká, a tím, co to znamená.
ToxMod je pokusem vyřešit paradox moderování jakéhokoli otevřeného prostoru na internetu; není dost lidí, kteří by drželi krok s poptávkou, ale algoritmy, filtry a systém zpráv nerozumí nuancím.
S databází ToxMod může sledovat faktory v řeči hráčů, jako jsou emoce a hlasitost, což pomáhá rozlišovat mezi momentálním výpadkem a vzorcem chování. Nedávno byla oznámena jako doplněk ke hře 7v7 amerického fotbalu Gridiron, která je momentálně ve službě Steam Early Access.
„Každý ví, že obtěžování, projevy nenávisti a toxicita v hlasovém chatu a hraní her jsou obrovským problémem. Tomu se běžně rozumí,“řekl Carter Huffman, technologický ředitel a spoluzakladatel společnosti Modulate, na setkání Google s Lifewire. „Mohli bychom vzít funkce, které jsme extrahovali prostřednictvím této řady systémů strojového učení, a spojit je do systému, který zohlednil všechny tyto odborné znalosti, které jsme se naučili od komunity."
Velmi pozdravujte naši noví robotičtí moderátoři
Modulate pracuje na ToxModu od loňského podzimu a začlenil jej jako jednu ze tří hlavních služeb společnosti. Nabízí také VoiceWear, hlasový maskér poháněný strojovým učením, a VoiceVibe, službu agregátoru, která uživatelům umožňuje zjistit, o čem lidé v jejich komunitách diskutují.
Když je ToxMod spuštěn v chatu, lze jej naprogramovat prostřednictvím panelu administrátora Modulate tak, aby prováděl různé automatické akce, jako je vydávání varování, ztlumení hráčů nebo individuální úprava hlasitosti.
Používá systém třídění, kde jako první zasáhne jeho místní instance, než zkontroluje potvrzení na serverech Modulate. Pak to konečně eskaluje do bodu, kdy by to mohlo vyžadovat lidský zásah. Probíhá-li postupně každou kontrolu, kterou Modulate nazývá „třídicí brány“, myšlenkou je, že ToxMod poskytuje malému týmu moderátorů nástroje, pomocí kterých efektivně moderuje mnohem větší komunitu.
„Smutnou pravdou je, že každý měl tu zkušenost, kdy se pokoušel používat hlasový chat na jakékoli platformě, na které jsi byl, a zjistil, že, chlapče, to byl špatný nápad,“řekl generální ředitel Modulate Mike Pappas v rozhovoru. videohovor s Lifewire. „Být schopen jít dovnitř a říct: ‚Toto není Divoký západ. Existují pravidla.‘Myslím, že to je opravdu důležité.“
Breaking the System
Samozřejmě, že druhá nebo třetí otázka týkající se ToxModu je, jak to prolomit.
S mnoha automatickými systémy moderování, jako jsou například algoritmy, kterými se řídí Twitter, je snadné je hrát proti lidem, které nemáte rádi. Stačí hromadně nahlásit svůj cíl pomocí několika loutkových účtů a oni vám spolehlivě sežerou ban.
„Na základní úrovni se ToxMod nemusí spoléhat na další hlášení hráčů,“řekl Pappas. „Stále dokáže produkovat solidní odhady toho, jakým přestupkům musíme věnovat pozornost. Nemusíte se bát, že by se hráči snažili systém hrát, protože ve skutečnosti není co hrát.
Každý ví, že obtěžování, projevy nenávisti a toxicita v hlasovém chatu a hraní jsou obrovský problém.
„Vše, co máte jako hráč pod kontrolou, je váš vlastní zvuk,“pokračoval Pappas. "Nejhorší věc, kterou můžete udělat, je být k člověku méně zlý, abychom vás neoznačili za špatného herce, což, řekl bych, je něco blízkého úspěchu mise."
Obecně je tedy myšlenkou ToxMod aktivní pokus o rekultivaci. Mnoho hráčů v tomto okamžiku zažilo nějakou formu obtěžování od náhodných cizinců v otevřených hlasových kanálech, od náhodných urážek až po aktivní hrozby. V důsledku toho mají hráči tendenci se hlasovému chatu obecně vyhýbat a raději se vzdají jeho pohodlí výměnou za svůj vlastní klid.
„Očekáváme, že [jsou špatní herci, kteří tráví] mnohem méně času v hlasovém chatu, než budou nalezeni a odstraněni,“řekl Pappas."To má víc než jen lineární dopad. Když každý vidí hlasový chat jako bezpečnější místo, více dobrých herců je ochotných se vrátit k hlasovému chatu a zkusit to. Myslím, že se vše může vyvíjet pozitivním směrem."
