ToxMod - sztuczna inteligencja wkracza do serii Call of Duty, aby namierzyć toksycznych graczy

Ponownie wracamy do tematu szeroko pojętej toksyczności oraz nieprzyzwoitych zachowań wśród graczy. Sporo przedsiębiorstw wprowadza lepsze systemy, które mają przeciwdziałać wspomnianym działaniom. Tym razem do walki z tym procederem zaangażowano algorytmy sztucznej inteligencji w postaci oprogramowania ToxMod. Mimo że jest ono już stosowane w niektórych produkcjach, to obecnie wprowadzane jest również do serii Call of Duty.

Activision nawiązał współpracę z firmą Modulate, aby wprowadzić w serii Call of Duty system ToxMod. Oprogramowanie ma na celu wyszukiwać i zgłaszać toksycznych graczy poprzez analizowanie toczonych rozmów.

Microsoft wprowadza nowy system ostrzeżeń na konsolach Xbox, który pozwoli kontrolować toksycznych graczy

ToxMod to oprogramowanie, które zostało wyszkolone (dzięki uczeniu maszynowemu) w taki sposób, aby móc określić, jaki jest konkretny przekaz wypowiedzianych słów przez graczy. Analizuje on nie tylko pojedyncze słowa, ale także ton wypowiedzi i stara się ustalić emocje oraz intencje konkretnego gracza. Firma Modulate stawia sobie poprzeczkę dość wysoko, albowiem algorytmy mają dokładnie określić  kontekst oraz całościowy sens. ToxMod ma także odróżniać faktyczną mowę nienawiści od zwykłych przyjacielskich zaczepek. System ma za zadanie jedynie wykrywać potencjalnie toksyczne zachowania (również takie, które mają kontekst seksualny lub namawiają nieletnich do podjęcia określonych działań) i je zgłaszać. Podjęcie ostatecznej decyzji odnośnie wymierzenia kary nadal będzie należeć do ludzi. Oczywiście wszystkie konwersacje mają być także odpowiednio zabezpieczone. Oprogramowanie od Modulate doczeka się już niebawem pełnej implementacji w niektórych tytułach z serii Call of Duty.

Xbox testuje funkcję służącą do łatwego nagrywania i zgłaszania toksycznego zachowania graczy

ToxMod został wprowadzony 30 sierpnia 2023 roku w ramach beta testów na serwerach w Ameryce Północnej. Produkcje, jakimi objęto ten proces, to Call of Duty: Modern Warfare II oraz Warzone. Globalne (z wyjątkiem Azji) uruchomienie systemu zostało zaplanowane na 10 listopada bieżącego roku, wraz z nadejściem premiery Call of Duty: Modern Warfare III. Tytuł ten również będzie miał na pokładzie omawiany program. Początkowo dostępny będzie jedynie w języku angielskim, natomiast z czasem się to zmieni i dodane zostanie wsparcie także dla innych języków. Po ostatnich działaniach innych firm można zaobserwować, że już niebawem ToxMod, a także podobne rozwiązania, będą wdrażane na dużo większą skalę. Z pewnością przełoży się to na mniejszy odsetek wulgarnych zachowań wśród wielu osób.