U današnjem digitalnom dobu, gdje svatko ima glas na internetu, problem online toksičnosti i uznemiravanja postaje sve prisutniji. Dok platforme nastoje stvoriti sigurna i uključiva okruženja, opseg nadgledanja svake interakcije može biti prevelik. Ipak, tvrtka pod nazivom Jigsaw, koja spada pod Alphabet Inc., cilja promijeniti to svojim revolucionarnim alatom, PerspectiveAPI.
Pokrenut 2017. godine, PerspectiveAPI koristi umjetnu inteligenciju i algoritme strojnog učenja za analizu toksičnosti online komentara. Procjenjujući potencijalnu toksičnost određenog dijaloga, PerspectiveAPI djeluje kao vrijedan resurs za online platforme, pomažući im da bolje moderiraju i upravljaju sadržajem koji su generirali korisnici. Alat prepoznaje uvredljiv jezik, govora mržnje i opću negativnost, omogućujući učinkovitije implementiranje mjera protiv uznemiravanja.
PerspectiveAPI procjenjuje tekst uzimajući u obzir različite perspektive, osiguravajući sveobuhvatnu analizu. Njegove sposobnosti strojnog učenja omogućuju mu da se neprestano prilagođava stalno promjenjivoj prirodi online jezika i ponašanja. Osim toga, PerspectiveAPI je otvoreno dostupan razvojnim programerima, potičući suradnju i zajedničke napore u borbi protiv online toksičnosti na različitim platformama.
Iako je PerspectiveAPI privukao značajnu pažnju i priznanje, suočava se s konkurencijom u području moderiranja toksičnog sadržaja. Jedan od takvih rivala je OpenAI-ov GPT-3 (Generative Pre-trained Transformer 3), visoko napredni jezični model koji je stekao pozornost zbog svojih impresivnih sposobnosti. GPT-3 može generirati ljudski sličan tekst i potencijalno bi se mogao koristiti za analizu toksičnosti komentara, nudeći platformama alternativno rješenje.
Drugi konkurent u ovom području je Clarifai, koji pruža napredne mogućnosti prepoznavanja slika i teksta. Iako se ne fokusira isključivo na moderiranje toksičnog sadržaja, Clarifai-ova tehnologija može se koristiti za identifikaciju neprimjerenih ili uvredljivih slika i tekstova, dopunjujući napore platformi u stvaranju sigurnijeg online prostora.
U zaključku, PerspectiveAPI, koji je razvio Jigsaw, ostaje na čelu borbe protiv online toksičnosti. Međutim, konkurencija iz alata potpomognutih umjetnom inteligencijom poput GPT-3 i Clarifai pokazuje rastuću odlučnost da se bore protiv negativnih aspekata online interakcija. Kako tehnologija nastavlja napredovati, nada se da će ti alati ne samo učinkovito moderirati online sadržaj, već također poticati više respektabilnu i uključivu internetsku kulturu.
