A mai magyar közéletre igencsak ráférne egy olyan eszköz, amely csöngetve-villogva figyelmeztetné az utcai járókelőket, a népbutító médiát néző, olvasó, hallgató embereket, hogy vigyázzanak, környezetükben éppen gyűlöletbeszéd zajlik. Erre még várnunk kell, de az interneten mindez hamarabb megvalósulhat majd.

   Az internet egyik legnagyobb társadalmi problémájára, hogy mind több területét árasztja el a rosszindulatú viselkedés a weblapok kommentjeitől a közösségi média posztjain át a videojátékok chat felületeiig – írta az Arsratio.hu.

   Ennek a visszaszorítása mindeddig nagyrészt sikertelen volt, de egy új módszer képes automatikusan azonosítani a gyűlöletbeszéd apró nyelvi nyomait és elkülöníteni őket mikor más, ártalmatlan környezetben használják.
   A sértő szóhasználat nem feltétlenül jelenti azt, hogy valaki tényleg gyalázkodó, mivel az emberek rengeteg különböző okból kifolyólag káromkodnak, például barátok tréfásan is sértegethetik egymást. A legtöbb internetes felület a felhasználóik segítségére szorul, akik a sértő tartalmakat jelenthetik az oldalak fenntartóinak, azonban az emberi moderátorok képtelenek lépést tartani a kifogásolható tartalmak áradatával.
   A megoldás a gyűlöletbeszédek automatikus felismerése lehet. Korábban, ebben az évben a Google megpróbált egy úgynevezett toxikussági pontszámot rendelni a kommentekhez annak alapján, hogy azok mennyire hasonlítanak az emberek által korábban sértőnek jelzett kifejezésekhez. A rendszer hibái azonban felülkerekedtek annak pozitív hatásain.
   Haji Mohammad Saleem, a McGill Egyetem munkatársa és társai egy másik megközelítést keresnek a problémára. Ahelyett, hogy szavakat vagy kifejezéseket különítenének el, arra összpontosítottak, hogy megtanítsák a gépi tanulási algoritmust, hogy a gyűlölködő közösségek hogyan beszélnek.
   A kutatók úgy találták, hogy ez kevesebb hamis eredményhez vezet, mint a szavak szűrésén alapuló módszer. A csapat a rendszert a Reddit kommentjein tesztelte, azonban így nem derült ki, hogy az képes lenne-e a Twitter vagy a Facebook kommentjeit is hatékonyan átvizsgálni.
   Úgy tűnik azonban, hogy bár a rendszer még így is egy új, hatékony eszközt ad a moderátorok kezébe, de a gyakorlat azt mutatja, egyelőre a fáradozások ellenére lehetetlen olyan módszert kitalálni, amely megvéd mindenfajta gyűlölködő szövegtől – írta az Arsratio.hu.
   Persze – tesszük mi hozzá – lehet másként is védekezni: például el lehet gondolkodni egy hír (komment, stb.) igazságtartalmán, és azzal is, ha egyáltalán nem olvasunk gyűlölködő írásokat.