Вести
21. 06. 2024.
Klix.ba користи AI за спречавања говора мржње у коментарима посјетилаца
Портал Klix.ba је почетком мјесеца извијестио да је увео кориштење вештачке интелигенције (АИ) на својој платформи како би ефикасније сузбио говор мржње у секцији коментари.
Увођење алата АИ је, како је саопштено из редакције, дошло након година кориштења разних алгоритама и ангажовања администратора, чији су напори били значајни, али, како је истакнуто, недовољни за потпуно елиминисање проблема.
Како би сузбили говор мржње у секцији коментара почели су користити последњу верзију алата ChatGPT из компаније Open AI, америчке организације за истраживање вештачке интелигенције која је и развила наведени популарни чeтбот. Семир Хамбо, главни и одговорни уредник на Кликсу, каже да га користе искључиво у наведеној секцији.
“С обзиром да је споменута верзија унапријеђена да може детектовати говор мржње и то прилично прецизно и на нашем језику задовољни смо што у те сврхе можемо користити технологију”, рекао је Хамбо за Медиа.ба.
Објашњава да алат ради тако што прије објаве коментара детектује да ли садржава говор мржње. Додао је да може радити у реалном времену и да прилично поуздано може детектовати и покушаје преваре код корисника, односно оних који користе одређене симболе или знакове да напишу коментар који је говор мржње. Ипак, како је нагласио, може се десити да одређени коментари, односно неке ријечи прођу, али је то, како је додао Хамбо, занемариво у односу на бенефите које алат доноси.
Кликс је извијестио и да је увођење умјетне интелигенције значајно смањило количину говора мржње на платформи, а прецизне статистике за сада немају јер је, како је казао Хамбо, потребно да прође одређено вријеме да би видјели конкретне бројке.
“Оно што до сада ми видимо у статистици је огроман корак ка потпуном спречавању говора мржње”, рекао је.
Редакције у свијету користе алате АИ за модерацију коментара, а једна од њих је и Финациал Тимес. У разговору за Јоурналисм.цо.ук, уредница Финанциал Тимеса Луцy Wарwицк-Чинг је испричала да је њихов медиј имао посвећен тим људских модератора, али да нису могли пратити све коментаре с обзиром на количину објављених прича. Одлучили су да почну користити алат Утопиа Аналyтицса, финске компаније која омогућава аутоматизовано модерирање на било којем језику коментара читатеља. И у овом случају се филтрира неприкладно понашање, малтретирање, говор мржње, дискриминација, сексуално узнемиравање, али и нежељена пошта.
Глобално истраживање Journalism AI из 2023. о кориштењу AI и генеративне AI је показало да велика већина испитаника из медија, око 85 посто, је експериментисала са genAI технологијама попут писања кода, генерисања слика и сажетака текстова.
Текст Медиацентра Сарајево је показао да новинари и уредници у Босни и Херцеговини срамежљиво и са опрезом говоре о употреби АИ. Већина новинара с којима смо разговарали казали су или да до сада нису користили АИ алате или су након тестирања одлучили да их не користе јер сумњају у истинитост информација које пружа.
Алат Open AI-а за модерацију садржаја је, како је саопштила компанија, бесплатна за кориштење за већину програмера и користи се за идентификацију садржаја који би могао бити штетан. Компанији модели класификују категорије попут говора мржње, пријетећег садржаја, узнемиравања, самоозљеђивања, насилног садржаја. Open AI је поставио и кодове и објашњења за програмере за функционисање алата.
Коментари (0)
Остави коментарНема коментара.