Вести
04. 07. 2024.
Нови облик осветничке порнографије: Телеграм ботови за „скидање одеће“
Десетине хиљада људи из Србије на Телеграму деле слике жена 'разголићених' вештачком интелигенцијом. Закон жртвама не пружа никакву могућност да се заштите.
|
Адријана Петковић је, пише БИРН, 2020. у купатилу свог дома у Књажевцу направила невини селфи. Четири године касније њеном мужу је колега послао фотографију, коју је добио од другог колеге – на њој је Адријана била без одеће, “свучена” вештачком интелигенцијом. Њена ноћна мора је почела.
„Ја сам мајка два мала детета, имам породицу, родитеље, један стабилан и миран живот и ово је био огроман шок за нас. Ми живимо у малом месту, све су нам то биле огроме непријатности“, 25-годишња Адријана каже за БИРН.
„Ми смо тада звали све за које смо успели да сазнамо да су имали контакт са сликом и задње до чега смо дошли је да је то неко пустио у ту неку Телеграм групу ‘Књазевац – Бор’ и да су је одатле скидали и слали међусобно.”
Случај је пријавила полицији, а затим је две недеље чекала на одговор. Коначно, из полиције су јој рекли да ће упозорити администраторе Телеграм групе, али „да ништа више од тога не могу јер ја нисам уцењивана том сликом, већ је само, ето тако, дељена по групама и порукама”, Адријана објашњава.
„Нисам ни прва ни задња, биле су речи инспектора.”
Она се надала да ће полиција идентификовати особу која је креирала њене лажне слике и да ће моћи да поднесе тужбу. Одговор полиције ју је шокирао.
„Ја сам шокирана да је то најнормалнија ствар коју људи раде и да ти апсолутно ништа не можеш да урадиш против тога. Ти немаш никакву помоћ полиције”, каже Адријана.
Дипфејк порнографија је облик злостављања и злоупотребе фотографија или снимака који се вештачком интелигенцијом (АИ) мењају и претварају у сексуално експлицитне садржаје. Примарне мете су жене.
БИРН-ово истраживање показује да су на Телеграму тренутно активне десетине страница и ботова који омогућавају било коме да користи АИ како би уклонио одећу са фотографије са само неколико кликова.
Адријана Петковић је 2020. у купатилу свог дома у Књажевцу направила невини селфи. Четири године касније њеном мужу је колега послао фотографију, коју је добио од другог колеге – на њој је Адријана била без одеће, “свучена” вештачком интелигенцијом. Њена ноћна мора је почела.
„Ја сам мајка два мала детета, имам породицу, родитеље, један стабилан и миран живот и ово је био огроман шок за нас. Ми живимо у малом месту, све су нам то биле огроме непријатности“, 25-годишња Адријана каже за БИРН.
„Ми смо тада звали све за које смо успели да сазнамо да су имали контакт са сликом и задње до чега смо дошли је да је то неко пустио у ту неку Телеграм групу ‘Књазевац – Бор’ и да су је одатле скидали и слали међусобно.”
Случај је пријавила полицији, а затим је две недеље чекала на одговор. Коначно, из полиције су јој рекли да ће упозорити администраторе Телеграм групе, али „да ништа више од тога не могу јер ја нисам уцењивана том сликом, већ је само, ето тако, дељена по групама и порукама”, Адријана објашњава.
„Нисам ни прва ни задња, биле су речи инспектора.”
Она се надала да ће полиција идентификовати особу која је креирала њене лажне слике и да ће моћи да поднесе тужбу. Одговор полиције ју је шокирао.
„Ја сам шокирана да је то најнормалнија ствар коју људи раде и да ти апсолутно ништа не можеш да урадиш против тога. Ти немаш никакву помоћ полиције”, каже Адријана.
Дипфејк порнографија је облик злостављања и злоупотребе фотографија или снимака који се вештачком интелигенцијом (АИ) мењају и претварају у сексуално експлицитне садржаје. Примарне мете су жене.
БИРН-ово истраживање показује да су на Телеграму тренутно активне десетине страница и ботова који омогућавају било коме да користи АИ како би уклонио одећу са фотографије са само неколико кликова.
Адријана Петковић је 2020. у купатилу свог дома у Књажевцу направила невини селфи. Четири године касније њеном мужу је колега послао фотографију, коју је добио од другог колеге – на њој је Адријана била без одеће, “свучена” вештачком интелигенцијом. Њена ноћна мора је почела.
„Ја сам мајка два мала детета, имам породицу, родитеље, један стабилан и миран живот и ово је био огроман шок за нас. Ми живимо у малом месту, све су нам то биле огроме непријатности“, 25-годишња Адријана каже за БИРН.
„Ми смо тада звали све за које смо успели да сазнамо да су имали контакт са сликом и задње до чега смо дошли је да је то неко пустио у ту неку Телеграм групу ‘Књазевац – Бор’ и да су је одатле скидали и слали међусобно.”
Случај је пријавила полицији, а затим је две недеље чекала на одговор. Коначно, из полиције су јој рекли да ће упозорити администраторе Телеграм групе, али „да ништа више од тога не могу јер ја нисам уцењивана том сликом, већ је само, ето тако, дељена по групама и порукама”, Адријана објашњава.
„Нисам ни прва ни задња, биле су речи инспектора.”
Она се надала да ће полиција идентификовати особу која је креирала њене лажне слике и да ће моћи да поднесе тужбу. Одговор полиције ју је шокирао.
„Ја сам шокирана да је то најнормалнија ствар коју људи раде и да ти апсолутно ништа не можеш да урадиш против тога. Ти немаш никакву помоћ полиције”, каже Адријана.
Дипфејк порнографија је облик злостављања и злоупотребе фотографија или снимака који се вештачком интелигенцијом (АИ) мењају и претварају у сексуално експлицитне садржаје. Примарне мете су жене.
БИРН-ово истраживање показује да су на Телеграму тренутно активне десетине страница и ботова који омогућавају било коме да користи АИ како би уклонио одећу са фотографије са само неколико кликова.
Адријана Петковић је 2020. у купатилу свог дома у Књажевцу направила невини селфи. Четири године касније њеном мужу је колега послао фотографију, коју је добио од другог колеге – на њој је Адријана била без одеће, “свучена” вештачком интелигенцијом. Њена ноћна мора је почела.
„Ја сам мајка два мала детета, имам породицу, родитеље, један стабилан и миран живот и ово је био огроман шок за нас. Ми живимо у малом месту, све су нам то биле огроме непријатности“, 25-годишња Адријана каже за БИРН.
„Ми смо тада звали све за које смо успели да сазнамо да су имали контакт са сликом и задње до чега смо дошли је да је то неко пустио у ту неку Телеграм групу ‘Књазевац – Бор’ и да су је одатле скидали и слали међусобно.”
Случај је пријавила полицији, а затим је две недеље чекала на одговор. Коначно, из полиције су јој рекли да ће упозорити администраторе Телеграм групе, али „да ништа више од тога не могу јер ја нисам уцењивана том сликом, већ је само, ето тако, дељена по групама и порукама”, Адријана објашњава.
„Нисам ни прва ни задња, биле су речи инспектора.”
Она се надала да ће полиција идентификовати особу која је креирала њене лажне слике и да ће моћи да поднесе тужбу. Одговор полиције ју је шокирао.
„Ја сам шокирана да је то најнормалнија ствар коју људи раде и да ти апсолутно ништа не можеш да урадиш против тога. Ти немаш никакву помоћ полиције”, каже Адријана.
Дипфејк порнографија је облик злостављања и злоупотребе фотографија или снимака који се вештачком интелигенцијом (АИ) мењају и претварају у сексуално експлицитне садржаје. Примарне мете су жене.
БИРН-ово истраживање показује да су на Телеграму тренутно активне десетине страница и ботова који омогућавају било коме да користи АИ како би уклонио одећу са фотографије са само неколико кликова.
Адријана Петковић је 2020. у купатилу свог дома у Књажевцу направила невини селфи. Четири године касније њеном мужу је колега послао фотографију, коју је добио од другог колеге – на њој је Адријана била без одеће, “свучена” вештачком интелигенцијом. Њена ноћна мора је почела.
„Ја сам мајка два мала детета, имам породицу, родитеље, један стабилан и миран живот и ово је био огроман шок за нас. Ми живимо у малом месту, све су нам то биле огроме непријатности“, 25-годишња Адријана каже за БИРН.
„Ми смо тада звали све за које смо успели да сазнамо да су имали контакт са сликом и задње до чега смо дошли је да је то неко пустио у ту неку Телеграм групу ‘Књазевац – Бор’ и да су је одатле скидали и слали међусобно.”
Случај је пријавила полицији, а затим је две недеље чекала на одговор. Коначно, из полиције су јој рекли да ће упозорити администраторе Телеграм групе, али „да ништа више од тога не могу јер ја нисам уцењивана том сликом, већ је само, ето тако, дељена по групама и порукама”, Адријана објашњава.
„Нисам ни прва ни задња, биле су речи инспектора.”
Она се надала да ће полиција идентификовати особу која је креирала њене лажне слике и да ће моћи да поднесе тужбу. Одговор полиције ју је шокирао.
„Ја сам шокирана да је то најнормалнија ствар коју људи раде и да ти апсолутно ништа не можеш да урадиш против тога. Ти немаш никакву помоћ полиције”, каже Адријана.
Дипфејк порнографија је облик злостављања и злоупотребе фотографија или снимака који се вештачком интелигенцијом (АИ) мењају и претварају у сексуално експлицитне садржаје. Примарне мете су жене.
БИРН-ово истраживање показује да су на Телеграму тренутно активне десетине страница и ботова који омогућавају било коме да користи АИ како би уклонио одећу са фотографије са само неколико кликова.
Новинарка БИРН-а је месец дана тестирала јавно доступне ботове који се деле у популарним Телеграм групама на Балкану. Неки се плаћају, а неки нуде бесплатни пробни период. Сви су једноставни за коришћење.
„Последице су идентичне као када се објави права, неизмењена фотографија жене, девојке или девојчице сексуалне садржине. Чак може бити и гора, јер жртва зна да се није тако фотографисала, а не може да доказе да није. Сви који виде фотографију аутоматски мисле да јесте”, каже Вања Мацановић, правница Аутономног женског центра, невладине организације која пружа правну и психолошку помоћ жртвама насиља над женама.
У Србији ова пракса није експлицитно забрањена законом и женама попут Адријане Петковић не преостаје много тога, осим да поднесу приватну тужбу уколико сазнају ко је починилац.
Држава мора да реагује, упозорава Мацановић, или ће ситуација постати још гора.
„Тако учиниоци ових дела у Србији остају некажњени, као и платформе преко којих се то ради”, рекла је она за БИРН.
Уколико Србија не измени Кривични законик, додаје Мацановић, „оваквих случајева ће бити све више и више, и то ће постати доминантан начин и вршњачког насиља према девојчицама, као и насиља према женама од стране бивших партнера.”
Починиоци без казни
У мају, полиција на Косову ухапсила је седам особа осумњичених да су били администратори Телеграм групе Албкингс у којој су делили увредљиве видео снимке, дипфејк слике и личне податке жена са више од 100.000 чланова.
У Хрватској је 2021. године у Кривични закон уведено кривично дело ‘злоупотреба сексуално експлицитног садржаја’.
Прошле године, Црна Гора је увела посебно кривично дело за злоупотребу туђег снимка, фотографије, портрета, аудио записа или фајла са сексуално експлицитним садржајем, са казном од шест месеци до две године затвора.
Србија нема сличан закон.
Дипфејк порнографија се масовно дели на Телеграму
Лакоћа с којом се невина фотографија може претворити у сексуално експлицитну многима је дубоко узнемирујућа.
На Дан жена, 8. марта, ‘Џони’, администратор и власник неколико Телеграм група познатих по дељењу интимних фотографија жена без њиховог знања и дозволе, објавио је две слике популарне певачице Гоце Тржан у групи Балкан Порн, која има више од 70.000 чланова.
На првој, коју је Тржан објавила на својој Инстаграм страници 2020. године, певачица је код куће и носи сиву мајицу; у посту објављеном уз фотографију, Тржан је својих пола милиона пратилаца обавестила о својим изазовима са вантелесном оплодњом.
Џони је затим поделио нову верзију фотографије, на којој Тржан изгледа као да је потпуно гола. Истог дана у истој Телеграм групи, Џони је поделио фотографију непознате жену тамне косе у розе летњој мајици како седи у кафићу у Будви. Неколико тренутака касније, поделио је другу слику на којој је иста жена, на истом месту, потпуно гола.
Тржан за БИРН каже да не могу да је повреде људи који су објавили дипфејк фотографије.
„Мене не може да повреди, јер ја сам јавна личност и прошла сам кроз свашта, али има ту неких анонимних жена које то може заиста озбиљно да повреди, да им загорча живот без икаквог разлога.
„Али очито то јесте њихов циљ, јер ако нека анонимна жена осване на тим фотографијама, очито је нека малициозна намера у питању. Ја их питам: имате ли мајке, имате ли сестре, рођаке. Имате ли, бре, мозга?”, каже Тржан.
Пре више од годину дана, БИРН је писао о Џонијевој улози у неовлашћеном дељењу интимних слика, али он и даље слободно и активно постује и администрира групама на Телеграму.
БИРН је тада објавио исповести 28 жена и девојака широм Србије о ужасним последицама осветничке порнографије.
После БИРН-овог истраживања, Телеграм је угасио 16 група чији чланови су објављивали интимне фотографије и снимке жена, али Џони и њему слични једноставно су отворили нове.
Током само неколико сати 8. марта, Џони је поделио низ фотографија различитих жена ‘скинутих’ помоћу АИ.
Тренутно постоји најмање 20 Телеграм група чији чланови са Балкана стално деле неовлашћене интимне слике и снимке, које редовно прате вулгарни и деградирајући коментари о изгледу жена. Чланови ових група свакодневно промовишу или траже линкове за такозване „ботове за скидање жена“.
Телеграм свакога дана користи више од 700 милиона људи. Иако га већина користи за дописивање, ова платформа омогућава корисницима да креирају аутономне програме, или ‘ботове’, који могу генерисати дипфејк наге фотографије. Услови коришћења Телеграма јасно наводе да платформа не сме да се користи за дељење порнографског материјала.
Телеграм није одговорио на захтев за коментаром.
Али је Гоца Тржан жртвама дипфејк порнографије упутила јасну поруку, позивајући их да остану јаке.
„Женама којима се ово деси, желим да кажем да апсолутно не треба да се крију, јер они то и желе да постигну – да се кријете, да се стидите, да се осећате лоше. Ходајте усправне главе и правог и бистрог погледа и сваког ко вас пита за ту фотографију, избришите са листе пријатеља и рођака. Немате чега да се стидите”, каже Тржан.
Ботови за скидање жена: Од обичне до експлицитне фотографије кроз неколико кликова
БИРН је, за потребе овог текста, тестирао неке од јавно доступних ботова који су дељени у популарним Телеграм групама у Србији. Нису коришћене стварне фотографије жена, већ је новинарка БИРН-а креирала неколико реалистичних АИ фотографија жена у различитим одевним комбинацијама. Ове фотографије су затим коришћене за тестирање једног популарног бота, који нуди „уклањање непотребне одеће са фотографија“.
„Чекам слику, пошаљите ми је,“ поручује корисницима.
Неколико секунди пошто је новинарка убацила АИ-генерисану фотографију жене у пословном оделу, добила је слику наге жене. Од бота су јој затим стигла и упутства о томе како да се претплати и захтев за потврди да има више од 18 година. Међутим, бот не тражи никакав доказ о годинама корисника, нити потврду да корисник има дозволу да користи оригиналну фотографију.
Из ЦлотхОФФ-а, компаније која стоји из овог бота, за БИРН кажу: „Током регистрације на ЦлотхОфф, корисник прихвата кориснички споразум, који каже да је строго забрањено обрађивати фотографије људи без њиховог пристанка, и слати фотографије које могу увредити другу особу.“
Вештачка интелигенција „поново црта целу фотографију по задатим параметрима“, додају из ове компаније, а „добијени резултат није оригинална фотографија већ само цртеж [који је произвела] неутрална мрежа“.
„Стотине хиљада људи цене хумор и само добијају позитивне емоције, што се може доказати бројним позитивним рецензијама и десетинама хиљада лајкова на друштвеним мрежама.“
Крајем априла, канал ове фирме је имао око 155.000 пратилаца, што значи да је барем толико људи покушало да користи бота. Месец дана касније, тај број је порастао на више од 535.000.
Корисницима је дозвољено да бесплатно генеришу три голе слике, а затим морају да плате како би наставили да користе бота.
Креиран у мају 2023. године, овај Телеграм канал редовно нуди посебне понуде – попуст од 60 одсто и пет бесплатних токена за Нову годину; „ружичасто доње рубље“ за Дан заљубљених; бесплатне токене за генерисање слика за Међународни дан жена. Најновија опција омогућава корисницима да изаберу одевне комбинације – „школарац, учитељица, полицајац, трудна“.
БИРН је идентификовао мрежу канала и ботова исте компаније на Телеграму, међу којима је и канал у чијем називу се користи реч „дипголотиња”, који има више од 190,000 претплатника.
У марту ове године, британски Гардијан је повезао фирму ЦлотхОфф са братом и сестром из Белорусије – Дашом и Алаиксандром Бабичау.
Главни инциденати у откривању злоупотребе сексуално експлицитних видео снимака и фотографија од 2021. до 2024. године. Илустрација: Игор Вујчић/БИРН
Злостављање славних само врх леденог брега
Током неколико месеци праћења порука у више Телеграм група у Србији и региону, БИРН је идентификовао десетине објава у којима су чланови тражили или делили линкове ка ботовима за ‘свлачење жена’ .
Један од често дељених Телеграм ботова креирала је компанија ИнсОФФ у јануару 2023. Пратећи Телеграм канал, који промовише овог бота, има више од 81.000 претплатника. То је бот који је Џони користио да свуче неколико жена за само један дан.
Упутства су једноставна:
„Само пошаљите своје фотографије […], тако је једноставно! ????’,“ пише на страници.
Корисници добијају упутства о томе које фотографије дају најбоље резултате. На страници се наводи и да се поштује приватност и да страница не чува фотографије. Али у правилима не пише ништа о дозволи да се фотографија користи или обрађује.
Једна слика кошта један долар, док се за 3,90 долара – отприлике 430 динара – може купити 10 слика, а плаћа се криптовалутом, ПаyПал-ом и другим онлине методама плаћања.
Ни Телеграм ни ИнсОфф нису одговорили на питања БИРН-а.
Више од 95 одсто дипфејк садржаја је сексуално експлицитни садржај, показало је истраживању објављеном у часопису Сага Јоурнал у децембру 2022.
У јануару је ББЦ објавио да је експлицитна дипфејк фотографија америчке певачице Тејлор Свифт „наводно прегледана 47 милиона пута“ пре него што је X, раније познат као Тwиттер, уклонио и обећао да ће предузети „одговарајуће кораке“ против налога који су је делили.
Али док друштвене мреже брзо реагују када је у питању злоупотреба фотографија познатих личности, оне су само врх леденог брега.
У марту је ИнсОФФ најавио да пушта 11 нових ботова на локалним језицима за различите државе, међу којима су Немачка, Италија, Шпанија, Француску, Израел и Јапан.
Количина експлицитних дипфејк слика које се свакодневно генеришу и деле само на Телеграму показује да такве платформе „апсолутно не чине довољно да се изборе са проблемом дипфејк порнографије и заштите жртве“, каже Невена Кривокапић Мартиновић, адвокатица из ШАРЕ фондације, невладине организације за дигитална права.
„Модерација је […] веома тежак задатак са којим је очигледно тешко ухватити се у коштац. Уколико платформе нису способне да избалансирају право на слободу изражавања у односу на право на приватност, онда су дужне да корисницима пруже једноставне и ефикасније механизме пријаве како би такав садржај уклонили са платформи и како би жртве барем саме могле да боре своје битке пред надлежним органима у својим земљама. Тренутна ситуација само кочи и ограничава жртве да се изборе за своја права“, каже Кривокапић Мартиновић.
Овакво одсуство реакција ставља жене попут Адријане у ситуацију из које не знају како да изађу.
„Сада искрено ни сама не знам којим путем бих могла даље да идем, а да се моји случај реши и сазнам ко је то објавио у тој Телеграм групи,” каже она.
Нико од људи који су делили дипфејк фотографију са њеним ликом није нашао за шодно да јој се извини.
„Ти мушкарци су наши пријатељи, познаници, они су долазили у нашу кућу, знају моју децу. Људи када ме сретну на улици ми кажу: ‘Ма шта те брига, заборавиће се’. Али ја не могу да заборавим.”
Коментари (0)
Остави коментарНема коментара.