Када су се после летњег распуста вратиле у школу, више од двадесет девојчица из Алмендралеха, града на југу Шпаније, добило је своје наге фотографије на мобилним телефонима. Ниједна од њих се није сликала, али су изгледале потпуно реално. Фотографије су украдене са њихових Инстаграм налога, измењене помоћу апликације вештачке интелигенције, а затим подељене у Воцап групама.
Тинејџерке су на правим фотографијама биле потпуно обучени али апликација је учинила да измене изгледају потпуно стварно. Сада се родитељи и тужиоци питају да ли је почињен злочин, чак и ако су слике заиста стварне – да ли се слике могу сматрати дечјом порнографијом?
„Монтаже су урађене крајње реално и веома сам узнемирена и бесна“, написала је једна од мајки тих девојака Мириам Ал Адиб на свом Инстаграм налогу.
„Ћерка ми је са великим гађењем рекла: ‘Мама, види шта су ми урадили’,“ додала је Ал Адиб, која је веома уплашена да би те фотографије могле доспети на интернет портале као што су Онлифанс или порнографске веб странице.
Све време девојчице су биле изложене коментарима другарица из разреда које су им чак рекле да се не секирају превише јер многе девојке намерно остављају сличне слике на својим профилима. Најмлађа од девојчица има само 11 година и још није у средњој школи.
Друга мајка Фатима Гомез рекла је за телевизију Екстремадура да је њена ћерка могла да постане жртва уцене.
Наиме, један дечак који је с њом разговарао на друштвеним мрежама, тражио је од ње новац да не објави слику, а кад је она одбила, послао јој је голу слику.
Случај је прослеђен Тужилаштву за малолетнике, а сам градоначелник је упозорио: „Можда је почело као шала, али су импликације много веће и могу имати озбиљне последице по оне који направио ове фотографије“.
10 евра за 25 фотографија
Хиперреалистичне креације вештачке интелигенције, познатије као деепфакес, направљене су помоћу апликације ЦлотхОфф.
Уз слоган „Свуците било кога, скините девојке бесплатно“, апликација омогућава корисницима да скину одећу са сваког ко се појави у галерији слика на њиховом телефону.
За креирање 25 голих слика цена је 10 евра. Иако голотиња није права, мајке кажу да су девојчице веома узнемирене гледањем тих слика јер изгледају као праве.
„Нисте свесни штете коју сте нанели овим девојкама и такође нисте свесни злочина који сте починили,“ написала је на Инстаграму Ал Адиб у поруци упућеној људима који су поделили слике. „Један од њих је рекао мојој ћерки да је урадио „неке ствари“ са њеном фотографијом,“ рекла је још једна од мајки шпанском листу Ел Паис.
Али могу ли се креације вештачке интелигенције законски казнити?
„Једно питање је да ли то треба да буде кажњено, а друго је да ли се може казнити начином на који закон тако нешто предвиђа у Шпанији и другим земљама ЕУ,“ рекао је Мануел Канцио, професор кривичног права на Аутономном универзитету у Мадриду, за Еуронеwс.
Професор истиче да постоји законска рупа јер коришћење малолетничких лица на фотографијама утиче на њихову приватност, али када су у питању злочини у којима се дистрибуирају интимне слике, слика у целини нарушава приватност.
„Пошто га генерише деепфаке, стварна приватност дотичне особе није угрожена. Ефекат који има (на жртву) може бити веома сличан правој голој слици, али закон је један корак иза“, додаје професор Кансио и каже да би правни оквир који би могао да функционише у овом случају био злочин против моралног интегритета, али да је то „нека врста кутије за злочине коју нико не зна где да стави“.
Може ли се то сматрати дечјом порнографијом?
Стручњаци су подељени око тога да ли би се кривично дело могло сматрати дистрибуцијом дечје порнографије, за коју би била већа казна, и радије су на опрезу. За Леандра Нуњеза, адвоката специјализованог за нове технологије у адвокатској канцеларији Ауденс, кључ није у томе да ли је фотографија 100% стварна, већ да ли изгледа да јесте.
„Најважније је да ли се лице може идентификовати. Могли бисмо да говоримо о дечијој порнографији, злочинима против моралног интегритета или дистрибуцији слика сексуалног садржаја без пристанка,“ рекао је адвокат за Еуронеwс.
„У случају кривичног дела против моралног интегритета, то би се сматрало лакшим злочином, па би за њега била предвиђена мања казна од шест месеци до две године затвора,“ он додаје.
Други стручњаци, као што је Елои Фонт, адвокат у Фонт Адвоцатс, адвокатској фирми специјализованој за дигитално право, сматра да би се то могло класификовати као кривично дело слично репродукцији сексуалних слика малолетника. У овом случају, казна би могла бити између пет и девет година затвора.
