Педофилите използват технологията на изкуствения интелект (AI), за да създават и продават реалистични материали за сексуално малтретиране на деца, установи BBC.
Някои имат достъп до изображенията, като плащат абонаменти на акаунти в масови сайтове за споделяне на съдържание като Patreon.
Patreon каза, че има политика на „нулева толерантност“ към подобни изображения на своя сайт.
Съветът на началника на националната полиция заяви, че е "възмутително", че някои платформи правят "огромни печалби", но не поемат "морална отговорност".
И GCHQ, правителствената агенция за разузнаване, сигурност и киберпространство, отговори на доклада, като каза: „Извършителите на сексуално насилие над деца възприемат всички технологии и някои вярват, че бъдещето на материалите за сексуално насилие над деца е в съдържание, генерирано от AI.“
Създателите на злоупотребяващите изображения използват AI софтуер, наречен Stable Diffusion, който е предназначен да генерира изображения за използване в изкуството или графичния дизайн.
AI позволява на компютрите да изпълняват задачи, които обикновено изискват човешки интелект.
Софтуерът Stable Diffusion позволява на потребителите да опишат, използвайки подкани с думи, всяко изображение, което желаят - и след това програмата създава изображението.
Но BBC установи, че се използва за създаване на реалистични изображения на сексуално насилие над деца, включително изнасилване на бебета и малки деца.
Екипите за онлайн разследване на малтретиране на деца на британската полиция казват, че вече се натъкват на такова съдържание.
Изследователят на свободна практика и журналист Октавия Шийпшенкс разследва този въпрос от няколко месеца. Тя се свърза с BBC чрез благотворителната организация за деца NSPCC, за да подчертае откритията си.
„Откакто изображенията, генерирани от изкуствен интелект, станаха възможни, имаше това огромно наводнение… не са само много млади момичета, педофилите говорят за малки деца“, каза тя.
Какво е AI и опасно ли е?
„Псевдо изображение“, генерирано от компютър, което изобразява сексуално насилие над деца, се третира по същия начин като истинско изображение и е незаконно да се притежава, публикува или прехвърля в Обединеното кралство.
Ръководителят на Националния съвет на началниците на полицията (NPCC) по въпросите на защитата на децата, Иън Кричли, каза, че би било погрешно да се твърди, че тъй като в такива „синтетични“ изображения не са изобразени истински деца, никой не е бил наранен.
Той предупреди, че един педофил може „да се движи по тази скала на оскърбление от мислене, през синтетично, до действително малтретиране на живо дете“.
Педофилите правят изображения с помощта на AI софтуер
Те популяризират снимки на платформи като японски уебсайт за споделяне на снимки, наречен Pixiv
Тези акаунти имат връзки за насочване на клиенти към техните по-явни изображения, които хората могат да платят, за да видят в акаунти на сайтове като Patreon
Някои от създателите на изображения публикуват в популярна японска платформа за социални медии, наречена Pixiv, която се използва главно от артисти, споделящи манга и аниме.
Но тъй като сайтът се хоства в Япония, където споделянето на сексуализирани карикатури и рисунки на деца не е незаконно, създателите го използват, за да популяризират работата си в групи и чрез хаштагове - които индексират темите, използвайки ключови думи.
Говорител на Pixiv каза, че поставя огромен акцент върху решаването на този проблем. На 31 май тя заяви, че е забранила всички фотореалистични изображения на сексуално съдържание, включващо непълнолетни.
Компанията заяви, че проактивно е засилила своите системи за наблюдение и отделя значителни ресурси за противодействие на проблемите, свързани с развитието на Изкуствения интелект.
Г-жа Шийпшенкс каза пред Би Би Си, че нейните изследвания показват, че изглежда потребителите правят изображения на насилие над деца в индустриален мащаб.
„Обемът е просто огромен, така че хората (създателите) ще кажат „имаме за цел да правим поне 1000 изображения на месец“, каза тя.
Коментарите на потребители за отделни изображения в Pixiv показват ясно, че имат сексуален интерес към деца, като някои потребители дори предлагат да предоставят изображения и видеоклипове на малтретиране, които не са генерирани от AI.
Г-жа Шийпшенкс наблюдава някои от групите в платформата.
„В тези групи, които ще имат 100 члена, хората ще споделят: „О, ето линк към истински неща“, казва тя.
„Най-ужасното е, че дори не знаех, че съществуват такива думи описанията.”
Различни ценови нива
Много от акаунтите в Pixiv включват връзки в биографиите си, насочващи хората към това, което те наричат „нецензурирано съдържание“ в базирания в САЩ сайт за споделяне на съдържание Patreon.
Patreon се оценява на приблизително 4 милиарда долара и твърди, че има повече от 250 000 създатели - повечето от тях легитимни акаунти, принадлежащи на добре известни знаменитости, журналисти и писатели.
Феновете могат да подкрепят създателите, като вземат месечни абонаменти за достъп до блогове, подкасти, видеоклипове и изображения - плащайки само $3,85 (£3) на месец.
Но нашето разследване установи, че акаунти в Patreon предлагат генерирани от AI, фотореалистични неприлични изображения на деца за продажба, с различни нива на ценообразуване в зависимост от вида на заявения материал.
Единият написа в акаунта си: „Тренирам моите момичета на моя компютър“, добавяйки, че те показват „подчинение“. За $8,30 (£6,50) на месец друг потребител предложи „изключително нецензурирано изкуство“.
BBC изпрати на Patreon един пример, който платформата потвърди, че е „полуреалистичен и нарушава нашите политики“. Каза, че акаунтът е незабавно премахнат.
Patreon заяви, че има политика на „нулева толерантност“, настоявайки: „Създателите не могат да финансират съдържание, посветено на сексуални теми, включващи непълнолетни“.
Компанията каза, че увеличаването на генерираното от AI вредно съдържание в интернет е „реално и тревожно“, добавяйки, че е „идентифицирала и премахнала нарастващи количества“ от този материал.
„Ние вече забраняваме генерирани от AI синтетични материали за експлоатация на деца“, каза той, описвайки себе си като „много проактивен“, със специални екипи, технологии и партньорства, за да „пазят тийнейджърите в безопасност“.
Генераторът на AI изображения Stable Diffusion е създаден като глобално сътрудничество между академици и редица компании, водени от британската компания Stability AI.
Бяха пуснати няколко версии с ограничения, записани в кода, които контролират вида на съдържанието, което може да се направи.
Но миналата година за обществеността беше пусната по-ранна версия с "отворен код", която позволи на потребителите да премахнат всякакви филтри и да я обучат да създава всякакви изображения - включително незаконни.
Stability AI каза за BBC, че „забранява всяка злоупотреба за незаконни или неморални цели в нашите платформи и нашите политики са ясни, че това включва CSAM (материали със сексуално насилие над деца).
„Ние силно подкрепяме усилията на правоприлагащите органи срещу онези, които злоупотребяват с нашите продукти за незаконни или нечестиви цели“.
Тъй като Изкуственият интелект продължава да се развива бързо, бяха повдигнати въпроси относно бъдещите рискове, които може да представлява за поверителността на хората, техните човешки права или тяхната безопасност.
.
Стани фен на Facebook страницата на DenNews.bg
