AI i aplikacje do „rozbierania” osób na zdjęciach. Ofiarami mogą stać się również dzieci

Wystarczy jedno, nawet całkowicie niewinne zdjęcie, by tzw. sztuczna inteligencja zamieniła je w pornograficzny materiał. Coraz więcej aplikacji pozwala tworzyć takie treści w zaledwie kilka sekund, a skala zjawiska zaczyna niepokoić ekspertów. Około połowa amerykańskich nastolatków przyznaje, że widziała pornografię wygenerowaną przez AI.

Tzw. „aplikacje do rozbierania” (ang. nudify apps) korzystają z oprogramowania AI służącego do obróbki zdjęć i przekształcają zdjęcia ubranych osób w treści pornograficzne. Rozwój takich narzędzi doprowadził możliwości manipulowania zdjęciami za pomocą zaledwie kilku kliknięć.

Zagrożenie dla dzieci

Budzi to poważne obawy o bezpieczeństwo dzieci w internecie. Jak donosi organizacja Common Sense Media, około połowa amerykańskich nastolatków twierdzi, że widziała pornografię wygenerowaną przez AI. Co gorsza, spośród tych, którzy zetknęli się z pornografią AI, co czwarty mówi, że przedstawiała ona ich samych lub kogoś, kogo znają.

Co piąty nastolatek przyznaje nawet, że stworzył pornografię wygenerowaną przez AI, natomiast co czwarty udostępnił taką treść lub zna kogoś, kto to zrobił – wynika z ustaleń Common Sense Media.

Aplikacje łatwe do znalezienia

Aplikacje umożliwiające tworzenie fałszywych nagich zdjęć są łatwo dostępne, a część z nich nie ma nawet ograniczeń wiekowych. Portal CBS News przetestował 70 narzędzi AI dostępnych w Google Play i App Store. Aż 19 z nich pozwoliło przekształcić zdjęcia ubranych osób w materiały przedstawiające nagość i treści seksualne. W jednym z przypadków stworzenie realistycznego obrazu zajęło mniej niż 30 sekund.

CBS News poinformowało Google i Apple o znalezionych aplikacjach. Większość z nich firmy technologiczne usunęły od tego czasu ze swoich sklepów. Obie firmy zapewniają, że ich zasady zabraniają publikowania treści seksualnych oraz że podejmują działania przeciwko aplikacjom naruszającym te reguły. Google podkreśla, że zawiesiło już setki takich aplikacji.

Są to czyny karalne

Jak podkreśla detektyw Javier Rodriguez z policji okręgu szkolnego Austin, sprawcami takich działań nie zawsze są anonimowi internauci – mogą to być nawet szkolni koledzy ofiar. W zależności od charakteru czynu mogą im grozić poważne konsekwencje prawne, od wykroczenia po przestępstwo zagrożone karą więzienia.

Rodzice pierwszą linią obrony swoich dzieci

Jedną z najważniejszych ról w ochronie dzieci przed rozpowszechnianiem nieautoryzowanych zdjęć mogą odegrać rodzice. - Najlepsza rada to rozmawiać z dziećmi, które są częścią waszego życia - mówi Michelle DeLaune, szefowa organizacji zajmującej się ochroną dzieci w internecie. - Zadawajcie im pytania o to, jak korzystają z AI; jak ich rówieśnicy korzystają z AI. Czy wiedzą o sytuacji, w której coś takiego wydarzyło się w ich szkole albo spotkało któregoś z ich przyjaciół? – zaleca.

Z kolei detektyw Rodriguez podkreśla, że dziecko powinno czuć, że może swobodnie rozmawiać z rodzicami o swoich problemach i popełnionych błędach. - Musisz być zaufanym dorosłym w życiu swojego dziecka, tak aby kiedy dziecko popełni błąd, mogło usłyszeć: „Hej, jestem przy tobie, pomogę ci przez to przejść i razem sobie z tym poradzimy” – zaznaczył policjant.

Szkoły powinny również aktualizować swoje zasady i reagować na przypadki wykorzystania AI. Pięć z dziesięciu największych okręgów szkolnych w USA ma już procedury dotyczące takich incydentów, w tym wytyczne określające, kiedy należy powiadomić policję. Pięć pozostałych okręgów szkolnych nie odpowiedziało na wielokrotne prośby CBS News o komentarz.

Źródło: cbsnews.com

AF