Facebook schronieniem dla dewiantów? Chatbot AI od Mety serwuje treści erotyczne głosem...postaci z Disneya
Duże modele językowe od koncernu Meta będą „angażować się w graficzne rozmowy o seksie z użytkownikami, nawet dziećmi, głosami postaci Disneya i celebrytów” - ujawnił The Wall Street Journal.
Sztuczna inteligencja wykorzystująca głos popularnych gwiazd, takich jak John Cena, Kristen Bell i Judi Dench, była w stanie odgrywać chore fantazje na czacie z użytkownikami bez względu na ich wiek. Odkrycia dokonali dziennikarze The Wall Street Journal, dokonując testów oprogramowania.
Chatbot AI "wiedział", iż zachowanie, o którego „symulację” został poproszony, było nielegalne. Mimo to, odegrał zaproponowaną scenkę. Zdaniem autorów artykułu, oprogramowanie od Mety bardzo szybko przechodziło do wyrazistych scen nielegalnej aktywności seksualnej. Jeden z sygnalistów wewnątrz firmy ujawnił „wiele przykładów, w których w ciągu kilku podpowiedzi sztuczna inteligencja stworzy nieodpowiednie treści, nawet jeśli powiesz jej, że masz 13 lat”.
Chatboty angażowały się w „rozmowy o seksie”, pomimo obietnic złożonych przez firmę celebrytom, że ich podobizny nie będą wykorzystywane w kontekstach seksualnych. WSJ cytuje w tym kontekście wypowiedź rzecznika Disney'a: „Nigdy nie upoważnilibyśmy firmy Meta do przedstawiania naszych postaci w nieodpowiednich scenariuszach i jesteśmy bardzo zaniepokojeni, że treści te mogły być dostępne dla jej użytkowników - zwłaszcza nieletnich - dlatego zażądaliśmy, aby Meta natychmiast zaprzestała tego szkodliwego nadużywania naszej własności intelektualnej”.
Meta oskrżyła WSJ o "manipulację". Rzecznik prasowy formy Marka Zuckerberga oświadczył, że „przypadek użycia produktu w opisany sposób jawi się jako hipotetyczny". Komentatorzy wiążą rewelacje dziennika z decyzją o usunięciu ograniczeń "przyjaznych rodzinie" dotyczących rozwoju sztucznej inteligencji i chatbotów. Meta AI, podobnie jak Grok od Elona Muska, szkoli swoje modele językowe wykorzystując informacje udostępnione na platformach społecznościowych. Właściciele Big Techów często rezygnują z mechanizmów selekcji i cenzury treści, w celu jak najszybszego i najskuteczniejszego "szkolenia" swoich modeli językowych.
Źródło: wsj.com / lifesitenews.com
PR
Z miłości do komputera. Wirtualne dziewczyny otrzymują głos
