AI powieliła fałszywą i kuriozalną informację o śmierci Trumpa. Czerpała informację z forum internetowego
AI jako narzędzie może być użyteczną pomocą, jeśli tylko technologia będzie bazowała na sprawdzonych informacjach. Tymczasem okazuje się, że algorytmy łatwo oszukać. Tak też uczynili użytkownicy popularnego forum, kolportując fałszywą informację o śmierci Donalda Trumpa. AI dała się nabrać. Niewątpliwie człowiek od razu wyłapałby, że informacja o śmierci prezydenta USA, którą miałaby spowodować wścieklizna po ugryzieniu przez J.D. Vance'a, to kuriozum.
Jak podaje PAP, sztuczna inteligencja miała błędnie informować o rzekomej śmierci Donalda Trumpa. Źródłem fałszywej informacji była dyskusja na forum Reddit. Dr Mateusz Łabuz z Uniwersytetu w Hamburgu powiedział w rozmowie z serwisem, że modele językowe cytują wypowiedzi z forów internetowych, ponieważ brzmią one bardziej naturalnie.
Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję. Według doniesień, system AI mógł zaczerpnąć te fałszywe treści z Reddita — platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich - r/poisonai, mieli celowo rozpowszechniać dezinformujące treści.
Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji” powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI, wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.
Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.
Dr Łabuz wyróżnił 3 powody, dla których Reddit może być tak chętnie cytowany przez sztuczną inteligencję. Pierwszy z nich dotyczy dużej liczby autentycznych i naturalnych wypowiedzi publikowanych na forum. Jak podkreślił, to właśnie na takich wypowiedziach AI uczy się, w jaki sposób najlepiej naśladować język. - W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forum internetowych, a nie na przykład językiem encyklopedycznym albo książkowym - dodał.
Drugi powód, dla którego modele AI korzystają z Reddita to - jak powiedział ekspert - liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie. Natomiast trzeci, wyróżniony przez dr Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote. - AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści - dodał.
Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy, której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.
Ale, z opublikowanego w czerwcu br. badania naukowców w Uniwersytetu Cornell „Deep-research agents can be poisoned via user-generated content” wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji. „Pokazujemy, że niewielki fragment — zaledwie 13 słów — tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa” - powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.
Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko „LLM grooming”. Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji. - Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej »Prawda« - zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.
Jak dodał Reddit nie jest wolny od dezinformacji, w związku z czym, Rosja oraz Chiny, mogą się przyglądać tego typu platformom i chętnie je wdrażać do swojego arsenału. Ekspert przypomniał również, że podczas dyskusji z jednym z modeli AI ważna jest kwestia świadomości i weryfikacji przekazywanej nam wiedzy. - A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania - podsumował.
Źródło: PAP
Oprac. MA
