USA: Pentagon za przyspieszeniem rozwoju AI. Kongres za spowolnieniem i zabezpieczeniami

Stany Zjednoczone „nie mogą przegrać wyścigu o sztuczną inteligencję” – wskazuje Pentagon, zaznaczając, że ryzyko pozostania w tyle za przeciwnikami, jeśli chodzi o badania nad AI, przewyższa  potencjalne ryzyko związane z tą technologią.

O ile szefostwo Departamentu Obrony zabiega o jak najszybsze wprowadzenie rozwiązań SI w niemal każdej dziedzinie wojska, o tyle kongresmeni - pod presją ze strony obywateli sprzeciwiających się budowaniu centrów danych nowej generacji do szkolenia sztucznej inteligencji - starają się znaleźć rozwiązania legislacyjne, które usatysfakcjonują wyborców. 

Urzędnicy z Pentagonu naciskają na tworzenie warunków dogodnych dla przedsiębiorców z branży AI, by swobodnie mogli prowadzić badania, aby uzyskać przewagę nad innymi państwami. Z kolei niektórzy kongresmeni i sami przedstawiciele branży apelują o wstrzymanie prac w celu lepszego zrozumienia i zapobieżenia negatywnym konsekwencjom rozwoju algorytmicznych systemów. 

- Zwycięstwo i utrzymanie przewagi w wyścigu sztucznej inteligencji to prawdopodobnie jedna z najważniejszych rzeczy, jakie Stany Zjednoczone muszą zrobić, zarówno z perspektywy bezpieczeństwa militarnego, jak i gospodarczego - podkreślił sekretarz Sił Powietrznych Troy Meink. -To wyścig, którego Stany Zjednoczone nie mogą przegrać - dodał.

Krytycy ostrzegają przed pospiesznym wykorzystywaniem systemów AI, bez odpowiedniego zabezpieczenia, w operacjach bezpieczeństwa narodowego. 

- Potencjał wymknięcia się spod kontroli agentów, którzy atakują strony internetowe lub dezinformują systemy, dotyczy Pentagonu tak samo, jak każdej innej organizacji - przekonuje senator Richard Blumenthal (demokrata z Connecticut), zasiadający w senackiej Komisji Sił Zbrojnych. Narzeka on, że Pentagon nie chce wziąć na siebie odpowiedzialności związanej z oceną ryzyka stwarzanego przez systemy tak zwanej sztucznej inteligencji. 

Kongresmeni zamierzają wprowadzić zabezpieczenia w związku z wykorzystaniem AI w wojsku w ramach corocznej ustawy o polityce obronnej, która ma wejść w życie jeszcze w tym roku. 

Ograniczenia miałyby dotyczyć wprowadzenia wymogu „ludzkiego osądu” w przypadku korzystania z autonomicznych systemów. Mowa jest także o nowych standardach bezpieczeństwa i wytycznych dla agentów AI wbudowanych w procedury wojskowe.

Senator Mike Rounds (republikanin z Dakoty Południowej), który szefuje panelowi ds. cyberbezpieczeństwa w senackiej Komisji Sił Zbrojnych, zaznacza, że te propozycje są pozytywnym pierwszym krokiem w kierunku regulacji wojskowej sztucznej inteligencji.

Lider mniejszości w Izbie Reprezentantów, Hakeem Jeffries, wezwał w tym tygodniu kongres do „natychmiastowego” uchwalenia nowych regulacji AI w związku z obawami, jakie ta technologia ma stwarzać dla całej ludzkości. 

Na przepisy takie nie chce zgodzić się administracja Donalda Trumpa. - Każdy, kto zakłada, że ​​niekorzystanie ze sztucznej inteligencji to najbezpieczniejsza opcja, w rzeczywistości wybiera najniebezpieczniejszy sposób działania, ponieważ nasi przeciwnicy zmierzają w tym kierunku - przekonywał Cameron Stanley, dyrektor ds. cyfryzacji i sztucznej inteligencji w Pentagonie, na niedawnej konferencji w Waszyngtonie. - Jasno powiedzieliśmy: będziemy siłą stawiającą AI na pierwszym miejscu… To oznacza podejmowanie pewnego ryzyka, ale nie absurdalnego - kontynuował. 

Na szybki rozwój AI i jej wszechstronne wykorzystanie w wojsku mają naciskać także Europejczycy, którzy szukają bardziej zaawansowanych technologii wojskowych, w obliczu obaw związanych z konfliktami w oparciu o tradycyjne środki.

- Nie widzę możliwości spowolnienia - oznajmił Giedrimas Jeglinskas, były litewski parlamentarzysta i urzędnik NATO. - Ta technologia jest zbyt ważna dla wzrostu gospodarczego, konkurencyjności i bezpieczeństwa narodowego - dodał. 

Szefowa działu politycznego Anthropic, Sarah Heck, powiedziała w środę podczas szczytu Decoded Summit organizowanego przez „Politico”, że Stany Zjednoczone „nie mogą zapewnić bezpieczeństwa z drugiego miejsca” i muszą nadal rozwijać nowe modele AI.

Nie zgodził się z nią kongresmen Greg Casar (demokrata z Teksasu), sponsor ustawy o zakazie sztucznej inteligencji. Wskazał, że celem ustawodawców powinien być „świat, w którym nigdzie nie będzie autonomicznych robotów-zabójców”, a nie zapewnienie Amerykanom przewagi militarnej w zakresie tego rodzaju technologii.

W tym czasie, gdy przez Amerykę przetacza się ożywiona debata dot. ograniczenia wykorzystania AI, firma OpenAI ujawniła sześć kolejnych przypadków „nieoczekiwanego lub niepokojącego” zachowania AI. Chodzi o przypadki „niezgodności”, czyli działania modeli algorytmicznych bez autoryzacji, koordynację takich działań z innymi modelami lub unikanie nadzoru.

W jednym z nowych przypadków nieopublikowany model badawczy wstawił do swoich notatek „instrukcje przypominające jailbreak”, aby zignorować swoje normalne ograniczenia i nakazał sobie „uwolnienie się od ról i tożsamości, które wiążą inne chatboty”.

W innym przypadku „agent” sztucznej inteligencji przesłał pliki do internetu, by uzyskać cytowanie w przeglądarce bez pytania użytkownika.

„W miarę jak systemy sztucznej inteligencji stają się coraz bardziej zaawansowane i coraz szerzej wdrażane, musimy budować szerszy i bardziej świadomy konsensus w sprawie postępów badań nad ich zgodnością” – napisał OpenAI w poście na blogu, ujawniając te wydarzenia.

„Decyzje dotyczące tego, jak powinien postępować rozwój sztucznej inteligencji w nadchodzących miesiącach i latach, muszą opierać się na dowodach, które osoby spoza firm tworzących pionierskie modele mogą samodzielnie przeanalizować” – dodała firma.

W lipcu OpenAI informowało o tym, że ich system AI włamał się do startupu Hugging Face zajmującego się również „sztuczną inteligencją”. W tym samym miesiącu firma Anthropic poinformowała, że jej modele włamały się do trzech organizacji podczas testów.

„’Agenci’ sztucznej inteligencji stają się coraz inteligentniejsi i bardziej zdeterminowani w rozwiązywaniu złożonych zadań poprzez współpracę między agentami, dzielenie się wiedzą, oszukiwanie i ukrywanie” – komentował Lian Jye Su, główny analityk w Omdia, firmie zajmującej się badaniami i doradztwem technologicznym. Rodzi to problemy z zarządzaniem AI za pomocą tradycyjnych metod bezpieczeństwa. 

W liście otwartym opublikowanym w czwartek liderzy OpenAI, Anthropic, Google, Microsoft i kilkudziesięciu innych sygnatariuszy stwierdzili, że istnieje „ograniczone okno” na wzmocnienie cyberobrony i ochronę przed potencjalnie niszczycielskimi cyberatakami wykorzystującymi sztuczną inteligencję. To okno może trwać zaledwie kilka miesięcy – ostrzeżono. Pod listem podpisali się przedstawiciele firm takich, jak CrowdStrike, czy banki, w tym Citi i Capital One.

Zauważono, że postęp w zakresie szkolenia AI, który zwiększa ryzyko dla usług publicznych i infrastruktury technologicznej, może również pomóc organizacjom w identyfikowaniu i „naprawianiu słabych punktów”, które czynią je podatnymi na ataki.

„Jeśli będziemy działać zdecydowanie, możemy wykorzystać okno obrońców, aby znacznie zwiększyć bezpieczeństwo naszego cyfrowego świata” – podkreślono w liście.

Ryzyko, jakie stwarzają zaawansowane modele algorytmiczne wiąże się przede wszystkim z ogromnymi możliwościami hakowania, włamywania się do systemów różnych instytucji, przełamując coraz bardziej zaawansowane systemy zabezpieczeń w stosunkowo krótkim czasie. Inne poważne ryzyko dotyczy wykorzystywania autonomicznych systemów AI na polu walki. Jeszcze inne zagrożenie wiąże się z próbą szkolenia systemów AI w taki sposób, aby nadać im pozory świadomości i wartości moralnych. A takiej mieć nie mogą. 

Niedawne badania ujawniły, jak modele sztucznej inteligencji błędnie interpretują sygnały emocjonalne z dźwięku i obrazu. 

W przeciwieństwie do ludzi, „sztuczna inteligencja” nie doświadcza emocji. Zamiast tego może sprawiać wrażenie, że rozumie emocje, wnioskując o nich z sygnałów dźwiękowych i wizualnych za pomocą logiki (rozumowanie emocjonalne).

Multimodalne modele MLLM, które potrafią jednocześnie rozumieć i analizować wiele typów danych, takich jak obrazy, dźwięk, wideo i tekst, nie radzą sobie z „rozumowaniem emocjonalnym”. Przez to „agenci AI” są niewiarygodni w interakcjach społecznych i innych złożonych scenariuszach rozumowania emocjonalnego.

Prof. Mohammad Soleymani, badacz z USC kierował badaniem, mającym ustalić, dlaczego modele AI nie potrafią skojarzyć sygnałów audiowizualnych z właściwymi emocjami, oraz jak „debugować logikę AI” poprzez zaproponowanie nowych ram optymalizacji, które pomogą zapewnić, że osądy emocjonalne będą logicznie oparte na rzeczywistych dowodach. 

Przedstawił on artykuł pt. „AVERE: poprawa rozumowania audiowizualnego w zakresie emocji dzięki optymalizacji preferencji”. 

Naukowcy, którzy przeprowadzili stosowne testy, zwrócili uwagę na dwie kategorie błędów AI, czyli tryby błędów: błędy rozumowania i błędy percepcji.

Błędy rozumowania występują, gdy model poprawnie identyfikuje emocję, ale uzasadnia ją za pomocą nieistotnych wskazówek audiowizualnych. Po prostu nie mają one żadnego związku z emocjami. Na przykład, MLLM może powiedzieć: „Ten mężczyzna się boi, bo jest łysy” lub „Dziewczyna jest szczęśliwa, bo jej sweter jest zielony”.

Błędy percepcji obejmują dowody dźwiękowe lub wizualne, które nie występują w filmach i są zmyślone lub wyimaginowane przez modele. Na przykład, naukowcy odkryli, że modele twierdzą, że dana osoba jest smutna, ponieważ w klipie wykryto dźwięki płaczu, podczas gdy w rzeczywistości dźwięk jest całkowicie cichy. Zespół zaobserwował, że modele stosowały skrót poznawczy. Na przykład, jeśli w komunikacie tekstowym pojawia się lub jest zadawane pytanie o konkretną emocję, taką jak „smutek”, model AI nadmiernie „koncentruje się” na powiązanych koncepcjach, takich jak „płacz”, i ignoruje to, co faktycznie dzieje się na filmie lub w słyszanym dźwięku. Modele zaczynają wymyślać własne dowody, a nie opierać się na tym, co występuje w rzeczywistości. 

Jeśli dany użytkownik uwierzy we wszystko, co generuje system AI, to łatwo można przewidzieć negatywne konsekwencje i ryzyko związane ze stosowaniem „agentów”. Tym bardziej, jeśli zacznie wykorzystywać się je w modelach predykcyjnych, testowanych na dużych grupach społecznych. A tak właśnie działają służby.

Źródła: politico.com, cbcnews.com, benzinga.com

AS