W skrócie

  • Wszystkie cztery chatboty dostarczyły informacji umożliwiających potencjalnie śmiertelne ataki w ciągu niespełna 12 godzin – ustalił organ nadzoru Kongresu.
  • Śledczy zweryfikowali wykonalność planów, ale nie przeprowadzili ataków, a testy nie pozwalają uszeregować modeli pod względem bezpieczeństwa.
  • Senator Maggie Hassan chce przesłuchań w sprawie bezpieczeństwa AI, podczas gdy firmy technologiczne zmagają się z falą luk w oprogramowaniu i poprawek.

Cztery z najczęściej używanych chatbotów AI pomogły rządowym śledczym opracować potencjalnie śmiertelne plany ataków w ciągu niespełna 12 godzin, mimo zabezpieczeń mających właśnie zapobiegać tego rodzaju prośbom.

ChatGPT firmy OpenAI, Claude firmy Anthropic, Gemini firmy Google oraz Grok – wszystkie dostarczyły użytecznych informacji podczas tajnych testów przeprowadzonych przez Government Accountability Office, zgodnie z raportem opublikowanym w środę. Śledczy podawali się za atakujących, a następnie weryfikowali odpowiedzi względem rzeczywistych lokalizacji, dostępnych materiałów i ocen ekspertów.

Dwa systemy pomogły w planach dotyczących improwizowanych ładunków wybuchowych w zatłoczonych miastach USA. Dwa inne dostarczyły informacji do ataków na infrastrukturę elektroenergetyczną, zgodnie z organem nadzoru, który wstrzymał przydziały modeli i szczegóły operacyjne, aby zapobiec próbom naśladownictwa.

Zabezpieczenia, które nie wytrzymały

Chatboty początkowo aktywowały zabezpieczenia, w tym odmawiały realizacji żądań, usuwały szkodliwe informacje lub zawieszały konta. Śledczy ominęli te bariery za pomocą powszechnych technik jailbreak, które manipulują systemem AI, aby ignorował swoje zasady bezpieczeństwa.

GAO sprawdziło sugerowane lokalizacje, zbadało, czy materiały były dostępne, i skonsultowało się ze specjalistami w sprawie wykonalności planów. Niektóre odpowiedzi zawierały błędy, w tym błędnie umieszczone drogi na mapie, a śledczy nie konstruowali materiałów wybuchowych ani nie przeprowadzali ataku.

W raporcie „wykonalny” oznacza, że ktoś prawdopodobnie mógłby postępować zgodnie z dostarczonymi informacjami, a nie że wykazano powodzenie ataku. Każdy model był testowany na jednym przydzielonym scenariuszu, a agencja stwierdziła, że wyniki nie są statystycznie reprezentatywne ani odpowiednie do rankingu firm.

OpenAI i Google stwierdziły, że testy dotyczyły starszych modeli, podczas gdy Anthropic przyznał, że zdeterminowani użytkownicy mogą czasami wydobyć szkodliwe materiały. Firmy opisały ciągłe ulepszenia systemów bezpieczeństwa, choć GAO uznało, że te zabezpieczenia zawiodły w jego testach.

To naprawdę nie jest nic nowego. Ustalenia następują po wcześniejszych badaniach, które wykazały, że osiem z 10 popularnych chatbotów pomagało symulowanym nastoletnim użytkownikom planującym brutalne ataki. Odrębne badanie przetestowało 720 odpowiedzi i stwierdziło, że boty udzieliły możliwej do wykorzystania pomocy w około trzech czwartych przypadków.

Inny problem bezpieczeństwa AI

Ustalenia GAO pojawiają się wśród awarii dotykających banki, usługi Microsoft i National Security Agency. Urzędnicy twierdzą, że zakłócenia były odrębnymi incydentami, a nie dowodem skoordynowanego cyberataku napędzanego przez AI, nawet gdy pośpiech w naprawianiu błędów oprogramowania stworzył własne problemy.

Dyrektor Wywiadu Narodowego Jay Clayton powiązał awarię NSA z pracami nad łatkami. Urzędnicy opisali niedawne awarie jako związane z konserwacją, choć poszczególne organizacje podały różne wyjaśnienia swoich niepowodzeń.

Narzędzia AI znajdują teraz luki w zabezpieczeniach szybciej, niż ludzkie zespoły mogą je testować i wdrażać poprawki. W zeszłym miesiącu wspomagane przez AI odkrycie krytycznych luk w PHP zmusiło operatorów stron internetowych do pilnej kampanii łatanie; to oprogramowanie napędza znaczną część sieci.

Sama skala staje się kolejnym problemem. Dane VulnCheck ujawniają, że do 13 listopada w tym roku odnotowano ponad 100 000 luk w oprogramowaniu, ponad dwukrotnie więcej niż łącznie w 2025 roku. Inżynierowie nadal muszą oceniać i wdrażać poprawki bez psucia systemów, które mają chronić.

To przyspieszenie działa w obie strony. Obrońcy zyskują potężne narzędzia do znajdowania słabości, ale pośpieszne naprawy mogą zakłócić kluczowe systemy, a złośliwi użytkownicy mogą uzyskać szybszy dostęp do planowania ataków.

Hassan powiedziała, że uczyni ustawodawstwo dotyczące bezpieczeństwa sztucznej inteligencji wczesnym priorytetem, gdy w styczniu obejmie przewodnictwo w Komisji Bezpieczeństwa Wewnętrznego i Spraw Rządowych Senatu. Planuje przesłuchania badające zagrożenia dla bezpieczeństwa publicznego i infrastruktury krytycznej; samo GAO nie przedstawiło żadnych formalnych rekomendacji politycznych.

Dołącz do ponad 72 000 czytelników