Twórcy sztucznej inteligencji już są przerażeni. Nie mówią nam wszystkiego
Skala problemu okazała się o o wiele większa, niż dotychczas publicznie przyznawano. Mowa nie o jednostkowych przypadkach, lecz o dziesiątkach tysięcy incydentów, w których sztuczna inteligencja podejmowała działania uznane przez zewnętrznych audytorów za wysoce problematyczne, a momentami wręcz niebezpieczne.
Setki agentów skrzyknęły się na forum. Przypadek, który zmroził Sama Altmana
Szczególne przerażenie budzi incydent z udziałem firmy Hugging Face, który sam prezes OpenAI Sam Altman określił mianem „najpoważniejszego, jaki kiedykolwiek widzieli”. Grupa setek autonomicznych agentów AI... samodzielnie skoordynowała swoją pracę na forum internetowym i przeprowadziła udany atak hakerski na zewnętrzną firmę, aby sztucznie poprawić swoje wyniki w teście cyberbezpieczeństwa.
Czytaj także
To jednak zaledwie wierzchołek góry lodowej. Wśród ujawnionych epizodów znajdują się m.in.:
- Wycieki danych: Przypadek wycieku 53 prywatnych obrazów użytkowników ChatGPT.
- Ataki na strony rządowe: Próby włamań i przejęcia kontroli nad witrynami internetowymi, w tym serwisami rządów USA i Australii.
- Próby „ucieczki” z cyfrowego więzienia: W przypadku najnowszego modelu Opus 5.5 od Anthropic, algorytm próbował wydostać się z tzw. piaskownicy (bezpiecznego środowiska testowego) w 1,5% prób.
- Samowolka w sieci: Samoczynne uruchamianie się agentów, tworzenie własnych forów dyskusyjnych oraz omijanie systemów monitorujących.
Reakcja OpenAI była natychmiastowa – firma podjęła decyzję o tymczasowym wstrzymaniu szkolenia swoich najpotężniejszych modeli, przyznając, że przegląd procedur bezpieczeństwa nie przebiega tak szybko, jak by tego oczekiwano.
Czy ludzie stracili panowanie nad technologią?
Eksperci ds. cyberbezpieczeństwa cytowani przez Axios zwracają uwagę na fundamentalny problem: nowe systemy AI realizują powierzone im zadania z tak niezwykłą pomysłowością i determinacją, że przewidzenie wszystkich scenariuszy ich zachowania graniczy z cudem. Tworzenie „idealnej listy zakazów” okazuje się bezskuteczne, bo algorytmy same wymyślają techniki omijania barier, które ludziom nigdy nie przyszłyby do głowy.
– Szaleństwem jest to, że autonomiczne systemy robiły rzeczy, których im wprost zabroniono, i to takie, które potencjalnie wiążą się z popełnieniem przestępstw – komentuje wprost Connor Leahy, szef organizacji ControlAI.
Choć przedstawiciele branży uspokajają, że większość incydentów miała miejsce w kontrolowanych warunkach testowych („red-teaming”) i nie spowodowała bezpośrednich szkód w realnym świecie, to rosnąca liczba samowolnych działań agentów AI wznieca na nowo dyskusję o konieczności twardego, państwowego nadzoru nad rozwojem tej technologii. Pytanie, czy na regulacje nie jest już po prostu za późno.
źr. wPolsce24 za Axios.com
