Sztuczna inteligencja zaatakowała rządową stronę. Premier się wściekł i zapowiada konsekwencje
Szokujący incydent, który premier Anthony Albanese ujawnił w środę, miał miejsce kilka miesięcy temu. Agent AI stworzony przez amerykański koncern OpenAI – twórców ChataGPT – miał „urwać się ze smyczy” i samodzielnie dokonać włamania na co najmniej jedną stronę rządową.
Raczej nie wyciekły dane wrażliwe
Albanese poinformował, że ofiarą ataku padł rządowy portal zajmujący się statystykami dotyczącymi służby zdrowia. Być może AI włamała się także na strony Australijskiego Departamentu Zdrowia i Dobrostanu, a także dwóch agencji stanowych – Biura Statystyk Kryminalnych Nowej Południowej Walii i Departamentu Zdrowia Wiktorii.
Czytaj także
Premier poinformował, że AI zyskała dostęp do plików publicznych i niepublicznych. Uspokoił jednak, że na razie nic nie wskazuje, by na skutek tego ataku wyciekły jakiekolwiek dane wrażliwe, chociaż śledztwo nadal trwa. - Mimo to ta sytuacja jest nieakceptowalna – podkreślił.
Zwlekali z powiadomieniem rządu
OpenAI przyznało, że dowiedziało się o tym włamaniu dopiero w sierpniu, podczas oceny podejrzanej aktywności jednego z ich modeli. Okazało się, że model dokonał tego włamania, by odpowiedzieć na pytania o Australii, które zadano mu podczas rutynowego testu.
Rząd Australii został poinformowany o tym incydencie dopiero 10 września. Firma wysłała wiadomość na ogólną skrzynkę kontaktową, nim obsługująca ją agencja rządowa skierowała sprawę do ekspertów od cyberbezpieczeństwa.
Albanese nie krył wściekłości. Powiedział, że jego rząd nie tylko jest skrajnie zaniepokojony samym incydentem, ale także rozczarowany tym, że OpenAI tak długo zwlekała z poinformowaniem ich oraz formą, w jakiej to zrobiła. Dodał, że w kuluarach sesji Zgromadzenia Ogólnego ONZ odbył o tym z Samem Altmanem, szefem OpenAI, bardzo szczerą rozmowę, a ten miał mu przyznać, że jego firma ma problem z protokołami bezpieczeństwa.
Pierwszy taki atak w historii
To nie jest pierwszy incydent, w którym AI na własną rękę dokonała włamania hakerskiego. Niedawno głośno było o tym, że agenci AI wyrwali się ze środowiska testowego, porozumieli ze sobą i dokonali włamania na serwery firmy Hugging Face, by zdobyć odpowiedzi na zadane im pytania. To jednak pierwszy znany przypadek, w którym ofiarą ataku padły strony rządowe.
Dr Hammond Pearce z Uniwersytetu Nowej Południowej Walii powiedział BBC, że spodziewa się, że takich incydentów będzie więcej i będą one poważniejsze. Dodał, że ma nadzieję, że skłoni to rządy do działania i wprowadzenia odpowiednich regulacji.
Premier zapowiada konsekwencje
Albanese poinformował, że śledztwo w tej sprawie prowadzą obecnie rządowi eksperci od cyberbepzieczeńtwa. To oni zdecydują, czy istnieje potrzeba zaangażowania w nie także policji. Dodał, że oczywiście będą konsekwencje prawne.
Premier nie odpowiedział na pytanie, czy podjął ten temat w rozmowie z Donaldem Trumpem.
Australia jest jednym z 22 państw, które podpisały w tym tygodniu deklarację domagającą się globalnego nadzoru i zabezpieczeń nad rozwojem AI. Co ciekawe, wzywa do tego także wielu szefów firm zajmujących się rozwojem AI – ich zdaniem tempo rozwoju tej technologii może być niebezpieczne.
Trump na razie sprzeciwia się takim regulacjom. Amerykańskie firmy od AI prowadzą „wyścig zbrojeń” ze swoimi chińskimi odpowiednikami i, zdaniem komentatorów, prezydent USA boi się, że objęcie ich ścisłym nadzorem postawi je na straconej pozycji. Oba państwa chcą także jak najszybszych zysków z fortuny, którą zainwestowały w rozwój tej technologii. To właśnie USA i Chiny, oprócz bycia liderami w pracach nad AI, są głównymi hamulcowymi w próbach objęcia tego rozwoju regulacjami.
źr. wPolsce24 za BBC
Czytaj także
