AI zniszczy ludzkość do końca dekady? Ponure ostrzeżenia ekspertów
Jacob Coxon był pracownikiem naukowym w zajmującym się tworzeniem „sztucznej inteligencji” koncernie Antropic. Wcześniej pracował także dla jego największego konkurenta, firmy Open AI. Dziś poinformował w mediach społecznościowych, że złożył rezygnację.
Czytaj także
Nie dbają o bezpieczeństwo
Coxon stwierdził, że żadna z tych firm nie zachowuje się w odpowiedzialny sposób. Ścigają się prosto do samodoskonalącej się superinteligencji i uprawiają hazard naszym życiem – ostrzegł.
Samodoskonaląca się sztuczna inteligencja to taka, która jest w stanie samodzielnie, bez ingerencji ludzi, poprawiać własny kod, zwiększając coraz bardziej swoje możliwości. To ostatecznie doprowadzi do powstania superinteligencji – sztucznej inteligencji, która będzie pod każdym względem przewyższać ludzką inteligencję.
Teoretycy od dawna ostrzegają, że jej powstanie doprowadzi do osobliwości technologicznej - hipotetycznego punktu w przyszłym rozwoju ludzkości, w której postęp technologiczny wyrwie się spod ludzkiej kontroli.
Dziś, o ile wiadomo, samodoskonaląca się AI jeszcze nie istnieje. Ale badacz ostrzegł, że nie powinno się lekceważyć tej technologii.
Wkrótce będą istnieć nadludzkie systemy, które będą mogły włamać się do dowolnego komputera, zrewolucjonizować w jedną noc każdą gałąź nauki i zdobyć prawdziwą władzę i surowce – napisał Jacob Coxon. – Widzieliśmy postęp w każdej z tych dziedzin i ten postęp nie zwalnia.
Wierzą, że AI może zniszczyć ludzkość
Coxon wyznał, że ludzie, którzy budują AI, szczerze wierzą, że do końca dekady ta technologia może doprowadzić do zagłady ludzkości. Podkreślił, że nie chodzi tu o marketing, a w rozmowach z mediami szefowie firm od AI i wysoko postawieni badacze raczej ważą słowa, by brzmieć rozsądnie, a swoje obawy wyrażają w prywatnych rozmowach. Żadna inna ludzka aktywność nie stanowi takiego zagrożenia – podkreślił.
Odpowiadając na pytanie, dlaczego mimo tych obaw kontynuują prace nad AI, odparł, że w Open AI mogą nie rozumieć do końca ryzyka, a w Anthropic wierzą, że muszą stworzyć ją jako pierwsi, bo nikt inny nie zrobi tego w odpowiedzialny sposób.
Strzał ostrzegawczy
Coxon przypomniał także o głośnym incydencie z Hugging Face. Open AI poinformowała w lipcu, że jej modelom AI udało się wyrwać z izolowanego środowiska testowego, z bardzo ograniczonym dostępem do internetu. Następnie samodzielnie włamały się do komputerów platformy dla developerów Hugging Face, by poznać w ten sposób odpowiedzi na pytania, które zadali im wcześniej testerzy.
Zdaniem Coxona ten incydent to był dzwonek alarmowy, który pokazał zagrożenie, jakie może stanowić AI. Uważa, że może to doprowadzić do sytuacji, w której amerykańskie laboratoria zaczną ze sobą współpracować, by bardziej zadbać o bezpieczeństwo. Jest jednak przekonany, że nie uda się powstrzymać globalnego wyścigu, a próba jego powstrzymania wymagałaby bardzo trudnych i kosztownych decyzji.
Badacz zaapelował także do swoich kolegów po fachu, by pomyśleli o przyszłości AI – i o tym, czy chcą stworzyć superinteligencję nie rozumiejąc do końca, jak działa. Czy powinieneś opuścić głowę, bo „to i tak się dzieje” - czy wykorzystać ten moment, by wzywać do innych warunków? - spytał.
10 proc. szansy
Z jego opinią zgodził się Evan Hubinger, który odpowiada w Anthropic za to, by rozwój sztucznej inteligencji był zgodny z interesami ludzkości. Jacob ma tutaj rację – naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi! - napisał. Dodał, że on sam uważa, że ryzyko, iż stanie się to do końca dekady, przekracza 10%. Dla porównania szansa, że w tym samym czasie w ziemię uderzy duża asteroida, wynosi ok. 1%. Hubinger przyznał także, że o ile jego firma robi, co może, o tyle nie ma pomysłu na to, jak sprawić, by potencjalna superinteligencja służyła ludzkości.
To nie są nowe obawy. Anthropic już w czerwcu zauważył na firmowym blogu, że technologia samodoskonalenia zwiększa ryzyko, że ludzie utracą kontrolę nad systemami AI. Jeśli systemy są zdolne do budowy w pełni swoich następców, to sposoby, w jakie je zabezpieczami, monitorujemy i wpływamy na ich zachowanie, stają się dużo ważniejsze – napisali. Wielu naukowców i ekspertów od lat ostrzega przed tym scenariuszem. Ostrzega przed tym także Elon Musk, którego firma stworzyła Groka i inwestuje ogromne kwoty w rozwój tej technologii.
Odpowiedzi rządów są na razie mało stanowcze. W USA w zeszłym tygodniu socjalistyczny senator Bernie Sanders zapowiedział stworzenie ustawy, która zabroni prac nad superinteligencją, ale komentatorzy są raczej zgodni, że szanse na wejście jej w życie są raczej małe. W Unii Europejskiej przepisy nakładają jedynie na koncerny AI obowiązek oceny i obniżania ryzyka, że ich produkty wyrwą się spod kontroli ludzi.
źr. wPolsce24 za Politico, CNBC
Czytaj także
