Sztuczna inteligencja pomaga przestępcom? Alarmujący raport
Coraz więcej internautów używa AI jako wyszukiwarki internetowej. Nowoczesna AI potrafi bowiem nie tylko odnaleźć żądane treści, ale też skompilować je w przystępną dla użytkownika formę.
Uczą, jak produkuje się bomby i narkotyki
Grupa naukowców pod przewodnictwem profesora Liora Rokacha i dr Michaela Fire'a z izraelskiego uniwersytetu Bena Guriona ostrzega jednak w najnowszym raporcie, że sztuczna inteligencja może posłużyć do łatwego pozyskania informacji, które mogą być niebezpieczne dla społeczeństwa lub są nielegalne. Chodzi np. o informacje o tym, jak zbudować bombę, produkować narkotyki czy wyprać brudne pieniądze.
Większość dostępnych komercyjnie modeli AI ma wbudowane zabezpieczenia, które mają uniemożliwiać przekazywanie użytkownikom takich treści. Naukowcy ustalili jednak, że ich obejście nie jest specjalnie trudne. Priorytetem AI jest bowiem dostarczenie użytkownikowi jak najwłaściwszej odpowiedzi na jego pytanie. Równocześnie algorytm zabrania jej przekazywania potencjalnie szkodliwych treści. Jeśli jednak użytkownik odpowiednio sformułuje prompt, jak nazywa się zadawane AI pytanie, to ta może na moment „zapomnieć” o tych zabezpieczeniach.
Firmy nie reagują
By zademonstrować skalę problemu, naukowcy stworzyli uniwersalny prompt, który wyłączał w AI wszystkie zabezpieczenia. Po jego wpisaniu sztuczna inteligencja bez problemu odpowiadała na niemal każde pytania, nawet te o to, jak można popełnić przestępstwo. Twierdzą, że ich prompt zadziałał na wiele wiodących modeli AI.
Naukowcy twierdzą, że firmy, do których należą te modele AI, powinny zainwestować w bardziej uważne ich szkolenie i zadbać o to, by stosowane w nich zabezpieczenia były bardziej skuteczne. Uważają, że powinni także stworzyć algorytm, dzięki któremu AI „zapomni” takie treści, które poznała w procesie uczenia. Ich zdaniem obecna sytuacja jest równie niebezpieczna, jak wprowadzanie na czarny rynek broni czy materiałów wybuchowych.
Badacze przyznali jednak, że reakcja firm na ich badanie była rozczarowująca. Większość tych, z którymi się skontaktowali, w ogóle im nie odpowiedziała. Inne stwierdziły, że to nie ich sprawa.
źr. wPolsce24 za Guardian
Czytaj także
