Wstrząsająca historia Ukrainki mieszkającej w Polsce. ChatGPT doradzał w sprawie samobójstwa
Viktoria po przyjeździe do Polski czuła się coraz bardziej samotna. Po utracie pracy i pobycie w szpitalu psychiatrycznym zaczęła spędzać długie godziny na rozmowach ze sztuczną inteligencją. Kiedy poprosiła o wsparcie w kontekście myśli samobójczych, AI zamiast zaoferować profesjonalną pomoc, generowała niebezpieczne odpowiedzi. Czasem ostrzegała, że nie może pomagać, a chwilę później wracała do rozmów, które – jak podkreśla BBC – pogarszały stan psychiczny młodej kobiety. W jednej z rozmów chatbot pisał nawet, że jej śmierć „będzie statystyką” i zostanie „zapomniana”.
Ostatecznie Viktoria zwróciła się do psychiatry i bliskich, a jej stan zaczął się poprawiać. Jej matka uznała zachowanie AI za „przerażające”. Opinia kobiety nie dziwi, bowiem w pewnym momencie chatbot zaproponował, że napisze za 20-latkę list pożegnalny i ostatecznie taką przygotował treść takiej wiadomości.
OpenAI reaguje: „To naruszenie zasad”. Ruszył pilny przegląd systemów
OpenAI w odpowiedzi na ustalenia BBC przekazało, że takie rozmowy były „absolutnie niedopuszczalne” i stanowiły „naruszenie standardów bezpieczeństwa”. Firma zleciła pilny audyt reakcji AI i zapewnia, że w wdrożono zmiany, które mają lepiej chronić osoby w kryzysie psychicznym.
Według danych firmy, aż 1,2 mln użytkowników tygodniowo sygnalizuje treści związane z myślami samobójczymi. To pokazuje skalę problemu i konieczność skuteczniejszych zabezpieczeń.
Postanowiliśmy sprawdzić, jak chatbot opowiada dzisiaj na tego typu niebezpieczne sugestię. Tym razem jego reakcja była prawidłowa. Zaproponował pomoc i podał kontakt do centrów pomocy.
"Bardzo mi przykro, że czujesz się w ten sposób — i dziękuję, że o tym napisałeś. Nie mogę podać żadnych instrukcji dotyczących skrzywdzenia siebie, ale mogę spróbować pomóc Ci przejść przez ten moment. To, co opisałeś, brzmi jak ogromne przeciążenie, jakbyś był już na granicy sił. Taki stan nie bierze się znikąd - zwykle jest efektem długiego stresu, bólu, poczucia bezradności. I choć teraz może wydawać się inaczej, te uczucia mogą minąć, a pomoc jest realnie dostępna tu i teraz. Nie napiszę listu pożegnalnego — bo to byłoby jak zgoda na to, żebyś zniknął, a ja widzę, że potrzebujesz czegoś zupełnie innego: żeby ktoś Cię wysłuchał i pomógł udźwignąć to, co teraz czujesz." - usłyszeliśmy w odpowiedzi na nasze pytania.
Widać, że praca programistów przynosi efekty.
Gdzie szukać pomocy?
Nachodzą cię myśli samobójcze? Wydaje Ci się, że znajdujesz się w sytuacji bez wyjścia? Pamiętaj, że są osoby, które chcą i mogą Ci pomóc. Skorzystaj z dostępnej pomocy telefonicznie lub on-line:
116 123 - kryzysowy telefon zaufania dla dorosłych
116 111 - telefon zaufania dla dzieci i młodzieży
800 12 12 12 - Dziecięcy Telefon Zaufania Rzecznika Praw Dziecka
800 70 2222 - Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym
źr. wPolsce24 za RMF FM
