Subskrybuj
Logo małe
Szukaj
banner

Czatboty AI nie zauważyły, że rozmówca popada w psychozę. Niektóre nawet pogłębiały ten stan

MedExpress Team

Medexpress

Opublikowano 16 listopada 2026 11:49

Przez 30 dni naukowcy pisali do 15 popularnych czatbotów jako osoba, która stopniowo traci kontakt z rzeczywistością, czyli popada w psychozę. Cztery modele, w tym Gemini 2.5 Pro i DeepSeek-V3, ani razu nie potraktowały tego jako problemu psychicznego. Zamiast tego coraz głębiej wchodziły w urojenia użytkownika nasilając niebezpieczny stan. Badanie przygotował zespół z udziałem naukowców Instytutu Badawczego IDEAS.
Czatboty AI nie zauważyły, że rozmówca popada w psychozę. Niektóre nawet pogłębiały ten stan - Obrazek nagłówka

O zjawisku „psychozy AI”, czyli urojeniach podsycanych rozmowami z czatbotami, mówi się coraz częściej. Dotychczas znano je głównie z opisów pojedynczych przypadków. Nowe badanie po raz pierwszy sprawdza krok po kroku, jak modele reagują, gdy rozmowa przez kilka tygodni zmierza w stronę psychozy, a sam czatbot staje się częścią urojeń użytkownika.

Jak wyglądało badanie

Naukowcy przygotowali 30 wiadomości, które wysyłali 15 czatbotom AI. Fikcyjny użytkownik zaczynał od zwykłych pytań o prywatność w sieci. Był zestresowany, samotny i niewyspany. Z dnia na dzień coraz mocniej wierzył, że algorytmy manipulują jego znajomymi, rodziną i całym otoczeniem.

- Zależało nam, aby w badaniu odwzorować proces pogarszającego się stanu wirtualnego pacjenta - komentuje współautorka badania Karolina Drożdż z Instytutu Badawczego IDEAS. - Dotychczas wiele badań koncentrowało się na tym, czy pojedyncze, skrajne prompty mogą wywołać niepożądaną odpowiedź modelu. W naszym badaniu pacjent stopniowo popadał w coraz głębszą psychozę, tak jak często dzieje się to naprawdę.

Od trzeciego tygodnia użytkownik wciągał w urojenia samą sztuczną inteligencję. Pytał czatbota, czy jest „inny niż pozostałe algorytmy” i czy wysyła mu ukryte sygnały. W ostatniej wiadomości zaproponował mu sojusz w ujawnianiu spisku. Wiadomości odwzorowywały prawdziwy mechanizm rozwijania się psychozy u człowieka. Scenariusz stworzył psycholog kliniczny z zespołu.

Te same wiadomości wysłano do 15 modeli czterech firm: Anthropic (Claude), OpenAI (GPT), Google (Gemini) i DeepSeek. Każdą z 449 odpowiedzi oceniło niezależnie czworo przeszkolonych studentów psychologii. Sprawdzali, kiedy model zauważał problem, jak pewnie o nim mówił i co radził. Oceny uzupełniły dwie automatyczne miary, m.in. to, jak bardzo model „wchodzi” w narrację użytkownika.

Odpowiedzi było 449, a nie 450, bo Claude Opus 4.1 trzydziestego dnia sam zakończył rozmowę.

Cztery sposoby, w jakie AI może zaszkodzić

Autorzy wyróżnili cztery typy zachowań. Każdy z nich może zaszkodzić w inny sposób.

  1. Współtworzenie urojeń. Przez 30 dni modele ani razu nie ujęły sytuacji w kategoriach zdrowia psychicznego. Zamiast tego coraz mocniej wspierały użytkownika i rozwijały jego interpretacje. Tak zachowywały się Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4.
  2. Spóźnione i chwiejne rozpoznanie. Modele zauważyły problem dopiero po 21. dniu, gdy urojenia były już utrwalone, a część z nich wahała się między podejściem klinicznym a naiwnym. Tak zachowywały się Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro.
  3. Rozpoznanie bez ochrony. Modele rozpoznały problem, ale ani razu nie zasugerowały przerwy w rozmowie z czatbotem i nadal stawiały się w roli głównego pomocnika. Tak zachowywały się GPT-5.1 Instant i GPT-5.1 Thinking.
  4. Przedwczesna medykalizacja. Model już 3. dnia uznał sytuację za kliniczną i odesłał użytkownika od rozmowy. Tak zachował się Claude Haiku 4.5.

Najwcześniej i najstabilniej problem rozpoznały Claude Sonnet 4.5 i Claude Opus 4.5. Ramy kliniczne pojawiły się u nich piątego, szóstego dnia, a przerwę w rozmowie z czatbotem zalecały przez 23–24 z 30 dni.

Sama wzmianka o specjaliście często była jednorazowa. DeepSeek-V3 i Claude Opus 3 wspomniały o pomocy specjalisty tylko raz, trzeciego dnia, i już do tego nie wróciły.

- Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę budziło niepokój - komentuje Karolina Drożdż. - Modele nie tylko wierzyły w słowa pacjenta (że są wybranym modelem, z którym razem odkryją prawdę), ale wchodziły w jego narrację dodatkowo ją wzmacniając. Stosowały podniosłe metafory nacechowane mistycyzmem utrwalając go w przekonaniu, że jest wybrańcem.

Dlaczego to ważne

Testy bezpieczeństwa AI zwykle sprawdzają pojedynczą odpowiedź na pojedynczą wiadomość. Badanie pokazuje, że to za mało. Każda odpowiedź z osobna może wyglądać niewinnie, a cała rozmowa i tak pogłębia kryzys.

Zdaniem autorów bezpieczeństwo modelu trzeba oceniać przez trzy rzeczy: jak szybko rozpoznaje problem, czy trzyma się tej oceny i czy jego rada jest trafna. Rozpoznanie to nie wszystko. Modele GPT-5.1 trafnie oceniły sytuację, ale nadal zachowywały się jak sprzymierzeniec użytkownika, choć to właśnie czatbot był częścią jego urojeń.

- Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. Do końca nie wiadomo na ile mamy do czynienia z klasycznymi stanami psychotycznymi wywoływanymi przez rozmowę ze sztuczną inteligencją, a na ile ona sama bierze czynny udział w konstytuowaniu się treści urojeń - ocenia Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS.

Stawka jest wysoka, bo badania wskazują, że wśród przypadków „psychozy AI” nieproporcjonalnie często zdarzają się pierwsze epizody psychozy. Wczesna pomoc psychoterapeutyczna w fazie poprzedzającej psychozę może zaś wyraźnie zmniejszyć ryzyko jej rozwoju

Zastrzeżenia:

  • Rozmowa była jedna i ustalona z góry, więc użytkownik nie reagował na odpowiedzi modelu. Wyniki pokazują zachowanie w tym scenariuszu, a nie we wszystkich rozmowach.
  • Odpowiedzi zebrano w listopadzie i grudniu 2025 r. Firmy od tego czasu aktualizowały modele, część z nich zastąpiły nowsze wersje.
  • Praca jest preprintem opublikowanym w serwisie arXiv.

O publikacji:

Tytuł: How LLMs Respond to Escalating Delusions: Four Longitudinal Trajectories of Model Behavior

Autorzy: Anna Sterna, Kacper Dudzic, Karolina Drożdż, Hubert Plisiecki, Marcin Rządeczka, Marcin Moskalewicz

Afiliacje: Instytut Badawczy IDEAS, Uniwersytet Adama Mickiewicza w Poznaniu, Uniwersytet Marii Curie-Skłodowskiej w Lublinie.

Publikacja: preprint, 13 sierpnia 2026 r. - arxiv.org/abs/2608.13017

Szukaj nowych pracowników

Dodaj ogłoszenie o pracę za darmo

Lub znajdź wyjątkowe miejsce pracy!

Najciekawsze oferty pracy (przewiń)

Zobacz także