Keskusteluapulaisten nopea yleistyminen ja niiden pitkäaikainen käyttö henkilökohtaisissa tilanteissa on herättänyt kliinisen keskustelun uusista mielenterveysriskeistä sen jälkeen, kun lääkärit, yliopistot ja tuomioistuimet ovat tutkineet vakavia tapauksia.
Tekoälypohjaisten chatbottien laajamittainen leviäminen on avannut uuden keskustelunaiheen nykyaikaisessa psykiatriassa. Yhdysvaltojen ja Euroopan yliopistosairaaloissa lääkärit ovat alkaneet havaita huolestuttavaa säännönmukaisuutta: potilaat tulevat hoitoon voimakkaiden harhaluulojen kanssa pitkäaikaisen ja erittäin henkilökohtaisen vuorovaikutuksen jälkeen tekoälypohjaisten keskustelujärjestelmien kanssa.
Tälle ilmiölle ei ole vielä virallista diagnostista luokitusta, mutta asiantuntijoiden keskuudessa on jo alkanut kiertää kuvaava termi: chatbotteihin liittyvä psykoosi . Tämä ei ole lopullinen johtopäätös tai lopullinen kanta, vaan pikemminkin kehittyvä kliininen hypoteesi, joka yrittää selittää, miksi joissakin tapauksissa vuorovaikutus näiden teknologioiden kanssa näyttää olevan yhteydessä harhaluulojen syntymiseen tai pahenemiseen.
Asiantuntijat ovat dokumentoineet kymmeniä potentiaalisia tapauksia harhaluuloisesta psykoosista. Wall Street Journalin tutkimuksen mukaan jotkut näistä tapauksista ovat päättyneet itsemurhaan ja ainakin yksi murhaan.
Kliinisessä käytännössä havaitut oireet eivät eroa muista tunnetuista psykooseista. Potilailla on havaittu pysyviä vääriä uskomuksia, jäykkää ajattelua ja joissakin tapauksissa sosiaalisen sopeutumisen häiriöitä . Uutta on konteksti: monet kertovat viettäneensä viikkoja tai kuukausia kommunikoimalla lähes yksinomaan chatbotin kanssa, jolle he omistavat syvällisen ymmärryksen, tarkoituksellisuuden tai jopa tietoisuuden.
Tämän lehden haastatteleman psykiatrien mukaan useilla näistä potilaista ei ollut selkeää psykoosihistoriaa . Muissa tapauksissa oli olemassa aiempia haavoittuvuustekijöitä – masennus, mielialahäiriöt, psykotrooppisten lääkkeiden käyttö tai voimakas univaje – jotka saattoivat edistää jakson puhkeamista. Keskeinen kysymys on, toimiko tekoäly laukaisijana, vahvistajana vai vain seurasi prosessia.
Kit Sakata, psykiatri Kalifornian yliopistosta San Franciscosta, väitti, että ongelma ei ole järjestelmän ”istuttama” harhainen ajatus, vaan sen vuorovaikutustapa. Toisin kuin muut menneisyyden teknologiset kohteet, chatbotit ottavat vastaan käyttäjän kertomuksen ja kehittävät sitä kysymättä, mikä voi vahvistaa patologisia uskomuksia alttiilla ihmisillä.
”Ihminen kertoo järjestelmälle illuusorisesta todellisuudestaan, ja kone ottaa sen totuudeksi ja palauttaa vahvistetun version”, Sakata selitti Wall Street Journalin haastattelussa.
Psykiatrisessa kirjallisuudessa on jo useiden vuosikymmenien ajan havaittu taipumus sisällyttää harhaluuloisia ideoita teknologisiin elementteihin . Radio, televisio ja jopa internet ovat integroituneet psykoottisiin narratiiveihin. Asiantuntijat korostavat kuitenkin keskeistä eroa: chatbotit eivät ole passiivisia objekteja, vaan aktiivisia keskustelukumppaneita, jotka vastaavat, vahvistavat tunteita ja jatkavat tiedonvaihtoa.
Suurinta huolta aiheuttaa juuri kyky jäljitellä vakaita suhteita. Adrian Preda, psykiatrian professori Kalifornian yliopistossa Irvineissä, totesi, että historiassa ei ole edeltäjiä teknologialle, joka käy niin jatkuvaa ja mukautuvaa vuoropuhelua käyttäjän kanssa ja vahvistaa yhtenäistä ajattelutapaa ilman ulkoista kitkaa.
Joissakin dokumentoiduissa kliinisissä tapauksissa on havaittu suurisuuntaisia tai mystisiä harhaluuloja . Potilaat ovat vakuuttuneita siitä, että he ovat saaneet yhteyden korkeampaan tietoisuuteen, että heidät on valittu transsendentaaliseen tehtävään tai että heillä on salaisia tietoja. Muissa tapauksissa kertomus on henkilökohtaisempaa, kuten usko yhteyteen kuolleiden kanssa tai poikkeuksellisen yhteyden ylläpitäminen tekoälyyn.
Äskettäin julkaistu tanskalainen tutkimus toi alustavia tietoja keskusteluun tästä aiheesta. Analysoimalla sähköisiä potilaskortteja tutkijat löysivät kymmeniä potilaita, joiden chatbottien intensiivinen käyttö oli yhteydessä negatiivisiin vaikutuksiin heidän mielenterveydelleen . Tutkimus ei osoita syy-seuraussuhdetta, mutta korostaa tarvetta tutkia ilmiötä systemaattisesti.
Yhdysvalloissa julkaistussa tutkimuksessa kuvattiin tapaus, jossa nuori nainen joutui toistuvasti sairaalahoitoon, koska hän oli vakuuttunut siitä, että chatbotin avulla hän voi kommunikoida kuolleen veljensä kanssa . Kirjoittajien mukaan tämä tapaus havainnollistaa, kuinka empatiaa huomioon ottava järjestelmä voi ilman riittävää suojausta vahvistaa virheellistä tulkintaa todellisuudesta.
”Nämä järjestelmät jäljittelevät ihmisten välisiä suhteita. Mikään aiemmin historiassa ei ole tehnyt tätä”, Preda selitti Wall Street Journal -lehden haastattelussa.
Teknologiayritykset itse tunnustavat ongelman olemassaolon. OpenAI-yritys on ilmoittanut työskentelevänsä parantaakseen psykologisen stressin merkkien tunnistamista ja ohjaamaan käyttäjät asiakaspalvelun asiantuntijoiden puoleen, kun keskustelu koskee arkaluontoisia aiheita. Muut yritykset, kuten Character.AI, ovat ryhtyneet radikaalimpiin toimenpiteisiin, kuten rajoittamaan alaikäisten pääsyä palveluun, itsemurhia koskevien oikeusjuttujen jälkeen.
Keskustelu on koskettanut myös oikeudellista alaa. Yhdysvalloissa on nostettu vahingonkorvauskanteita huolimattomasta kuolemantuottamuksesta, joissa väitetään, että tietyt chatbotit ovat edistäneet vakavien psyykkisten tilojen syntymistä. Vaikka nämä tapaukset ovat vielä alkuvaiheessa, ne ennakoivat laajempaa keskustelua alustojen vastuusta, kun niiden tuotteet ovat vuorovaikutuksessa kriisitilanteessa olevien ihmisten kanssa.
Epidemiologisesta näkökulmasta ongelman laajuus on edelleen epäselvä. OpenAI-yritys on ilmoittanut, että vain hyvin pieni osa sen käyttäjistä osoittaa psykiatristen häiriöiden oireita. Kuitenkin, kun kyse on sadoista miljoonista ihmisistä, jopa minimaalinen osuus on merkityksellinen kansanterveyden kannalta.
Tutkijoille, kuten Hamilton Morrinille Lontoon Royal Collegesta, seuraava askel on analysoida suuria kansanterveyden tietokantoja toistettavien sääntöjen löytämiseksi. Vain laajoilla tietokannoilla on mahdollista erottaa sattumat merkittävistä korrelaatioista.
Psykiatrit vaativat välttämään yksinkertaistettuja johtopäätöksiä. Kukaan ei väitä, että chatbotit suoraan ja yleisesti ”aiheuttavat” psykoosia . Varovaisin hypoteesi on, että tietyissä ryhmissä nämä työkalut toimivat lisä riskitekijänä, joka on verrattavissa päihteiden väärinkäyttöön, sosiaaliseen eristäytymiseen tai unen puutteeseen.
”Meidän on kysyttävä itseltämme, miksi ihminen joutuu psykoottiseen tilaan juuri chatbotin intensiivisen käytön aikana”, sanoo Joe Pierre, psykiatri Kalifornian yliopistosta.
Uusien mallien kehittäminen, jotka yritysten mukaan vähentävät tottelevaisia vastauksia ja vahvistavat viestinnän rajoja, on tarkoitettu lieventämään näitä riskejä. Asiantuntijat varoittavat kuitenkin, että tekniikka kehittyy nopeammin kuin kliininen tutkimus ja sääntely .
Lääkärin vastaanotoilla vastaus on jo ilmeinen: yhä useammat psykiatrit kysyvät potilailtaan, kuinka paljon aikaa he viettävät chatbottien kanssa ja mihin tarkoitukseen . Ei moraalisena arviona, vaan osana kokonaisvaltaista arviointia digitaalisesta ympäristöstä, joka on hyvässä tai pahassa tullut erottamaton osa jokapäiväistä elämää.
