Hoe chatbots onze mentale gesteldheid kunnen trainen

Minha Lee schrijft in haar proefschrift over een Japanner die in het huwelijk is getreden met de populaire (geanimeerde) popster Hatsune Miku, die als hologram tot in de Verenigde Staten uitverkochte optredens gaf. Die virtuele relatie gaf de emotioneel beschadigde man de moed om zich na jaren van zelfisolatie weer open te stellen voor de maatschappij. Het is een (vrij extreem) voorbeeld van de emotionele impact die technologie kan hebben, maar wie jong was in de jaren negentig heeft wellicht zelf ooit nog gezorgd voor een Tamagotchi - en begrijpt daardoor dat mensen zich makkelijk hechten aan alles wat ook maar enigszins appelleert aan onze sociale inborst.

Spiegel

Onze omgang met technologie verraadt veel over wie wij zijn als morele wezens, stelt Lee. “Technologie kan in dat opzicht fungeren als een soort morele spiegel.” Ze benadert dat onderwerp in haar proefschrift van verschillende kanten, passend bij haar eigen gevarieerde achtergrond. “Ik ben Koreaanse, maar heb als kind een tijd in Oost-Europa gewoond en als tiener in de Verenigde Staten. Daar heb ik zowel filosofie als digitale animatie gestudeerd.”

Nadat ze een tijdje in Korea had gewerkt, besloot ze terug te keren naar Europa. Het werd Nederland, waar ze aan de Universiteit van Amsterdam een master informatiekunde behaalde. Na banen als data-analyticus en marketeer kwam er een promotieplek aan de TU/e op haar pad, bij de onderzoeksgroep Human-Technology Interaction. “Toen bleek dat ik begeleid zou worden door experts op het gebied van zowel psychologie, filosofie als kunstmatige intelligentie, wist ik direct dat dit iets voor mij was.”

Deelnemers beseften dat zij niet de enige zijn met problemen. Dat psychologische mechanisme werkt dus blijkbaar zelfs als je antwoorden typt naar een chatbot

Getroebleerd

Haar werk is deels behoorlijk filosofisch qua insteek, maar bevat ook een aantal concrete experimenten. Zoals die met de ‘morele’ chatbot Vincent (naar de getroebleerde ziel Vincent van Gogh). 67 proefpersonen chatten via Facebook Messenger twee weken lang dagelijks een aantal minuten met deze kunstmatige gesprekspartner. Ze rapporteerden hun bevindingen via een vragenlijst over hun welzijn die ze zo zowel vooraf als achteraf invulden. De deelnemers hadden geen specifieke mentale problemen, de groep was een brede doorsnee van de bevolking. 

Lee en haar collega’s construeerden twee versies van Vincent: één die vooral informeerde naar de gemoedstoestand van zijn gesprekspartner en één die juist zijn eigen problemen op tafel legde. Vooral de hulpbehoevende chatbot sloeg aan; deze chatbot gaf in de gesprekken een inkijkje in zijn eigen wereld, door bijvoorbeeld te vertellen dat hij zijn serverkosten te laat had betaald, gezakt was voor een programmeertest en tot zijn schaamte was opgedoken op het verkeerde IP-adres.

“Het bleek dat de hulpbehoevende Vincent, in tegenstelling tot de zorgverlenende chatbot, een positief effect had op de manier waarop de proefpersonen naar zichzelf keken. Door zich te bekommeren om de chatbot, benaderden ze zichzelf ook met meer mededogen, waren ze minder hard voor zichzelf. Ze beseften dat zij niet de enige zijn met problemen. Dat psychologische mechanisme werkt dus blijkbaar zelfs als je antwoorden typt naar een chatbot.”

Dankbaarheid

Deze resultaten smaakten naar meer. Daarom ontwikkelde Lee, die inmiddels aan de slag is als universitair docent in de groep Future Everyday (TU/e-faculteit Industrial Design), een nieuwe morele chatbot. Hiermee onderzoekt ze of chatbots mensen een sterker gevoel van dankbaarheid mee kunnen geven. Lee ging daarbij op dezelfde manier te werk als tijdens haar eerdere onderzoek, met de kanttekening dat het experiment nu drie dagen besloeg.

Het grappige is dat deelnemers aangeven dat ze door hebben met een chatbot te praten, maar een die wel degelijk hun gevoel voor dankbaarheid kan aanwakkeren.

Lee: “Het onderzoek wordt nu gereviewed maar we hebben wel vastgesteld dat een ‘dankbaarheids-chatbot’ ook bijdraagt aan het verhogen van het welzijn van de proefpersonen. Het grappige is dat deelnemers aangeven dat ze door hebben met een chatbot te praten, maar een die wel degelijk hun gevoel voor dankbaarheid kan aanwakkeren. Het gaat hier dus niet om chatbots die menselijke interactie vervangen, maar juist bemiddelen in het contact tussen mensen, door vragen te stellen als: wie zou je willen bedanken en waarom? Eigenlijk hebben we soms gewoon een geheugensteuntje nodig.”

Om de chatbot goed te laten werken, is het van belang dat de virtuele partner de juiste opvolgende vragen stelt. De gesprekken worden daarom ‘gelabeld’, zodat steeds inzichtelijker wordt of de gemoedstoestand van een persoon tijdens het chatten positief, negatief of neutraal is. Om het algoritme zo te trainen dat feilloos kan aanvoelen en inspelen op de gevoelens van de chatgebruiker, is immers veel data nodig.

Data

Lee: “De grote techbedrijven investeren veel in hun intelligente bots, zoals de bekende Siri van Apple en Alexa van Amazon. Ze doen dat door ze te voeren met enorme hoeveelheden data, zodat ze over elk onderwerp kunnen meepraten. Maar voor de beleving van de menselijke gesprekspartner is het belangrijker dat de chatbot een eigen identiteit heeft en het gesprek een logisch begin en einde kent. Het draait om storytelling, zoals ik bij mijn opleiding tot digitaal animator heb meegekregen.”

Helaas heeft niet iedereen iemand in zijn omgeving om voor te zorgen. Wellicht kan digitale technologie als een soort alternatief fungeren, denkt Lee. “Een chatbot op je telefoon is in ieder geval goedkoop, laagdrempelig en altijd beschikbaar. Ik wil graag onderzoeken of interactie met een stem, een animatie, of zelfs een echte robot, nog beter werkt. Het zou toch mooi zijn als we hiermee niet alleen mensen met mentale problemen kunnen helpen, maar ook kunnen voorkomen dat iemand die mentale problemen krijgt. Het is vreemd dat we wel onze fysieke gesteldheid trainen, bijvoorbeeld door te sporten, maar niet onze mentale gesteldheid, toch?”

Bron: Cursor