Siden introduktionen af ChatGPT i slutningen af 2022 har diskussionen om mulighederne i og faldgruberne ved kunstig intelligens (AI) taget fart. AI rummer stort potentiale for rådgivninger som et værktøj, der kan simulere menneskelig tænkning og f.eks. understøtte rådgiverne i deres praksis. Men teknologien stiller også branchen over for udfordringer og dilemmaer af både praktisk og etisk karakter. Vi har snakket med professor og Ph.d., Thomas Bolander, fra Institut for Matematik og Computer Science på DTU, og seniorkonsulent hos Cyberhus, Niels-Christian Dybdahl Bilenberg, om deres holdning til den rolle, som AI spiller og kan komme til at spille for rådgivningsbranchen.
Definitionerne varierer men ofte beskrives kunstig intelligens som teknologi, der kan udføre opgaver, som traditionelt set kræver menneskelig intelligens. For at det kan lade sig gøre, er systemer, der bygger på AI, skabt til at kunne analysere information, tilpasse sig skiftende miljøer og lære af erfaring.
”Det handler om at rykke grænserne for, hvad vi kan få computere til at gøre, og det handler om at blive inspireret af menneskelig intelligens,” fortæller Thomas Bolander.
Forskellige typer af AI har forskellige potentialer
Kunstig intelligens består af mange forskellige teknikker og tilgange, men lidt simplificeret kan man sige, at man differentierer mellem forskellige typer af AI-modeller: Traditionelle og generative modeller. Traditionelle AI-modeller bygger på prædefinerede regler, som maskinen kan træffe beslutninger ud fra. I en rådgivningskontekst svarer det f.eks. til en chatbot, hvor man på forhånd forudsiger hvilke spørgsmål, den modtager, og dermed kan indkode et svar.
En generativ AI-model er derimod ikke på forhånd blevet kodet med regler og instruktioner. Den øver sig i stedet på eksisterende data, som den skaber nyt indhold på baggrund af. ChatGPT er et eksempel på en generativ model.
Generative AI-modeller skubber hele tiden grænsen for de opgaver, som AI kan løse. Et rådgivningstilbud vil for eksempel ikke længere behøve at indkode den respons, som en chatbot skal give til brugeren. Chatbotten vil i stedet være i stand til at svare på et spørgsmål fra en bruger, selvom maskinen ikke har fået det spørgsmål før. Det kræver i teorien blot, at den har fået indlæst en masse tidligere samtaler, som den kan lære af. Ulempen ved denne form for kunstig intelligens er netop den store mængde data, som svaret bygger på. Thomas Bolander fremhæver ChatGPT som eksempel:
Det er en sort boks, som giver os et output, men vi ved ikke, hvad det er skabt på baggrund af. Derfor bliver faktorer som gennemsigtighed og forklarlighed essentielle, når vi arbejder med den type af kunstig intelligens.
Når ChatGPT flytter ind i rådgivningen
Netop gennemsigtighed og forklarlighed har i høj grad præget Cyberhus’ overvejelser omkring brugen af AI i deres chat- og brevkasserådgivning. Cyberhus er et online rådgivningstilbud under Center for Digital Pædagogik. Niels-Christian Dybdahl Bilenberg fortæller, at Cyberhus har indskrevet i sin rådgiverhåndbog, hvordan rådgiverne må bruge tjenesten, og især hvordan man ønsker, at den ikke bliver brugt. Det blev gjort efter en workshop, hvor organisationen havde sat dagen af til at diskutere AI’s rolle i Cyberhus. Her sammenlignede man bl.a. de svar, som rådgivere fra Cyberhus havde givet brugerne, med det ChatGPT ville svare på brugerens henvendelse.
Niels-Christian Dybdahl Bilenberg forklarer, at man valgte at tage udgangspunkt i brevkassen, da det er tekst, som i forvejen ligger tilgængeligt på internettet. Vi ved nemlig endnu ikke præcist, hvordan ChatGPT bruger den data, som den modtager.
Første retningslinje blev, at rådgiverne kun må bruge ChatGPT i forbindelse med brevkassespørgsmål. Det kan være for at søge viden eller få et nyt indspark, hvis man er kørt fast. Det er dog kun på enkelte elementer, at rådgiverne må hente inspiration hos ChatGPT, og hverken hele eller dele af svaret må komme fra ChatGPT. Niels-Christian Dybdahl Bilenberg forklarer dette valg: ”Det var tydeligt fra vores sammenligning af brevkassesvar fra rådgivere og ChatGPT, at ChatGPT er exceptionel dårlig til at læse mellem linjerne, og vi ved af erfaring, at det ofte er der, det egentlige spørgsmål skal findes,” og fortsætter:
Vi er åbne for, at ChatGPT kan bruges som inspirationskilde, men kunstig intelligens skal aldrig erstatte den faglighed, som rådgiverne sidder med.
Brugerne anvender også ChatGPT
Det er ikke kun rådgivningens egen brug af ChatGPT, som Cyberhus har forholdt sig til. Diskussionen om AI hos Cyberhus blev faktisk foranlediget af en bruger, som gjorde opmærksom på, at vedkommende havde brugt ChatGPT til at skrive sit spørgsmål til brevkassen. Niels-Christian Dybdahl Bilenberg pointerer, at det selvfølgelig skal stå brugerne frit for at bruge AI i formuleringen af deres spørgsmål og tanker. Men det skaber en udfordring ift. besvarelsen af brugerens spørgsmål. Rådgiverne er nemlig vant til at tilpasse deres svar til brugerens kognitive og følelsesmæssige niveau, som vurderes ud fra bl.a. formuleringen af spørgsmålet. Det bliver pludselig meget sværere, hvis ChatGPT har udarbejdet teksten. Den problematik har Cyberhus endnu ikke fundet en løsning på, men det er en tendens, man er opmærksom på og kun forventer at se mere af de kommende år.
Udover at tage stilling til, hvordan ChatGPT bruges i Cyberhus, diskuterede de også på deres workshop, om AI kan spille en rolle på andre måder i rådgivningen. Et lignende rådgivningstilbud har f.eks. et journaliseringssystem, der er bygget op om AI. Det vil sige, at man har automatiseret de processer, der er forbundet med at registrere og organisere brugernes informationer. Indtil videre vurderer Cyberhus dog, at det ikke giver mening for dem pga. deres størrelse: ”Det ville muligvis være aktuelt, hvis vi fik mange tusinde henvendelser om året, men det gør vi ikke. Så vi har indtil nu vurderet, at der ikke er balance mellem den tid, vi ville skulle bruge og den effekt, vi ville opnå,” fortæller Niels-Christian Dybdahl Bilenberg.
Find de lavthængende frugter
Thomas Bolander opfordrer også til, at man i sine overvejelser om brugen af AI i rådgivningen starter med at overveje hvilke områder, der nemmest kan overtages af AI: ”Start med at identificere de lavthængende frugter – det må gerne være næsten for simpelt,” forklarer Thomas Bolander og uddyber:
Tommelfingerreglen i kunstig intelligens er, at jo mere veldefineret og afgrænset et problem er, desto lettere er det at lave kunstig intelligens, som kan løse det på en sikker og robust måde.
Thomas Bolander nævner som eksempel en organisation, der ønskede at inkorporere AI i deres praksis. Organisationen arbejdede dog med meget kompleks sagsbehandling, som man vurderede ikke kunne overtages af et system. Til gengæld fandt de ud af, at de kunne træne en algoritme i at fjerne personhenførbare data fra dokumenter, der skulle digitaliseres. Man gik altså i gang med et område, der er relativt simpelt og holdt AI ude af de mere komplekse arbejdsområder. Uanset problemstillingen er det dog vigtigt at være opmærksom på, om man har træningsdata nok til det problem, man ønsker at løse, understreger Thomas Bolander, da generative AI-modeller som nævnt danner mønstre ud fra den data, som er blevet indlæst.
Hvilken rolle kommer AI til at spille i fremtiden?
Hvis Niels-Christian Dybdahl Bilenberg skal give et råd til andre rådgivninger, der vil afdække AI’s potentiale hos dem, er det at starte med at kigge på status quo. Sandsynligvis er AI, især i form af ChatGPT, allerede en faktor hos rådgivningen enten blandt rådgiverne, brugerne eller begge steder.
Adspurgt om hvilken rolle Niels-Christian Dybdahl Bilenberg ser AI spille hos Cyberhus i fremtiden, svarer han, at de fortsat mener, at der er langt igen før, teknologien kommer til at spille en større rolle: ”Vi anerkender, at det er der, vi er nysgerrige på, hvordan det kan bruges, men vi tillader os også at være ret kritiske”.
RådgivningsDanmark vil også fortsat følge udviklingen inden for AI og skabe mulighed for, at medlemmerne sammen kan sparre om potentialer og faldgruber. Vi hører gerne fra jer, hvis I har ønsker til måder, hvorpå vi som brancheforening kan understøtte eller belyse muligheder og udfordringer ved teknologien på rådgivningsfeltet.
