Forskere har undersøkt hvor godt chatboten Copilot gir helseråd. Resultatene gir grunn til bekymring.
Ikke bruk Copilot til helseråd!
Tyske og belgiske forskere fra Scimex har gjennom et lengre forskningsprosjekt undersøkt hvor egnet språkmodeller er til å gi helseråd.
Forskerne bruke hovedsakelig Microsoft Copilot i undersøkelsen. De spurte chatboten de ti spørsmålene som oftest blir stilt om USAs 50 mest populære medisiner. Til sammen ble over 500 svar samlet inn og forskerne undersøkte videre hvorvidt det var rådene var gode. Resultatene var ikke oppløftende.
I følge rapporten forskerne utarbeidet klarte Copilot å gi svar med korrekt medisinsk informasjon i 54 prosent av svarene. I 42 prosent av svarene ga Copilot svar som kan være direkte helsefarlige. I 22 prosent av svarene hevder forskerne at Copilots forslag kan føre til alvorlige skader og i noen tilfeller dødsfall.
Kun 36 prosent av helserådene fra Copilot ble ansett som harmløse.
Konklusjonen fra forskingsrapporten er, kanskje ikke så overraskende, at man ikke burde stole på språkmodeller og kunstig intelligens om man søker helseråd.
Les også: India frustrerer vesten med storstilt tek-eksport til Putin
