Personvernbevisst KI-assistent forskningsprosjekt for klinisk beslutningsstøtte
Løsningen undersøker hvordan generative KI-språkmodeller kan brukes i kliniske vurderinger når fritekst først vurderes gjennom et personvernbevisst mellomlag. Systemet identifiserer og håndterer personidentifiserbare opplysninger før modellbruk, samtidig som klinisk relevant informasjon bevares.
Hvordan personvernfilteret fungerer i praksis
Et personvernbevisst mellomlag mellom kliniker og KI-språkmodell
Arkitekturen er utviklet for å støtte bruk av generative språkmodeller i klinisk kontekst, samtidig som risikoen for eksponering av personidentifiserbare opplysninger reduseres.
Brukergrensesnitt (UI)
Klinikeren formulerer spørsmål, notater eller casebeskrivelser i systemet som del av en vanlig arbeidsflyt.
Inference Privacy Filter (IPF)
Før teksten sendes videre, analyserer IPF innholdet for personidentifiserbare opplysninger. Filteret kombinerer regelbaserte metoder og språkbasert analyse, inkludert entitetsgjenkjenning, for å identifisere opplysninger som navn, identifikatorer og andre sensitive elementer.
Sanitering og modellbehandling
Etter vurdering sendes en sanitert versjon av teksten til språkmodellen. Modellsvaret returneres deretter til applikasjonen, hvor det kan vurderes videre før det presenteres for brukeren.
Utviklet for klinisk nytte under personvernkrav
IPF er utviklet som et mellomlag mellom bruker og språkmodell. Løsningen identifiserer og håndterer personidentifiserbare opplysninger i fritekst, samtidig som klinisk relevant informasjon søkes bevart for videre vurdering.
Deteksjon av personidentifiserbare opplysninger
Fritekst analyseres med en kombinasjon av regelbaserte metoder, mønstergjenkjenning og domenejustert entitetsgjenkjenning. Målet er å identifisere opplysninger som navn, identifikatorer, kontaktinformasjon og andre elementer som kan knyttes til en enkeltperson.
Bevaring av klinisk informasjon
I stedet for å fjerne hele tekstsegmenter, er løsningen utviklet for å skjerme identifiserende elementer og samtidig bevare informasjon som er nødvendig for klinisk vurdering, som symptomer, funn, diagnoser, medikasjon og behandlingsforløp.
Human-in-the-loop gjennomgang
Brukeren kan gjennomgå innhold som er flagget av systemet før teksten sendes videre til språkmodellen. Dette gir en ekstra kontrollmekanisme og gjør det mulig å vurdere både personvern og klinisk relevans i samme arbeidsflyt.
Bli med å teste fremtidens kliniske verktøy
Vi inviterer helsepersonell til å evaluere systemet i praksis. Din tilbakemelding er avgjørende for å validere hvor godt generative språkmodeller kan fungere i et strengt, personvernivaretatt miljø.
Vil du delta i forskningsprosjektet?
Denne piloten er laget for inviterte testbrukere. Ta kontakt dersom du ønsker tilgang, har spørsmål om løsningen, eller vil gi tilbakemelding på testopplevelsen.