Prompt-utforming for organisasjoner i Tromsø som utvikler interne KI-assistenter

En intern KI-assistent starter ofte med noen få instruksjoner skrevet av en engasjert medarbeider. De første resultatene kan være imponerende: Retningslinjer blir lettere å finne, dokumenter oppsummeres raskt og vanlige spørsmål kan besvares uten at en kollega må avbryte arbeidet sitt.

Utfordringene blir tydeligere når flere avdelinger tar løsningen i bruk. Ulike personer endrer instruksjonene, interne begreper tolkes forskjellig og ingen kan med sikkerhet forklare hvilken prompt som førte til et bestemt svar. En ny modellversjon kan dessuten endre resultatet uten å utløse en vanlig systemfeil.

Produksjonsrettet prompt-utforming gjør instruksjonene til kontrollerte virksomhetsressurser. For organisasjoner som leverer regionale tjenester og kunnskapsarbeid i Tromsø, bør prompter utvikles, testes, godkjennes og overvåkes rundt én tydelig oppgave.

Norges nasjonale digitaliseringsstrategi har som mål at landet skal bli verdens mest digitaliserte innen 2030. Regjeringen etablerer også KI Norge i 2026 for å styrke veiledning og ansvarlig bruk av kunstig intelligens. Denne utviklingen gjør praktisk KI-styring stadig viktigere når interne assistenter går fra utprøving til daglig drift.

Hvordan prompt engineering støtter organisasjoner i Tromsø

Prompt-utforming bestemmer hvordan en KI-assistent forstår rollen sin, bruker virksomhetens informasjon og setter sammen et svar. Instruksjonene kan styre om assistenten ber om presisering, viser kilder, avviser spørsmål eller sender saken videre til en medarbeider.

Promptarkitekturen for en intern assistent kan inneholde:

• en systeminstruksjon som beskriver rollen;
• oppgavespesifikke maler;
• regler for bruk av hentet informasjon;
• godkjente begreper og definisjoner;
• krav til struktur og svarformat;
• regler for avvisning og eskalering;
• krav om menneskelig kontroll;
• begrensninger for tilkoblede verktøy.

Oppsettet bør følge en bestemt arbeidsflyt. En assistent som finner reiseregler, trenger andre sikkerhets- og kvalitetskrav enn en løsning som oppsummerer personalsaker eller forbereder beslutningsgrunnlag.

En god prompt kan ikke kompensere for en uavklart arbeidsprosess. Teamet må først vite hvem løsningen er for, hvilken oppgave den støtter og hvilke egenskaper et akseptabelt svar skal ha.

Norge arbeider med å innlemme EUs KI-forordning gjennom EØS-avtalen og norsk rett. Nkom understreker i sin veiledning fra 2026 at norske virksomheter som integrerer allmenne KI-modeller i egne tjenester, må vurdere den konkrete bruken og hvilket ansvar denne kan utløse.

Forvalt prompter som versjonsstyrte produksjonsressurser

Prompter blir ofte liggende i samtalehistorikk, personlige dokumenter eller konfigurasjonsfelt uten formelt eierskap. Da blir det vanskelig å gjenskape et resultat eller finne årsaken til at assistentens oppførsel har endret seg.

En produksjonsprompt bør ha:

1. Et unikt navn og versjonsnummer.
2. Et dokumentert formål.
3. En ansvarlig forretningseier.
4. En godkjent brukergruppe.
5. Definerte informasjonskilder.
6. Krav til svar og format.
7. Dokumenterte begrensninger.
8. Testresultat og godkjenning.

Endringer bør gå gjennom versjonskontroll fremfor å erstatte den aktive instruksjonen direkte. Endringsloggen bør forklare hva som ble justert, hvorfor det var nødvendig og hvilke testresultater som støttet lanseringen.

Modellinnstillinger må også inngå i den styrte konfigurasjonen. Valg av modell, temperatur, maksimal svarlengde, søkeinnstillinger og verktøytilganger kan endre resultatet selv om den synlige prompten er identisk.

En lanseringspost bør derfor koble sammen:

• promptversjon;
• modell og leverandørversjon;
• søke- og RAG-konfigurasjon;
• versjon av kunnskapskildene;
• aktiverte verktøy;
• evalueringsresultat;
• dato for produksjonssetting.

Sporbarhet gjør KI-atferd enklere å undersøke. Når en bruker rapporterer et misvisende svar, kan teamet finne den nøyaktige konfigurasjonen i stedet for å forsøke å gjenskape hendelsen fra hukommelsen.

Bygg evalueringsdatasett før bruken utvides

En prompt bør ikke godkjennes bare fordi den fungerte godt i noen få demonstrasjoner. Teamet trenger et gjentakbart evalueringsdatasett som gjenspeiler spørsmålene, faguttrykkene og de krevende situasjonene i den faktiske arbeidsprosessen.

Testgrunnlaget kan omfatte:

• vanlige spørsmål fra medarbeidere;
• ufullstendige eller tvetydige forespørsler;
• interne forkortelser;
• spørsmål uten et godkjent svar;
• utdaterte eller motstridende dokumenter;
• forespørsler om fortrolig informasjon;
• spørsmål utenfor assistentens ansvarsområde;
• feilaktige forutsetninger;
• forventede eskaleringssituasjoner;
• norsk, engelsk og blandet språk når dette er relevant.

Hver test trenger et forventet resultat. Noen ganger er dette et bestemt svar. I andre tilfeller betyr et vellykket resultat at assistenten ber om mer informasjon, viser riktig dokument eller nekter å svare.

Evalueringen bør dekke mer enn godt språk. Relevante vurderingsområder er:

• faktisk korrekthet;
• konsistens mellom flere kjøringer;
• riktig bruk av godkjente kilder;
• korrekt fagterminologi;
• fullstendighet;
• etterlevelse av tilgangsregler;
• avvisningsatferd;
• svarstruktur;
• behovet for manuell retting.

Testsettet kan deles i utviklings- og godkjenningsdata. Promptutviklerne bruker én del under arbeidet, mens en separat del gir en mer uavhengig vurdering før lansering.

Evalueringsdatasettet er en del av produktet. Det bør oppdateres når brukerne oppdager nye spørsmål, feiltilfeller eller uventede formuleringer.

Beskytt fortrolig informasjon og begrens assistentens myndighet

Interne KI-assistenter kan hente informasjon fra dokumentarkiv, intranett, e-postmiljøer og fagsystemer. Instruksjonen «ikke vis fortrolig informasjon» er ikke en tilstrekkelig tilgangskontroll.

Tilgangen bør håndheves før informasjonen sendes til modellen. En medarbeider som ikke kan åpne et dokument direkte, skal heller ikke få innholdet gjengitt gjennom et KI-generert svar.

Aktuelle kontroller kan være:

• identitetsbasert informasjonsinnhenting;
• avdelings- og rollebegrensninger;
• isolasjon mellom brukersesjoner;
• maskering av sensitive felter;
• begrenset lagring av spørsmål og svar;
• godkjente modell- og driftsleverandører;
• regler for bruk av data til modelltrening;
• menneskelig godkjenning før konsekvensfulle handlinger.

Datatilsynets arbeid med NTNU og Microsoft 365 Copilot understreket at hver organisasjon må gjennomføre egne vurderinger basert på informasjonen den behandler og oppgavene assistenten skal brukes til. Tilsynet anbefalte også en forsiktig, trinnvis innføring støttet av god informasjonsforvaltning.

Logger må håndteres med samme varsomhet. Prompter kan inneholde ansattnavn, kundeinformasjon, interne dokumenter eller operative detaljer. Organisasjonen bør samle nok data til å undersøke kvalitet og sikkerhet, men unngå unødvendig lagring av personopplysninger.

Assistenten bør bare få informasjonen og myndigheten som er nødvendig for den godkjente oppgaven. Bred tilgang kan gjøre en demonstrasjon mer imponerende, men øker samtidig konsekvensene av feil og misbruk.

Test promptinjeksjon og endringer i hele systemet

En intern bruker er ikke nødvendigvis en trygg datakilde. En medarbeider kan ved et uhell lime inn villedende instruksjoner, mens dokumenter, e-poster eller nettsider som hentes inn, kan inneholde tekst som forsøker å overstyre den godkjente prompten.

Promptinjeksjon oppstår når innhold endrer modellens tiltenkte oppførsel. Indirekte promptinjeksjon kan komme gjennom eksterne dokumenter eller datakilder som systemet behandler som pålitelige. OWASP påpeker at verken RAG eller modelltilpasning eliminerer denne risikoen fullstendig.

Beskyttelsen bør kombinere flere mekanismer:

• tydelig skille mellom instruksjoner og eksternt innhold;
• kontroll av dokumenter og innkommende data;
• minst mulig tilgang for verktøy og API-er;
• kontroll av svar før handlinger gjennomføres;
• ekstra bekreftelse for sensitive operasjoner;
• overvåking av uvanlige mønstre;
• testing med manipulerende spørsmål;
• en sikker reserve- eller manuell prosess.

Testene må også kjøres på nytt når systemet rundt prompten endres. En ny modellversjon kan tolke samme instruksjon på en annen måte. Endringer i dokumentkilder, søkemetode, verktøy eller tilgang kan også påvirke svaret.

Regresjonstesting bør gjennomføres etter:

• endringer i prompten;
• bytte eller oppgradering av modell;
• nye dokumentområder;
• endret oppdeling eller søk;
• nye verktøytilganger;
• reviderte retningslinjer;
• nye krav til svarformat.

Nasjonal sikkerhetsmyndighet beskriver informasjonssikkerhet som et ansvar som må styres gjennom hele livsløpet og tilpasses virksomhetens risiko. Det samme prinsippet gjelder KI-assistenter som kobles til interne data og arbeidsprosesser.

Mål konsistens og redusert korrigeringsarbeid

Brukstall er enkle å hente, men vanskelige å tolke. Mange samtaler kan bety at assistenten er verdifull, eller at ansatte må spørre flere ganger fordi det første svaret ikke var godt nok.

Ledere i Tromsø bør koble tekniske målinger til resultatet i arbeidsprosessen. Relevante indikatorer kan være:

• andel svar som oppfyller kvalitetskravene;
• konsistens ved gjentatte spørsmål;
• riktig valg av kilde;
• andel svar uten tilstrekkelig grunnlag;
• eskaleringsrate;
• gjennomsnittlig tid brukt på korrigering;
• medarbeidernes tillit;
• tidsbesparelse per fullførte oppgave;
• gjentatte spørsmål som følge av uklare svar;
• modell- og driftskostnad per nyttig resultat.

Manuelt korrigeringsarbeid er en særlig nyttig indikator. En assistent kan produsere profesjonelt utseende tekst, men likevel kreve at ansatte kontrollerer og skriver om nesten alt.

Tilbakemeldinger bør kobles til den aktuelle prompt-, modell- og kildeversjonen. En enkel godkjenn- eller avvis-knapp blir mer verdifull dersom brukeren også kan angi om problemet gjaldt fakta, terminologi, manglende kontekst eller overdreven sikkerhet.

Programmet bør utvides når nøyaktighet og konsistens øker samtidig som korrigeringsarbeidet går ned. Flere brukere uten dokumentert kvalitet kan spre den samme feilen til en større del av organisasjonen.

Hvordan Dev House Norway støtter prompt-utforming i Tromsø

Dev House Norway støtter organisasjoner i Tromsø med å gjøre eksperimentelle prompter om til kontrollerte arbeidsprosesser for interne KI-assistenter.

Et samarbeid kan starte med å definere brukerne, oppgaven, informasjonskildene og kravene til et akseptabelt resultat. Deretter kan assistenten bygges rundt en promptarkitektur som gjenspeiler virksomhetens terminologi, tilgangsregler og menneskelige ansvar.

Aktuell støtte kan omfatte:

• design av systeminstruksjoner og prompter;
• gjenbrukbare promptbiblioteker;
• versjonsstyring og godkjenningsprosesser;
• utvikling av evalueringsdatasett;
• testing av norsk språk og fagterminologi;
• RAG- og søkearkitektur;
• sikkerhet for fortrolige data;
• testing av promptinjeksjon;
• overvåking og tilbakemeldingsmekanismer;
• sammenligning og optimalisering av modeller.

Den første produksjonsversjonen kan begrenses til én avdeling, dokumentbase eller arbeidsflyt. Dette gir organisasjonen reelle kvalitetsdata før flere brukere eller informasjonsområder kobles til.

Målet er ikke å skrive én «perfekt prompt». Målet er å etablere en forvaltet prosess der prompter, modeller og kunnskapskilder kan testes og forbedres uten at virksomheten mister kontroll.

Konklusjon

Prompt-utforming gir organisasjoner i Tromsø en praktisk metode for å gjøre interne KI-assistenter mer konsistente, sikre og nyttige. Arbeidet handler om mer enn formuleringen av en instruksjon: Prompter trenger eierskap, versjonsstyring, testing, tilgangskontroll og kontinuerlig overvåking.

For organisasjoner som opererer i Troms og resten av Norges geografisk spredte digitale marked, oppstår den langsiktige verdien når ansatte bruker mindre tid på å finne, kontrollere og rette informasjon. Når resultatene måles gjennom nøyaktighet, konsistens og redusert manuelt arbeid – ikke bare adopsjon – kan KI-assistenten bli en pålitelig del av kunnskapsarbeidet.