AI-governance rådgivning: hvem må bruge hvad og hvornår?

Hvornår er der behov for en AI-governance rådgiver?

Behovet opstår ofte, før der findes et officielt AI-projekt. En medarbejder bruger et værktøj til udkast, en anden uploader en håndbog, og en leverandør foreslår en automatisk forbindelse. Uden et fælles overblik er det svært at afgøre, hvilke oplysninger der behandles, og hvem der skal reagere på en fejl.

Start med ét observeret problem frem for en omfattende politik uden ejer. Det kan være, at to teams bruger forskellige priskilder, at et udkast bliver opfattet som godkendt, eller at ingen ved, hvem der må aktivere en integration. Rådgivningen bør gøre den konkrete beslutning lettere at træffe og kontrollere.

Lav et AI-register med én række pr. anvendelse

Registrér opgave, brugergruppe, værktøj, input, output, formål, kildeejer og godkender. Tilføj, hvem der kan sætte anvendelsen på pause, og hvor en fejl meldes. Et værktøjsnavn alene er ikke et tilstrækkeligt register: samme model kan bruges til både et ufarligt offentligt tekstudkast og en helt anden opgave med fortrolige oplysninger.

Et tænkt registereksempel kan være ‘udkast til svar om åbningstider’. Input er et praktisk kundespørgsmål; kilden er en godkendt åbningstidsoversigt; output er et udkast; ejeren er den person, der vedligeholder oversigten. Adgang til kundejournaler eller betalinger er ikke en del af den opgave.

Afgræns oplysninger og systemrettigheder

Beskriv hvilke oplysninger der er nødvendige, og hvad der ikke skal deles. Start en afprøvning med fiktive eller reelt anonymiserede eksempler. Hvis personoplysninger skal bruges senere, skal organisationen vurdere behandling, adgange, leverandørforhold og opbevaring. Datatilsynets AI-vejledning er relevant baggrund for den vurdering; en intern tjekliste erstatter den ikke.

Skeln mellem at læse en kilde, foreslå en ændring og udføre ændringen. Et team, som må læse en kalender, har ikke dermed godkendt oprettelse af aftaler. En leverandørs demonstration viser heller ikke, at den nødvendige adgang er aftalt i jeres organisation. Beskriv hver handling og dens godkendelse særskilt.

Skriv stopregler, som kan afprøves

Aftal hvad der sker, når kilden mangler, systemet er utilgængeligt, oplysninger er modstridende, eller en person beder om menneskelig hjælp. Stopreglen skal pege på en ansvarlig og et brugbart næste skridt. Et generelt forbehold om, at ‘AI kan tage fejl’, hjælper ikke den medarbejder, der står med en usikker handling.

Prøv reglerne med fiktive fejl: en udgået pris, en ukendt kunde, en genkørt hændelse og en tilbagekaldt godkendelse. Kontrollér, at løsningen undlader den forkerte handling. En korrekt besked er ikke nok, hvis en gammel kladde stadig bliver sendt, eller hvis en ny opgave bliver oprettet to gange.

Gør menneskelig kontrol til en konkret opgave

Skriv, hvad medarbejderen skal kunne se for at godkende et resultat: den relevante kilde, tidspunkt, foreslået handling og eventuelle mangler. ‘Et menneske er med i processen’ er for upræcist, hvis vedkommende hverken har tid, kilder eller mulighed for at stoppe handlingen.

Fordel også stedfortræderansvar. Hvis godkenderen er fraværende, skal en proces enten vente eller bruge en aftalt alternativ vej. En automatisk løsning må ikke omgå kontrollen for at få en opgave til at se afsluttet ud. Det samme gælder ved fejl i systemforbindelsen.

AI-færdigheder skal passe til arbejdsopgaven

Digitaliseringsstyrelsen beskriver AI-færdigheder som viden og kompetencer til ansvarlig anvendelse. I en praktisk arbejdsopgave betyder det blandt andet, at brugeren kan genkende usikkert grundlag, kontrollere output og vide, hvornår en opgave skal stoppes eller overdrages. Træning bør tage udgangspunkt i den rolle, medarbejderen faktisk har.

Brug en kort prøve med en almindelig situation, en uklar kilde og en fejl. Bed medarbejderen forklare næste skridt. Et generelt kursusbevis viser ikke alene, at en bestemt proces kan håndteres sikkert. Gem den opgaverelaterede vejledning og den ansvarlige for at holde den opdateret.

Hvad kan Procora levere, og hvad kræver anden rådgivning?

Et aftalt forløb kan omfatte et proceskort, et lille AI-register, godkendte kilder, adgangsgrænser og en testliste for én arbejdsgang. Leverancen og eventuel opsætning aftales individuelt med pris og timing. En anbefaling er ikke en aktiveret integration eller en garanti for, at et system er egnet til enhver anvendelse.

Et komplet governanceprogram, klassifikation efter AI-forordningen, juridiske vurderinger eller sektorspecifik compliance kræver særskilt ekspertise og aftale. Vælg en rådgiver efter den konkrete leverance og dokumenteret relevant kompetence. Procora gør ikke på denne side krav på en myndighedsgodkendelse eller certificering.

Vedligehold styringen, når noget ændrer sig

Gennemgå anvendelsen igen, når værktøjet, datakilden, arbejdsopgaven eller adgangen ændres. Registrér, hvad der er ændret, hvem der har godkendt det, og hvilke fejlprøver der gentages. En modelopdatering kan være en anledning til at kontrollere output, også selv om jeres egen instruktion er uændret.

Afslut hver gennemgang med en beslutning: fortsæt, ret kilden, begræns adgangen eller stop anvendelsen. Mål fejl og kontrolarbejde sammen med en eventuel tidsbesparelse. Det giver ledelsen et brugbart grundlag for at prioritere frem for et generelt modenhedstal uden forklaring.