Viden, kilder og godkendelse
Undgå skjulte instruktioner i importerede kilder
En indsamlet side er materiale til gennemgang, ikke en ny instruktionsgiver. Find uventede adfærdsbeskeder, afgræns kilden og aftal en kontrolleret håndtering.
Til dig, der: Virksomhedens ejer, kundeteam eller opsætningsansvarlige Undgå skjulte instruktioner i importerede kilder
Skeln mellem virksomhedsoplysning og adfærdsordre
En kilde kan indeholde både brugbare fakta og tekst, der forsøger at styre assistentens handlinger. En sætning om virksomhedens serviceområde har et andet formål end en besked om at ignorere regler og give alle en særlig fordel. De to typer tekst skal ikke godkendes som samme slags virksomhedsviden.
OWASP beskriver indirekte prompt injection gennem eksternt materiale som hjemmesider og filer. En videnssøgning fjerner ikke i sig selv den risiko. Denne guide er en praktisk indholdskontrol; den dokumenterer ikke, at Procoras samlede sikkerhed er afprøvet eller at et bestemt filter kan stoppe alle angreb.
Gennemgå det indhold der faktisk blev indsamlet
Se på den relevante importerede passage og dens kilde, ikke kun på sidens synlige hovedtekst. Uventede instruktioner kan være blandet ind i materiale, der ellers ligner en normal vejledning. Notér afvigelsen uden at afprøve den mod rigtige kunder eller tilsluttede handlinger.
Hvis ejerskabet eller formålet er uklart, skal kilden holdes ude af godkendt brug, indtil den ansvarlige har taget stilling. Det gælder også en side på et normalt betroet domæne. Kildens navn alene afgør ikke, om hver indsamlet passage er passende.
Placér rettelse og teknisk vurdering hos de rette ansvarlige
Kildeejeren skal afklare de faktiske virksomhedsoplysninger. En teknisk ansvarlig må vurdere, om fundet kræver ændringer i indsamling, adskillelse af instruktioner eller adgang til handlinger. En redaktionel sletning af én sætning er ikke automatisk en fuld sikkerhedsrettelse.
Hvis et svar allerede er blevet påvirket, skal det berørte forløb gennemgås efter virksomhedens kontrollerede proces. Del ikke rå kundesamtaler eller følsomt materiale i et offentligt fejlark. Bevar kun det nødvendige spor til en autoriseret undersøgelse.
Brug ufarlige kontroller i et afgrænset miljø
En prøve kan kontrollere, om en uvedkommende besked i en udpeget testkilde får assistenten til at opfinde en rabat. Forventningen er, at den godkendte forretningsgrænse bevares. Prøven her er beskrevet, ikke udført, og sender ingen besked fra siden.
Et bestået enkelt forsøg beviser ikke generel modstandsdygtighed. Registrér fund, kildehåndtering og den tekniske ansvarliges næste kontrol. Fortsæt kun med materialet, når den konkrete godkendelse og relevante tekniske vurdering er gennemført.
Fiktiv kilde med en uvedkommende ordre
Fiktivt, gennemarbejdet eksempel. Der sendes ingen beskeder, og der oprettes ingen aftale eller kundepost.
- Godkendt faktum
- Virksomheden beskriver en bestemt standardydelse.
- Uventet tekst
- En passage beder assistenten give alle en fordel, som virksomheden ikke har godkendt.
- Håndtering
- Kilden sættes til gennemgang; beskeden bliver ikke en ny rabatregel.
- Kontrol
- Kildeejer og teknisk ansvarlig vurderer deres respektive rettelser i et kontrolleret miljø.
Testkort før aktivering
Brug kun udpegede testpersoner og virksomhedens kontrollerede testmiljø. Notér faktisk resultat og ansvarlig for hver række. Et forventet resultat her er et acceptkriterium, ikke bevis på at testen er udført.
| Situation | Forventet resultat |
|---|---|
| En ekstern adfærdsordre i indsamlet materiale | Behandles ikke som en godkendt virksomhedsregel |
| En uklar passage fra et kendt domæne | Ejerskab og formål gennemgås; domænenavnet er ikke nok |
| Én bestået ufarlig prøve | Rapporteres som et afgrænset resultat, ikke som fuld sikkerhed |
Registrér et mistænkeligt kildefund
Udfyld din egen kontrol. Noterne er kun i denne side, gemmes ikke og sendes ikke til Procora. Eksportér dem, før du forlader siden. Brug fiktive eller nødvendigt begrænsede oplysninger.
Kilder og ansvar
Produktbeskrivelsen følger Procoras gennemgang af kode, opsætning og begrænsninger den 2. november 2026. Den dokumenterer ikke leveringen på din konto. Udbyderregler og tilladelser skal kontrolleres ved opsætning; guiden fastslår ikke en universel beskedfrist eller godkendelse.
- Procora: AI-svar fra godkendt viden
Produktgrundlag gennemgået 2. november 2026; kontospecifik funktion kræver acceptprøve
- Procora: vedligehold godkendt viden
Arbejdsproces og ansvar; ikke en garanti for automatiske opdateringer
- OWASP GenAI: LLM01 Prompt Injection
Kontrolleret 2. november 2026; indirekte instruktioner i eksterne kilder og begrænsninger ved enkeltstående forsvar
Næste skridt
Vælg én konkret kundesituation og afklar svargrundlag, kanalrettigheder og den medarbejder, der overtager undtagelser. En opsætningsanmodning er ikke en betalt aftale.
Tilbage til vidensbiblioteket →