AI‑værktøjer i holdets hænder: hvad I skal aftale om jeres data

Et red team samler under en øvelse oplysninger, som organisationen ellers holder tæt: navne og roller fra rekognosceringen, skærmbilleder fra interne systemer, logbogens noter om vejen ind og udkast til en rapport, der beskriver svaghederne. Hvis holdet bruger AI-værktøjer til at sortere, sammenfatte eller skrive, kan de oplysninger ende i en tjeneste, som hverken I eller leverandøren fuldt ud styrer. Svaret på, hvad I skal aftale, hviler på tre spørgsmål: hvor behandles jeres data, hvad bliver gemt og logget, og hvad bliver slettet, og hvordan bekræftes det. Spørgsmålene skal stilles før øvelsen og stå i aftalen, ikke afklares bagefter.

Hvorfor spørgsmålet er nyt

Kontrakten om en red team-øvelse regulerer allerede fortrolighed, materiale og sletning. Det, der er ændret, er, at holdets egne arbejdsredskaber kan sende data videre, uden at det fremgår af arbejdet. Et værktøj, der sammenfatter en mappe med noter, kan gøre det i en tjeneste hos en tredjepart. Et værktøj, der hjælper med at skrive rapporten, kan gemme udkastet i en historik.

Det er ikke et argument imod værktøjerne. De kan gøre det lettere at holde styr på store mængder materiale og skrive en klar rapport hurtigere. Pointen er, at brugen skal være synlig for jer, så I kan tage stilling til den på samme måde som til holdets øvrige behandling af jeres oplysninger. → Kontrakten om en red team-øvelse

Automatiserede simuleringsværktøjer, som organisationen selv køber til at afprøve sit forsvar, er en anden sag. Her handler det om de værktøjer, leverandørens hold bruger i sit eget arbejde. → Automatiserede angrebssimuleringer

Tre spørgsmål til leverandøren

Bed leverandøren om skriftlige svar på disse spørgsmål for hvert værktøj, der kan komme i berøring med jeres data:

Hvor behandles data? · kører værktøjet i leverandørens eget miljø, eller sendes data til en ekstern tjeneste? I hvilket land?
Hvad gemmes og logges? · gemmer tjenesten forespørgsler og svar, hvor længe, og kan de bruges til at forbedre tjenestens modeller?
Hvad slettes, og hvordan bekræftes det? · kan leverandøren slette jeres data i værktøjet, og kan sletningen dokumenteres?

Svarene afhænger af det konkrete værktøj og de vilkår, leverandøren har aftalt med tjenesten. Et generelt svar om, at holdet bruger AI ansvarligt, besvarer ikke spørgsmålene.

Stil spørgsmålene allerede, når I vælger leverandør. Svarene siger noget om, hvor bevidst leverandøren selv er om sine redskaber, og det er lettere at få dem skrevet ind i aftalen, før den er underskrevet, end at forhandle dem bagefter. → Valg af leverandør til red teaming

Kategorier, der aldrig bør i et eksternt værktøj

Uanset svarene kan det være klogt at aftale en kort liste over oplysninger, der kun må behandles i leverandørens eget miljø eller slet ikke i et AI-værktøj:

Adgangsoplysninger · adgangskoder, nøgler og lignende, som holdet finder undervejs.
Personoplysninger om medarbejdere · fra rekognoscering og social engineering.
Kundedata og andre fortrolige data · som holdet ser i systemerne.
Angrebsvejen i sin helhed · logbogens samlede beskrivelse af, hvordan målet blev nået.

Social engineering-delen fortjener særlig opmærksomhed. Oplysninger fra rekognosceringen om bestemte medarbejdere er netop den slags materiale, der ikke bør samles og bearbejdes i en tjeneste uden for leverandørens kontrol.

Listen skal passe til jeres øvelse, men den bør være skrevet ned, så holdet ikke selv skal vurdere det i farten. → Red teamets logbog

Persondata og overførsel

Når AI-værktøjer behandler personoplysninger fra øvelsen, gælder databeskyttelsesforordningens principper. Efter artikel 5, stk. 1, litra c og e, skal oplysningerne begrænses til det nødvendige for formålet og ikke opbevares længere end nødvendigt. Sendes oplysninger til en tjeneste uden for EU og EØS, gælder reglerne om overførsel til tredjelande i kapitel V, der indledes med det generelle princip i artikel 44.

Hvilke krav der konkret gælder, og hvordan rollerne mellem jer og leverandøren skal beskrives, er en vurdering for jeres databeskyttelsesrådgiver og juridiske funktion. Teksten er ikke juridisk rådgivning. → Persondata i øvelsen

Fortrolighedsvilkår, der kan tilføjes

Vilkårene nedenfor er korte, men de flytter ansvaret for at tænke over værktøjerne fra holdets enkelte medlemmer til aftalen. Kontraktens fortrolighedsafsnit kan udvides med vilkår, der gør AI-værktøjerne synlige:

Oplysning om værktøjer · leverandøren oplyser, hvilke AI-værktøjer der bruges, og til hvad.
Godkendelse af ændringer · nye værktøjer i løbet af øvelsen kræver white teams accept.
Tilknyttede konsulenter · vilkårene gælder også for konsulenter, der arbejder i leverandørens regi. → Tilknyttede konsulenter
Ingen træning på jeres data · data fra øvelsen må ikke bruges til at forbedre en tjenestes modeller.
Ret til at spørge · white team kan undervejs bede om at se, hvilke værktøjer der er brugt til hvad.
Sletning og bekræftelse · data i værktøjerne slettes efter samme frist som det øvrige materiale, og det bekræftes skriftligt.

AI-forordningen

En leverandør, der bruger et AI-system i sit arbejde, kan efter forordning (EU) 2024/1689, artikel 3, nr. 4, være idriftsætter af systemet med de forpligtelser, der følger af rollen. Forordningen regulerer AI-systemerne og brugen af dem, men den erstatter ikke jeres egne aftaler om fortrolighed. Det, der beskytter jeres oplysninger i øvelsen, er først og fremmest kontrakten og de spørgsmål, I stiller, før holdet går i gang. Hvilke forpligtelser der konkret følger af rollen for et bestemt værktøj, er et spørgsmål til juridisk rådgivning.

Det skal I lade være med

At forbyde alle AI-værktøjer uden at spørge · nogle kan bruges sikkert i leverandørens eget miljø.
At acceptere et generelt svar · bed om svar pr. værktøj.
At glemme rapportudkastet · det er det mest samlede dokument om jeres svagheder.
At lade sletningen være uden bekræftelse · også i værktøjernes historik.
At antage, at underleverandører følger samme regler · skriv det ind.

Hvad kan og ikke kan konkluderes

Skriftlige svar og vilkår om AI-værktøjer viser, at I har taget stilling til, hvor jeres data fra øvelsen kan ende, og giver jer noget at holde leverandøren op på. De garanterer ikke, at en ekstern tjeneste behandler data som beskrevet, for den del hviler på tjenestens egne vilkår og på leverandørens kontrol med dem, og de afgør ikke, om behandlingen er lovlig. Den vurdering ligger hos jer og jeres rådgivere.

Tjekliste til aftalen

☐ Har leverandøren oplyst, hvilke AI-værktøjer holdet bruger?
☐ Er det for hvert værktøj besvaret, hvor data behandles, hvad der gemmes, og hvordan der slettes?
☐ Er der en liste over oplysninger, der ikke må i et eksternt værktøj?
☐ Gælder vilkårene også for tilknyttede konsulenter?
☐ Er sletning i værktøjerne omfattet af den skriftlige bekræftelse? → Logs, optagelser og rapport fra øvelsen
☐ Har jeres databeskyttelsesrådgiver set svarene?

Kilder

Forordning (EU) 2016/679 (databeskyttelsesforordningen): artikel 5, stk. 1, litra c og e, om dataminimering og opbevaringsbegrænsning; artikel 44 om det generelle princip for overførsler til tredjelande.
Forordning (EU) 2024/1689 (AI-forordningen): artikel 3, nr. 4, definitionen af idriftsætter.

Senest gennemgået: oktober 2026.