Kunstigt skabte stemmer og videoer gør det lettere at udgive sig for at være en bestemt leder, og derfor dukker spørgsmålet op, når scenariet handler om falske betalingsanmodninger eller henvendelser fra direktionen. Svaret hviler på en skelnen mellem processen og personen: øvelsen skal afprøve, om kontrollerne holder, når en henvendelse ser ud til at komme fra en betroet person, og det kan som udgangspunkt gøres uden at efterligne en rigtig persons stemme eller ansigt. Grænsen går ved en navngiven persons identitet. Den overskrides kun, hvis der er en klar begrundelse, et informeret samtykke og en juridisk afklaring, og selv da bør I spørge, om gevinsten står mål med prisen for den enkelte.
Hvad scenariet egentlig skal afprøve
Bekymringen bag scenariet handler i bund og grund ikke om teknologien, men om, at en medarbejder i økonomi, servicedesk eller sekretariat handler på en henvendelse, fordi afsenderen virker ægte. Det, der skal afprøves, er derfor de kontroller, der ligger omkring henvendelsen:
- Bekræftelse ad anden kanal · ringer medarbejderen tilbage på et kendt nummer, før noget ændres?
- Godkendelse i flere led · kræver en usædvanlig betaling eller ændring mere end én persons accept?
- Ret til at sige nej · ved medarbejderen, at det er i orden at afvise selv en direktør, når proceduren ikke er fulgt?
- Melding · når en mistanke frem til sikkerhedsfunktionen, og bliver den taget alvorligt?
Ingen af de fire punkter kræver, at stemmen i røret lyder præcis som direktørens. En henvendelse, der påstår at komme fra ledelsen, afprøver de samme kontroller. → Betalingssvindel som scenarie
Tre niveauer af efterligning
Det hjælper at skille mulighederne ad, før scenariet besluttes:
- Påstået identitet · holdet oplyser at handle på vegne af en leder eller en afdeling, men efterligner ingen stemme eller ansigt. Det er den klassiske form for social engineering.
- Fiktiv person · en syntetisk stemme eller figur, der ikke ligner nogen bestemt, fx en opdigtet revisor eller en ny kollega i en anden afdeling.
- Efterligning af en rigtig person · en stemme eller et videobillede, der skal forveksles med en navngiven leder.
De to første niveauer afprøver processen. Det tredje afprøver også, om teknologien er god nok til at narre, og det er en anden og mindre brugbar oplysning for forsvaret. Samtidig er det kun det tredje niveau, der tager en rigtig persons identitet i brug, og det er der, de etiske og juridiske spørgsmål samler sig. → Etik i red teaming
Samtykke: fra hvem, og hvor frit?
Hvis I overvejer det tredje niveau, er den efterlignede person den første, der skal spørges. Personens stemme og ansigt bruges til at påvirke kolleger, og resultatet kan følge personen efter øvelsen. Samtykket bør være skriftligt, specifikt for netop denne øvelse og kunne trækkes tilbage.
Der er en indbygget skævhed, når den, der spørges, er ansat eller sidder i ledelsen af den organisation, der bestiller øvelsen. Det kan være svært at sige nej til sin egen sikkerhedschef eller bestyrelse. Om et samtykke i den situation er frivilligt nok, er et spørgsmål, I bør afklare med jeres juridiske rådgiver og databeskyttelsesrådgiver, ikke noget, holdet kan vurdere. → DPO og red teaming
Andre skal også med i beslutningen, selv om de ikke giver samtykke for den efterlignede:
- Sponsoren · godkender, at niveauet indgår, og står inde for det.
- HR og eventuelt tillidsrepræsentanten · vurderer hensynet til de medarbejdere, der kommer til at modtage henvendelsen.
- Den juridiske funktion · afklarer de regler, der er nævnt nedenfor.
Medarbejderen i den anden ende
En medarbejder, der har handlet på en overbevisende efterligning af sin egen chef, kan opleve det som et personligt nederlag. Resultatet bør derfor beskrives som et fund i processen, ikke i personen, og den, der blev narret, bør høre om øvelsen fra en leder, før rapporten cirkulerer. Overvej også, at en meget overbevisende efterligning kan skabe mistillid til ægte henvendelser fra ledelsen i en periode efter øvelsen. → Debriefing af medarbejdere
Regler, der kan spille ind
AI-forordningen, forordning (EU) 2024/1689, definerer i artikel 3, nr. 60, en deepfake som AI-genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer og fejlagtigt vil fremstå ægte. Artikel 50, stk. 4, pålægger idriftsættere af et AI-system, der genererer eller manipulerer sådant indhold, at oplyse, at indholdet er kunstigt genereret eller manipuleret. Efter artikel 113 finder forordningen generelt anvendelse fra den 2. august 2026, og artikel 50 hører ikke til de undtagelser, der har en anden dato. Forordningen er siden ændret på andre punkter, så tjek den gældende tekst.
For en skjult øvelse rejser det et oplagt spørgsmål: Hvordan forholder pligten til at oplyse sig til et scenarie, hvis pointe er, at modtageren ikke ved det? Hvem der er idriftsætter, og om og hvordan pligten gælder for en lukket øvelse, skal afklares med juridisk rådgivning, før niveauet vælges.
Databeskyttelsesforordningen, forordning (EU) 2016/679, kan også være relevant. Stemme og ansigt er personoplysninger, og biometriske data, der behandles med det formål entydigt at identificere en person, er efter artikel 9 en særlig kategori. Om en efterligning falder ind under den kategori, afhænger af behandlingen. Dansk ret kan rejse yderligere spørgsmål om brug af en persons kendetegn. Teksten er ikke juridisk rådgivning.
Alternativer, der afprøver det samme
Når det tredje niveau falder fra, findes der stadig gode måder at belyse risikoen på:
- En fiktiv afsender · en henvendelse fra en opdigtet person med plausibel rolle afprøver bekræftelsen ad anden kanal.
- En åben afprøvning af tilbagekaldsproceduren · white team beder økonomifunktionen gennemgå, hvad der sker ved en hastebetaling fra ledelsen.
- En tabletop-øvelse · ledelsen og økonomifunktionen gennemgår et scenarie med en overbevisende efterligning uden at nogen bliver udsat for den.
→ Social engineering i øvelsen
Det skal I lade være med
- At efterligne en navngiven person uden skriftligt samtykke · heller ikke som en hurtig tilføjelse undervejs.
- At lade holdet beslutte niveauet alene · det er sponsorens og white teams valg.
- At gemme stemmeprøver eller videooptagelser efter øvelsen · aftal sletning på forhånd.
- At bruge private optagelser af ledere · fx fra familiebegivenheder eller private profiler.
- At udstille den medarbejder, der blev narret · fundet ligger i processen.
- At springe den juridiske afklaring over · reglerne om AI-genereret indhold er nye.
Hvad kan og ikke kan konkluderes
Et scenarie med påstået identitet eller en fiktiv afsender kan vise, om bekræftelse, godkendelse og melding virker, når en henvendelse virker troværdig. Et scenarie med en efterlignet leder kan desuden vise, at en bestemt efterligning narrede bestemte personer på en bestemt dag. Det siger ikke, at kontrollerne ville have holdt over for en anden efterligning, og det dokumenterer ikke, at øvelsen var lovlig eller etisk forsvarlig.
Tjekliste før I vælger niveau
- ☐ Er det beskrevet, hvilke kontroller scenariet skal afprøve?
- ☐ Kan de afprøves med påstået identitet eller en fiktiv afsender?
- ☐ Hvis en rigtig person efterlignes: foreligger et skriftligt og specifikt samtykke?
- ☐ Er sponsor, HR og den juridiske funktion inddraget?
- ☐ Er artikel 50 i AI-forordningen og databeskyttelsesreglerne afklaret?
- ☐ Er sletning af stemmeprøver og optagelser aftalt?
- ☐ Er debriefingen af de involverede medarbejdere planlagt? → Direktion og bestyrelse som mål
Kilder
- Forordning (EU) 2024/1689 (AI-forordningen): artikel 3, nr. 60, definitionen af deepfake; artikel 50, stk. 4, om idriftsætteres pligt til at oplyse om deepfakes; artikel 113 om anvendelse fra den 2. august 2026.
- Forordning (EU) 2016/679 (databeskyttelsesforordningen): artikel 4, nr. 14, om biometriske data og artikel 9 om særlige kategorier af personoplysninger.
Senest gennemgået: oktober 2026.
Næste skridt
Del af: Artikler om red teaming
Læs også: Betalingssvindel som scenarie · Direktion og bestyrelse som mål
→ Kontakt · Tlf. 70 13 63 23 · Red teaming hos Nielco IT
