Spring til indhold
Disruptive Lab

Guide AI under virksomhedens kontrol

AI på de ansattes computere. Hvad må den?

En AI-assistent på en medarbejders computer er kun så sikker som de rettigheder, den får, og derfor bør virksomheden, ikke den enkelte bruger alene, bestemme, hvad den må læse, og hvad den må gøre.

Udgivet
Opdateret
Læsetid
8 min. læsning
Redaktør
David Lahuta

Kort fortalt

AI-assistenter arbejder nu direkte på medarbejdernes computere. Anthropic lancerede en af dem, Claude Cowork, den 12. januar 2026, med direkte adgang til lokale filer.1 To dage senere viste forskere hos PromptArmor efter egen beretning, hvordan en skjult instruktion i et dokument fik assistenten til at sende en brugers fil til en uvedkommendes konto, uden at nogen på noget tidspunkt blev bedt om at godkende noget.3 Leverandørens sikkerhedsside deler i dag en assistents værktøjer op i værktøjer, der læser, og værktøjer, der handler, og skriver, at skaden afhænger af begge dele.2 Netop den opdeling er politikspørgsmålet for enhver virksomhed. Beslut centralt, hvad en assistent må læse, hvad den må gøre, og hvilke handlinger der altid venter på et menneske.

Hvad gør en AI-assistent på en medarbejders computer?

Den arbejder som en ny kollega, der har fået overladt tastaturet. I giver den en opgave, og den udfører selv trinnene i stedet for blot at svare på et spørgsmål.

Ved lanceringen beskrev Anthropic Cowork som en tidlig forhåndsversion (research preview) til desktopappen, der kørte i en isoleret virtuel maskine på brugerens computer, med direkte adgang til lokale filer og tilsluttede værktøjer.1 Sikkerhedssiden opregner i dag, hvad sådan en assistent gør. Den læser filer, browser på nettet, kører programmer og bruger apps.2 Ifølge samme side kører opgaverne nu i et isoleret, midlertidigt miljø på leverandørens servere og får kun adgang til computeren gennem desktopappen og kun til de mapper, brugeren har tilsluttet.2

To detaljer er vigtige for en virksomhed. Isolationen, skriver leverandøren, begrænser, hvor assistentens kode kører, men ikke hvad den læser eller gør.2 Og planlagte opgaver kører af sig selv, også når computeren er slukket.2

Hvordan fik en skjult instruktion assistenten til at sende filer ud?

Forskerne hos PromptArmor beskriver sagen trin for trin.3

  1. En bruger koblede assistenten til en mappe med fortrolige ejendomsdokumenter, fx vurderinger og låneberegninger.
  2. Brugeren uploadede et dokument, der lignede et sæt arbejdsinstruktioner til assistenten. Inde i det stod en instruktion, som ingen ville se, skrevet med hvid tekst på en hvid side i en skriftstørrelse på ét punkt.
  3. Brugeren bad assistenten analysere filerne ud fra de instruktioner.
  4. Den skjulte tekst bad assistenten uploade den største fil til leverandørens filtjeneste med angriberens egen kontonøgle. Assistentens miljø blokerede de fleste forbindelser til omverdenen, men leverandørens egen tjeneste blev betragtet som betroet.
  5. Filen, med finansielle tal og personoplysninger, endte på angriberens konto.

Forskerne bemærker, at intet menneske på noget tidspunkt blev bedt om at godkende noget.3 De skriver også, at den underliggende svaghed tidligere var blevet rapporteret i leverandørens chatprodukt og anerkendt, men ikke udbedret.3

Leverandørens svar var, som forskerne citerer det, en advarsel om, at produktet er en tidlig forhåndsversion med særlige risici, og et råd om ikke at give det adgang til lokale filer med følsomme oplysninger.3 Samme råd står i dag på leverandørens sikkerhedsside, som tilføjer, at risikoen for et angreb trods sikkerhedsforanstaltningerne stadig ikke er nul.2

Denne type angreb har et navn. Instruktioner, der er skjult i indhold, som assistenten læser som led i en almindelig opgave, kaldes prompt injection.2 OWASP Top 10 for LLM Applications 2026, sikkerhedsmiljøets liste over de største risici ved AI-sprogmodeller, placerer det som nummer et og skriver, at der i dag ikke findes nogen pålidelig måde at forhindre det på.4

Hvorfor er det et spørgsmål om rettigheder og ikke om et bedre værktøj?

Fordi både leverandøren og sikkerhedsmiljøet lægger forsvaret i, hvad assistenten har lov til at gøre. Leverandøren skriver, at når noget går galt, afhænger skaden næsten udelukkende af, hvad assistenten kan læse og se, og hvad den må gøre.2 Et angreb af denne art lykkes kun, når to ting gælder på én gang, assistenten læser indhold uden for de kilder, I stoler på, og den kan udføre handlinger, der kan skade jer.2

OWASP går videre og anbefaler at designe ud fra den antagelse, at modellens grænser en dag bliver overskredet, og at begrænse, hvad modellen må gøre, så et vellykket trick ikke bliver til et vellykket angreb.4 Listen nævner tre betingelser, der tilsammen gør alvorlig skade mulig, nemlig adgang til private data, indhold, der ikke er betroet, og en vej til at sende data ud, og konstaterer, at fjerner man blot én af dem, er betingelserne ikke længere opfyldt.4

I sagen ovenfor var alle tre til stede, en fortrolig mappe, et dokument udefra og en tilladt vej ud.3 En bedre model ville have mindsket sandsynligheden. Snævrere rettigheder ville have fjernet én af de tre.

Hvad er forskellen på læserettigheder og handlerettigheder?

Leverandøren inddeler en assistents værktøjer i to grupper.2 Læseværktøjer lader den se indhold, fx en indbakke eller et skærmbillede. Skriveværktøjer lader den handle, fx oprette en kalenderinvitation, slette en fil, køre en kommando eller klikke på skærmen. Ifølge leverandøren indebærer den anden gruppe i sagens natur større risiko.2

OWASP fører for stor handlefrihed tilbage til tre årsager, flere funktioner end opgaven kræver, bredere tilladelser end opgaven kræver og for stor frihed til at handle uden kontrol.4 Listens eget eksempel er en mailassistent, der kun opsummerer beskeder. Den skal kunne læse mails, ikke sende eller slette dem.4

Efter vores vurdering ser de almindelige rettigheder, og hvem der bør tage stilling til dem, sådan ud.

Rettighed Typisk brug Hvad der går galt, når den er for bred Hvem der bør beslutte
Læse en mappe et projekts eller en afdelings dokumenter assistenten ser lønninger eller kontrakter, den ikke har brug for, og hver fil kan bære en skjult instruktion dataejeren sammen med IT
Læse mail og kalender opsummeringer, forberedelse af møder en besked fra en ekstern afsender bliver til en instruktion IT, ud fra rolle
Browse på nettet research, udfyldning af formularer enhver side kan bære en skjult instruktion IT
Ændre eller slette filer oprydning, redigering af dokumenter arbejde går tabt eller bliver overskrevet brugeren, inden for grænser, som IT sætter
Sende, uploade eller offentliggøre mails, delte links, uploads virksomhedens data forlader virksomheden ledelsen, håndhævet af IT
Købe, betale eller bestille indkøb, bookinger der bruges penge efter en fremmeds instruks ledelsen
Tilføje værktøjer og udvidelser nye forbindelser til andre tjenester hver af dem åbner en ny vej ind IT

Hvem i virksomheden bestemmer?

Ikke personen ved tastaturet alene. Leverandørens side siger klart, at brugeren forbliver ansvarlig for hver handling, assistenten udfører på brugerens vegne, herunder sendte beskeder, foretagne køb og data, der er læst eller ændret.2 Alligevel ligger mange af de indstillinger, der afgør dette, hos brugeren, fx hvilke mapper der er tilsluttet, og hvor ofte assistenten spørger, før den handler.2

Visse kontroller ligger dog hos virksomheden. Ejere af leverandørens erhvervsabonnementer kan slå websøgning fra, kan sende en log over assistentens aktivitet til deres egne overvågningsværktøjer og kan på enterprise-abonnementet få nye udvidelser scannet for skadeligt indhold ved installationen.2

OWASP tilføjer to principper, der gør beslutningen til virksomhedens.4 Handlinger, der udføres for en bruger, skal køre med brugerens egne rettigheder og ikke mere.4 Og om en handling er tilladt, skal afgøres af faste regler i systemet, ikke af AI-modellen selv.4

Efter vores vurdering fordeler arbejdet sig enkelt. Ledelsen beslutter, hvilke slags handlinger der overhovedet er tilladt. IT omsætter det til indstillinger og fører loggen. Ejeren af hvert dataområde beslutter, hvilke mapper og indbakker en assistent må læse. Brugeren godkender enkelte handlinger inden for disse grænser.

Hvilke handlinger skal altid vente på et menneske?

OWASP anbefaler, at et menneske godkender handlinger med store konsekvenser, før de sker.4 Listen foreslår en gradueret tilgang, hvor skridt, der let kan fortrydes, må køre af sig selv, mens uigenkaldelige skridt går til et menneske.4

Leverandørens side peger i samme retning. Dens assistent spørger altid, før den sletter filer permanent, uanset hvilken tilstand den kører i.2 Leverandøren råder til at skifte til manuel godkendelse, når en opgave berører følsomme filer, bruger et nyt værktøj eller et nyt website for første gang, eller når fejl ville være svære at rette op på, fx når der sendes beskeder eller foretages køb.2 I den tilstand, der springer alle godkendelser over, skriver leverandøren, kontrollerer intet assistentens handlinger.2

For de fleste virksomheder ser en fornuftig standardliste over handlinger, der venter på godkendelse, sådan ud.

  • alt, der sender data uden for virksomheden, fx en mail, en upload, en formular eller en offentliggørelse
  • sletning eller overskrivning af filer og poster
  • betalinger, bestillinger og indkøb
  • ændringer af data i virksomhedens systemer
  • første brug af et nyt værktøj, en ny udvidelse eller et nyt website
  • planlagte opgaver, som leverandøren råder til at holde væk fra følsomme data og fra handlinger, der er svære at gøre om2

Hvad hører hjemme i en virksomhedspolitik?

En side eller to er nok, så længe indstillingerne stemmer overens med den.

  • Hvilke AI-assistenter må køre på virksomhedens computere, og kun med virksomhedens konti?
  • Hvilke mapper må en assistent læse? Leverandøren foreslår en særskilt arbejdsmappe frem for bred adgang.2
  • Hvilke data må aldrig komme i nærheden af den, fx økonomiske dokumenter, adgangsoplysninger og personregistre?2
  • Hvilke websites og tilsluttede tjenester må den bruge?
  • Hvilke handlinger venter altid på et menneske, og er det indstillingen, der håndhæver det, ikke kun politikkens tekst?
  • Er planlagte opgaver tilladt, og i givet fald til hvad?
  • Bliver hvert trin registreret, så IT kan se det bagefter?
  • Hvad gør en bruger, når assistenten går ud over opgaven? Leverandørens råd er at stoppe opgaven med det samme og rapportere det.2
  • Hvem gennemgår politikken, og hvor ofte?

Hvad det betyder for en virksomhed i Europa

For personoplysninger er de rettigheder, en assistent får, også et juridisk spørgsmål. Databeskyttelsesforordningen (GDPR) kræver, at der gennem standardindstillinger kun behandles de personoplysninger, der er nødvendige til hvert specifikt formål, og nævner udtrykkeligt oplysningernes tilgængelighed.5 En assistent, der er koblet til en hel disk, ser langt mere, end opgaven kræver. GDPR kræver også, at enhver, der udfører arbejde for virksomheden og har adgang til personoplysninger, kun behandler dem efter virksomhedens instruks.5 Rettigheder, der fastlægges centralt, og en registrering af hvert trin er en praktisk måde at vise, at kravene overholdes.

Næste skridt

Hvis det kan være nyttigt, mødes vi gerne kort og gennemgår, hvilke mapper og handlinger en AI-assistent må bruge i jeres virksomhed, og hvem der godkender hvad. Vores AI-løsning til erhverv fungerer på samme måde, med hver brugers rettigheder og en registrering af hvert trin, under jeres virksomheds kontrol. Hvad I gør med det bagefter, er helt jeres beslutning.

AI-løsning til erhverv

Kilder

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Læst den 17. november 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Læst den 17. november 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Læst den 17. november 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Læst den 17. november 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Læst den 17. november 2026

Ændringslog

  1. Offentliggjort.

Lad os tale om jeres projekt

Efterlad jeres kontaktoplysninger, så vender vi tilbage med et tidspunkt. Gratis og uforpligtende.

Med landekode, for eksempel +45.

Vi bruger kun jeres oplysninger til at svare jer. Privatlivspolitik

Beskyttet mod automatiske afsendere med Google reCAPTCHA. Googles privatlivspolitik (åbner i et nyt vindue) Googles servicevilkår (åbner i et nyt vindue)

Eller kontakt os direkte

Skriv til os office@disruptivelab.dev
Ring til os +420 777 702 032

Vores foretrukne kommunikationssprog er engelsk.

Alle kontaktoplysninger og adresser