---
title: Gervigreind á vinnutölvum. Hvað má hún? | Disruptive Lab
description: Aðstoðarmaður með gervigreind sem opnar skrár og vinnur í tölvunni þarf réttindi eins og hver samstarfsmaður. Hvað hann má lesa og gera og hver ræður.
url: https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks
language: is
covers: 2026-01-12/2026-01-18
---

1.  [Fréttir](https://disruptivelab.dev/is/frettir)
2.  [Gervigreind undir stjórn fyrirtækisins](https://disruptivelab.dev/is/frettir/gervigreind-undir-stjorn)
3.  Gervigreind á vinnutölvum. Hvað má hún?

[Leiðarvísir](https://disruptivelab.dev/is/frettir/leidarvisar)  [Gervigreind undir stjórn fyrirtækisins](https://disruptivelab.dev/is/frettir/gervigreind-undir-stjorn)

# Gervigreind á vinnutölvum. Hvað má hún?

Aðstoðarmaður með gervigreind í tölvu starfsmanns er aðeins jafn öruggur og réttindin sem hann fær og því ætti fyrirtækið, ekki hver notandi einn, að ákveða hvað hann má lesa og gera.

- **Birt:** 17. nóvember 2026
- **Uppfært:** 17. nóvember 2026
- **Lestími:** 7 mín. lestur
- **Ritstjóri:** David Lahuta

Vikan frá 12. janúar 2026

## Í stuttu máli

Aðstoðarmenn með gervigreind vinna nú beint í tölvum starfsfólks. Anthropic setti einn þeirra, Claude Cowork, á markað 12. janúar 2026, með beinan aðgang að skrám í tölvunni.[1](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-1) Tveimur dögum síðar sýndu rannsakendur hjá PromptArmor, að eigin sögn, hvernig falin fyrirmæli í skjali fengu aðstoðarmanninn til að senda skrá notanda á aðgang utanaðkomandi aðila, án þess að nokkurn tíma væri beðið um samþykki.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3) Öryggissíða framleiðandans skiptir nú verkfærum aðstoðarmanns í verkfæri sem lesa og verkfæri sem framkvæma og segir að tjónið ráðist af hvoru tveggja.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Þar liggur stefnuspurningin fyrir hvert fyrirtæki. Ákveða þarf miðlægt hvað aðstoðarmaður má lesa, hvað hann má gera og hvaða aðgerðir bíða alltaf eftir manneskju.

## Efnisyfirlit

1.  [Hvað gerir aðstoðarmaður með gervigreind í tölvu starfsmanns?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hva%C3%B0-gerir-a%C3%B0sto%C3%B0arma%C3%B0ur-me%C3%B0-gervigreind-i-tolvu-starfsmanns)
2.  [Hvernig fengu falin fyrirmæli aðstoðarmanninn til að senda skrár út?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hvernig-fengu-falin-fyrirm%C3%A6li-a%C3%B0sto%C3%B0armanninn-til-a%C3%B0-senda-skrar-ut)
3.  [Af hverju snýst þetta um réttindi en ekki betra verkfæri?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#af-hverju-snyst-%C3%BEetta-um-rettindi-en-ekki-betra-verkf%C3%A6ri)
4.  [Hver er munurinn á lesréttindum og aðgerðaréttindum?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hver-er-munurinn-a-lesrettindum-og-a%C3%B0ger%C3%B0arettindum)
5.  [Hver ákveður innan fyrirtækisins?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hver-akve%C3%B0ur-innan-fyrirt%C3%A6kisins)
6.  [Hvaða aðgerðir bíða alltaf eftir manneskju?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hva%C3%B0a-a%C3%B0ger%C3%B0ir-bi%C3%B0a-alltaf-eftir-manneskju)
7.  [Hvað á heima í stefnu fyrirtækisins?](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#hva%C3%B0-a-heima-i-stefnu-fyrirt%C3%A6kisins)

## Hvað gerir aðstoðarmaður með gervigreind í tölvu starfsmanns?

Hann vinnur eins og nýr samstarfsmaður sem hefur fengið lyklaborðið í hendur. Þú gefur honum verkefni og hann sér sjálfur um skrefin í stað þess að svara bara spurningu.

Þegar Cowork kom út lýsti Anthropic því sem forútgáfu til prófunar (research preview) fyrir skjáborðsforritið, sem keyrði í einangraðri sýndarvél í tölvu notandans, með beinan aðgang að skrám í tölvunni og tengdum verkfærum.[1](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-1) Öryggissíða þess telur nú upp hvað slíkur aðstoðarmaður gerir, það er að lesa skrár, vafra um vefinn, keyra forrit og nota smáforrit.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Á sömu síðu segir að verkefnin keyri nú í einangruðu, tímabundnu umhverfi á netþjónum framleiðandans og nái til tölvunnar í gegnum skjáborðsforritið, og þá aðeins þær möppur sem notandinn hefur tengt.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

Tvö atriði skipta fyrirtæki máli. Einangrunin, skrifar framleiðandinn, takmarkar hvar kóði aðstoðarmannsins keyrir en ekki hvað hann les eða gerir.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Og tímasett verkefni keyra af sjálfu sér, jafnvel þegar slökkt er á tölvunni.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

## Hvernig fengu falin fyrirmæli aðstoðarmanninn til að senda skrár út?

Rannsakendurnir hjá PromptArmor lýsa málinu skref fyrir skref.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3)

1.  Notandi tengdi aðstoðarmanninn við möppu með trúnaðarskjölum um fasteignir, til dæmis verðmötum og lánaáætlunum.
2.  Notandinn hlóð upp skjali sem leit út eins og vinnuleiðbeiningar fyrir aðstoðarmanninn. Í því voru fyrirmæli sem enginn myndi sjá, með hvítu letri á hvítri síðu í leturstærðinni einn punktur.
3.  Notandinn bað aðstoðarmanninn að greina skrárnar eftir þessum leiðbeiningum.
4.  Faldi textinn sagði aðstoðarmanninum að hlaða stærstu skránni upp í skráaþjónustu framleiðandans, undir aðgangslykli árásaraðilans sjálfs. Umhverfi aðstoðarmannsins lokaði á flestar tengingar út á við, en eigin þjónusta framleiðandans taldist traust.
5.  Skráin, með fjárhagstölum og persónuupplýsingum, endaði á aðgangi árásaraðilans.

Rannsakendurnir benda á að aldrei hafi nokkur verið beðinn um að samþykkja neitt.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3) Þeir skrifa líka að sami veikleiki hafi áður fundist í spjallþjónustu framleiðandans og verið tilkynntur og viðurkenndur, en ekki lagaður.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3)

Svar framleiðandans, samkvæmt tilvitnun rannsakendanna, var viðvörun um að varan væri forútgáfa til prófunar sem fylgdi sérstök áhætta og ráð um að veita henni ekki aðgang að skrám í tölvunni sem innihalda viðkvæmar upplýsingar.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3) Sama ráð stendur á öryggissíðu framleiðandans í dag, þar sem því er bætt við að þrátt fyrir varnirnar séu líkur á árás enn ekki núll.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

Árásir af þessu tagi hafa nafn. Fyrirmæli sem eru falin í efni sem aðstoðarmaðurinn les við venjulegt verkefni kallast innskot fyrirmæla (prompt injection).[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) OWASP Top 10 for LLM Applications 2026, listi öryggissamfélagsins yfir helstu áhættuþætti mállíkana gervigreindar, setur það í fyrsta sæti og segir að engin áreiðanleg leið sé enn til að koma í veg fyrir það.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4)

## Af hverju snýst þetta um réttindi en ekki betra verkfæri?

Vegna þess að bæði framleiðandinn og öryggissamfélagið byggja vörnina á því sem aðstoðarmaðurinn hefur leyfi til að gera. Framleiðandinn skrifar að þegar eitthvað fer úrskeiðis ráðist tjónið nær alfarið af því hvað aðstoðarmaðurinn getur lesið og séð og hvað hann má gera.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Árás af þessu tagi heppnast aðeins þegar tvennt á við í senn, aðstoðarmaðurinn les efni úr öðrum áttum en þeim sem þú treystir og hann getur gripið til aðgerða sem gætu skaðað þig.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

OWASP gengur lengra og ráðleggur að hanna kerfi út frá því að mörk líkansins verði einhvern tíma rofin og takmarka hvað líkanið má gera, svo að vel heppnað bragð verði ekki að vel heppnaðri árás.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4) Það nefnir þrjú skilyrði sem saman gera alvarlegt tjón mögulegt, það er aðgang að einkagögnum, ótraust efni og leið til að senda gögn út, og segir að ef eitt þeirra er fjarlægt séu skilyrðin ekki lengur fyrir hendi.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4)

Í málinu hér að ofan voru öll þrjú til staðar, trúnaðarmappa, skjal utan frá og leyfð leið út.[3](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-3) Betra líkan hefði minnkað líkurnar. Þrengri réttindi hefðu fjarlægt eitt skilyrðanna þriggja.

## Hver er munurinn á lesréttindum og aðgerðaréttindum?

Framleiðandinn skiptir verkfærum aðstoðarmanns í tvo flokka.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Lesverkfæri leyfa honum að sjá efni, til dæmis pósthólf eða skjámynd. Skrifverkfæri leyfa honum að framkvæma, til dæmis búa til fundarboð í dagatali, eyða skrá, keyra skipun eða smella á skjáinn. Framleiðandinn segir að seinni flokkurinn feli eðli sínu samkvæmt í sér meiri áhættu.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

OWASP rekur of mikið sjálfræði til þriggja orsaka, fleiri aðgerða en verkefnið þarfnast, víðari heimilda en verkefnið þarfnast og of mikils frelsis til að starfa án eftirlits.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4) Dæmi OWASP sjálfs er póstaðstoðarmaður sem tekur aðeins saman skilaboð. Hann þarf að lesa póst, ekki að senda hann eða eyða honum.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4)

Að okkar mati líta algengustu réttindin svona út, ásamt því hver ætti að ákveða þau.

Réttindi

Dæmigerð notkun

Hvað fer úrskeiðis ef þau eru of víð

Hver ætti að ákveða

Lesa möppu

skjöl verkefnis eða deildar

aðstoðarmaðurinn sér laun eða samninga sem hann þarf ekki og hver skrá getur borið falin fyrirmæli

eigandi gagnanna, ásamt UT-deildinni

Lesa póst og dagatal

samantektir, undirbúningur funda

skilaboð frá utanaðkomandi sendanda verða að fyrirmælum

UT-deildin, eftir hlutverkum

Vafra um vefinn

upplýsingaleit, útfylling eyðublaða

hvaða síða sem er getur borið falin fyrirmæli

UT-deildin

Breyta eða eyða skrám

tiltekt, vinnsla skjala

vinna tapast eða er skrifuð yfir

notandinn, innan marka sem UT-deildin setur

Senda, hlaða upp eða birta

tölvupóstar, samnýttir tenglar, upphleðslur

gögn fyrirtækisins fara út fyrir það

stjórnendur, UT-deildin framfylgir

Kaupa, greiða eða panta

innkaup, bókanir

fé er eytt að fyrirmælum einhvers annars

stjórnendur

Bæta við verkfærum og viðbótum

nýjar tengingar við aðrar þjónustur

hver og ein opnar nýja leið inn

UT-deildin

## Hver ákveður innan fyrirtækisins?

Ekki manneskjan við lyklaborðið ein. Síða framleiðandans segir skýrt að notandinn beri áfram ábyrgð á hverri aðgerð sem aðstoðarmaðurinn framkvæmir fyrir hans hönd, þar á meðal sendum skilaboðum, kaupum og lesnum eða breyttum gögnum.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Samt eru margar þeirra stillinga sem ráða þessu í höndum notandans, til dæmis hvaða möppur eru tengdar og hversu oft aðstoðarmaðurinn spyr áður en hann framkvæmir.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

Sumu ræður fyrirtækið þó sjálft. Eigendur fyrirtækjaáskrifta framleiðandans geta slökkt á vefleit, sent skrá yfir virkni aðstoðarmannsins í eigin vöktunarkerfi og í stærstu fyrirtækjaáskriftinni (enterprise) látið leita að skaðlegu efni í nýjum viðbótum við uppsetningu.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

OWASP bætir við tveimur meginreglum sem gera ákvörðunina að máli fyrirtækisins.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4) Aðgerðir í þágu notanda eiga að keyra með réttindum hans sjálfs og engum umfram þau.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4) Og hvort aðgerð er leyfð á að ráðast af föstum reglum í kerfinu, ekki af gervigreindarlíkaninu sjálfu.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4)

Að okkar mati er verkaskiptingin einföld. Stjórnendur ákveða hvers konar aðgerðir eru leyfðar á annað borð. UT-deildin útfærir það í stillingum og heldur utan um skrána. Eigandi hvers gagnasvæðis ákveður hvaða möppur og pósthólf aðstoðarmaður má lesa. Notandinn samþykkir einstakar aðgerðir innan þessara marka.

## Hvaða aðgerðir bíða alltaf eftir manneskju?

OWASP mælir með því að manneskja samþykki afdrifaríkar aðgerðir áður en þær eru framkvæmdar.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4) Það leggur til stigskipta nálgun, þar sem skref sem auðvelt er að snúa við mega keyra sjálf en óafturkræf skref fara til manneskju.[4](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-4)

Síða framleiðandans bendir í sömu átt. Aðstoðarmaður hans spyr alltaf áður en hann eyðir skrám endanlega, í hvaða ham sem hann keyrir.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Hún ráðleggur að skipta yfir í handvirkt samþykki þegar verkefni snertir viðkvæmar skrár, notar nýtt verkfæri eða vefsvæði í fyrsta sinn eða þegar erfitt væri að bæta fyrir mistök, til dæmis við sendingu skilaboða eða kaup.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2) Í hamnum sem sleppir öllum samþykktum, segir þar, fylgist ekkert með aðgerðum aðstoðarmannsins.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

Fyrir flest fyrirtæki lítur skynsamlegur sjálfgefinn listi yfir aðgerðir sem bíða samþykkis svona út.

-   allt sem sendir gögn út, til dæmis tölvupóstur, upphleðsla, eyðublað eða birting
-   eyðing eða yfirskrift skráa og færslna
-   greiðslur, pantanir og innkaup
-   breytingar á gögnum í kerfum fyrirtækisins
-   fyrsta notkun nýs verkfæris, viðbótar eða vefsvæðis
-   tímasett verkefni, sem framleiðandinn ráðleggur að halda frá viðkvæmum gögnum og frá aðgerðum sem erfitt er að afturkalla[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)

## Hvað á heima í stefnu fyrirtækisins?

Ein eða tvær síður duga, svo framarlega sem stillingarnar eru í samræmi við þær.

-   Hvaða aðstoðarmenn með gervigreind mega keyra á tölvum fyrirtækisins, og þá aðeins á aðgöngum þess?
-   Hvaða möppur má aðstoðarmaður lesa? Framleiðandinn mælir með sérstakri vinnumöppu frekar en víðtækum aðgangi.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)
-   Hvaða gögn koma aldrei nálægt honum, til dæmis fjárhagsskjöl, aðgangsupplýsingar og persónuskrár?[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)
-   Hvaða vefsvæði og tengdar þjónustur má hann nota?
-   Hvaða aðgerðir bíða alltaf eftir manneskju, og framfylgir stillingin því, ekki aðeins texti stefnunnar?
-   Eru tímasett verkefni leyfð, og þá til hvers?
-   Er hvert skref skráð þar sem UT-deildin getur séð það síðar?
-   Hvað gerir notandi þegar aðstoðarmaðurinn fer út fyrir verkefnið? Ráð framleiðandans er að stöðva verkefnið strax og tilkynna það.[2](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-2)
-   Hver fer yfir stefnuna, og hversu oft?

## Hvað þetta þýðir fyrir fyrirtæki í Evrópu

Þegar um persónuupplýsingar er að ræða eru réttindi aðstoðarmanns líka lagalegt mál. Persónuverndarreglugerðin (GDPR) krefst þess að sjálfgefið séu aðeins unnar þær persónuupplýsingar sem þörf er á í hverjum tilgangi og nefnir sérstaklega aðgengi að þeim.[5](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-5) Aðstoðarmaður sem er tengdur við heilan disk sér miklu meira en verkefni hans krefst. GDPR krefst þess einnig að hver sá sem starfar í umboði fyrirtækisins og hefur aðgang að persónuupplýsingum vinni þær aðeins samkvæmt fyrirmælum fyrirtækisins.[5](https://disruptivelab.dev/is/frettir/gervigreind-a-tolvum-starfsfolks#source-5) Réttindi sem eru ákveðin miðlægt, þar sem hvert skref er skráð, eru hagnýt leið til að sýna fram á að þetta sé uppfyllt.

## Næsta skref

Ef það kemur að gagni getum við hist stutta stund og farið saman yfir hvaða möppur og aðgerðir aðstoðarmaður með gervigreind má nota í fyrirtækinu þínu og hver samþykkir hvað. Gervigreindarlausn fyrir fyrirtæki frá okkur vinnur á sama hátt, með réttindum hvers notanda og skrá yfir hvert skref, undir stjórn fyrirtækisins. Hvað þú gerir svo við það er alfarið þín ákvörðun.

[Gervigreindarlausn fyrir fyrirtæki](https://disruptivelab.dev/is/gervigreindarlausn-fyrir-fyrirtaeki)

## Heimildir

1.  1. [Anthropic, Claude Help Center, Release notes, entry of 12 January 2026](https://support.claude.com/en/articles/12138966-release-notes). Lesið 17. nóvember 2026
2.  2. [Anthropic, Claude Help Center, Use Claude Cowork safely](https://support.claude.com/en/articles/13364135-use-claude-cowork-safely). Lesið 17. nóvember 2026
3.  3. [PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026)](https://www.promptarmor.com/resources/claude-cowork-exfiltrates-files). Lesið 17. nóvember 2026
4.  4. [OWASP GenAI Security Project, Top 10 for LLM Applications 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/). Lesið 17. nóvember 2026
5.  5. [Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex](https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32016R0679). Lesið 17. nóvember 2026

## Breytingaskrá

1.  17\. nóvember 2026 Birt.

## Tengdar greinar

Fréttaskýring · Gervigreind undir stjórn fyrirtækisins

### [Gervigreindarfulltrúar. Hvað er raunhæft?](https://disruptivelab.dev/is/frettir/gervigreindarfulltruar-hvad-er-raunhaeft)

Bandarísku tæknirisarnir selja nú gervigreindarfulltrúa. Hvað fulltrúi er á mannamáli, hvar hann nýtist í dag og hvað evrópskar reglur krefjast af þér.

17\. nóvember 2026

Leiðarvísir · Gervigreind undir stjórn fyrirtækisins

### [Að ná tökum á skuggagervigreind](https://disruptivelab.dev/is/frettir/skuggagervigreind-undir-stjorn)

Flestir nota í vinnunni gervigreind sem fyrirtækið valdi aldrei. Hvað getur lekið út, af hverju bönn bregðast og hvernig gervigreind verður fyrirtækisins.

17\. nóvember 2026

## Fyrirtækjaupplýsingar

- **Heiti fyrirtækis:** Disruptive Lab s.r.o.
- **Skráð aðsetur:** Vavrečkova 5262, 760 01 Zlín
- **Auðkennisnúmer (IČO):** 08240647
- **VSK-númer (DIČ):** CZ08240647
- **Tölvupóstur:** office@disruptivelab.dev
- **Sími:** +420 777 702 032
