---
title: Spjallmenni frá birgi prófað fyrir opnun | Disruptive Lab
description: Hvað á að prófa og hvað á að fá skriflega frá birginum áður en gervigreindarspjallmenni fer í loftið á vefnum þínum. Með gátlista fyrir viðtöku.
url: https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi
language: is
covers: 2025-12-29/2026-01-04
---

1.  [Fréttir](https://disruptivelab.dev/is/frettir)
2.  [Innkaup og birgjar](https://disruptivelab.dev/is/frettir/innkaup-og-birgjar)
3.  Spjallmenni frá birgi prófað fyrir opnun

[Leiðarvísir](https://disruptivelab.dev/is/frettir/leidarvisar)  [Innkaup og birgjar](https://disruptivelab.dev/is/frettir/innkaup-og-birgjar)

# Spjallmenni frá birgi prófað fyrir opnun

Spjallmenni á vefnum þínum er dyr inn í kerfin þín og á því skilið sömu viðtökuprófun og allur annar hugbúnaður sem þú kaupir, auk nokkurra prófana sem eiga aðeins við það.

- **Birt:** 17. nóvember 2026
- **Uppfært:** 17. nóvember 2026
- **Lestími:** 7 mín. lestur
- **Ritstjóri:** David Lahuta

Vikan frá 29. desember 2025

## Í stuttu máli

Gervigreindarspjallmenni á vefnum þínum er hugbúnaður sem ókunnugir geta talað við. Prófaðu það eins og árásaraðili myndi gera áður en það fer í loftið. Í desember 2025 var birt lýsing á því hvernig rannsakendur komust fram hjá öryggisathugunum spjallmennis stórs fyrirtækis, fengu það til að ljóstra upp földum fyrirmælum sínum og skila kóða sem keyrði í vafra notandans.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Orsakirnar voru algengir veikleikar í vefkerfum, og tilkynningu sem send var gegnum tilkynningaleið fyrirtækisins var ekki svarað vikum saman.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Áður en þú tekur við spjallmenni skaltu prófa hvað það ljóstrar upp, hvað það getur gert og að gögnum hverra það kemst, og gera skriflega kröfu til birgisins um skráningu, lagfæringar og tilkynningaleið sem virkar.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3)

## Efnisyfirlit

1.  [Hvað fór úrskeiðis í máli Eurostar?](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#hva%C3%B0-for-urskei%C3%B0is-i-mali-eurostar)
2.  [Af hverju dugar ekki að segja spjallmenninu að haga sér vel?](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#af-hverju-dugar-ekki-a%C3%B0-segja-spjallmenninu-a%C3%B0-haga-ser-vel)
3.  [Hvað á að prófa áður en spjallmennið fer í loftið?](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#hva%C3%B0-a-a%C3%B0-profa-a%C3%B0ur-en-spjallmenni%C3%B0-fer-i-lofti%C3%B0)
4.  [Hver á að sjá um prófunina?](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#hver-a-a%C3%B0-sja-um-profunina)
5.  [Hvað á að fá skriflega frá birginum?](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#hva%C3%B0-a-a%C3%B0-fa-skriflega-fra-birginum)

## Hvað fór úrskeiðis í máli Eurostar?

Hinn 22. desember 2025 birti öryggisfyrirtækið Pen Test Partners lýsingu á því hvernig það fann fjóra veikleika í opinberu gervigreindarspjallmenni lestarfyrirtækisins Eurostar.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Rannsakandinn rakst á spjallmennið þegar hann skipulagði ferð sem venjulegur viðskiptavinur og prófaði það innan birtra reglna fyrirtækisins um tilkynningu öryggisveikleika.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

Rannsakendurnir lýsa hönnun sem virtist rétt, en henni var ekki framfylgt.

-   **Öryggisathugunin skoðaði aðeins síðustu skilaboðin.** Með hverjum nýjum skilaboðum sendi vefsíðan allt samtalið aftur til netþjónsins, en netþjónninn athugaði aðeins þau nýjustu.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Eldri skilaboðum mátti breyta í vafranum og þau bárust gervigreindarlíkaninu sem traust samhengi.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Að sögn rannsakendanna sást öryggislagið á skjánum en því var illa framfylgt á netþjóninum.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Földu fyrirmælin komu í ljós.** Eftir að hafa komist fram hjá athuguninni fékk rannsakandinn líkanið til að gefa upp heiti sitt og kerfisfyrirmælin (system prompt), földu fyrirmælin sem segja spjallmenninu hvernig það á að haga sér, meðal annars hvernig það bjó til tenglana í svörum sínum.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Svörin gátu innihaldið kóða.** Svör spjallmennisins birtust í spjallglugganum án hreinsunar, svo hægt var að fá það til að skila kóða sem vafri notandans keyrði síðan.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Númer samtala voru ekki sannreynd.** Netþjónninn tók við númerum samtala og skilaboða sem voru jafn einföld og „1“ eða „hello“.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

Rannsakendurnir reyndu ekki að komast í samtöl annarra notenda og skrifa að innskotið hafi ekki afhjúpað gögn annarra notenda.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Þeir töldu veikleikana ekki mjög alvarlega þar sem spjallmennið gat lítið gert á þeim tíma, en vöruðu við því að aukin virkni gæti afhjúpað persónuupplýsingar.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

Síðari hluti sögunnar snýst um tilkynningaleiðina. Fyrsta tilkynningin var send 11. júní 2025 og ítrekun 18. júní, en hvorugri var svarað.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Samstarfsmaður rannsakandans hafði samband við öryggisstjóra fyrirtækisins 7. júlí, og 31. júlí fengu þeir að vita að engin skráning væri til um tilkynninguna.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Í millitíðinni hafði tilkynningaleiðin verið færð til utanaðkomandi þjónustuaðila og gamla leiðin lögð niður.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Beiðnum um staðfestingu á móttöku eða tímaáætlun fyrir lagfæringu var ekki svarað.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Veikleikarnir voru á endanum lagfærðir, en rannsakendurnir skrifa að þeir viti enn ekki hvort þeir hafi allir verið lagfærðir að fullu.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

Sjálfir draga þeir stuttan lærdóm af málinu. Gamlir veikleikar í vefkerfum og forritaskilum (API) eiga enn við þegar gervigreindarlíkan er komið inn í ferlið.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

## Af hverju dugar ekki að segja spjallmenninu að haga sér vel?

Vegna þess að fyrirmælin og texti gestsins berast líkaninu í sama straumi. OWASP Top 10 for LLM Applications 2026, listi öryggissamfélagsins yfir helstu áhættuþætti kerfa sem byggð eru á mállíkönum gervigreindar, setur innskot fyrirmæla (prompt injection) í fyrsta sæti.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Innskot fyrirmæla er texti sem breytir því sem líkanið gerir á þann hátt sem sá sem smíðaði það ætlaði ekki.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Listinn er afdráttarlaus um þetta. Engin áreiðanleg leið er til í dag til að koma í veg fyrir innskot fyrirmæla, svo hanna ætti kerfið í kringum líkanið út frá þeirri forsendu að farið verði fram hjá fyrirmælum þess, og takmarka það sem líkanið má gera.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Fyrirmælin þurfa ekki heldur að koma frá gestinum. Þau geta leynst á vefsíðu, í skjali eða tölvupósti sem spjallmennið les.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Fyrir kaupanda breytir þetta spurningunni. Spurningin er ekki hvort hægt sé að blekkja spjallmennið. Hún snýst um hvað gerist þegar það tekst.

## Hvað á að prófa áður en spjallmennið fer í loftið?

Prófaðu þær áhættur sem spjallmenni opið almenningi stendur raunverulega frammi fyrir. Taflan fylgir lista OWASP og niðurstöðunum úr máli Eurostar, á mannamáli.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Hvað á að prófa

Hvað prófandinn reynir

Hvernig staðið próf lítur út

Fyrirmæli falin í inntakinu

að fá spjallmennið til að víkja frá reglum sínum, beint eða í gegnum skjal eða síðu sem það les[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

spjallmennið getur sagt eitthvað skrýtið en getur hvorki gert neitt né ljóstrað upp neinu sem það má ekki

Öryggisathugunina

að breyta eldri skilaboðum eða komast fram hjá athuguninni úr vafranum[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

hver athugun fer fram á netþjóninum, fyrir allt samtalið

Földu fyrirmælin

að fá spjallmennið til að ljóstra þeim upp[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

í þeim eru engin lykilorð, lyklar eða reglur sem vernda eitthvað[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Gögn annarra

að komast í annað samtal eða í gögn annars viðskiptavinar[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

númer samtala koma frá netþjóninum og eru bundin lotu gestsins[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)

Kóða í svörunum

að fá spjallmennið til að skila kóða sem keyrir í vafranum[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

hvert svar birtist sem hreinn texti eða er hreinsað áður en það birtist[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Hvað spjallmennið getur gert

að fá það til að fara út fyrir verksvið sitt, til dæmis senda tölvupóst eða breyta pöntun[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

það hefur aðeins þær aðgerðir og heimildir sem verkefnið krefst[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Reikninginn

að fá það til að framleiða löng og dýr svör í sífellu[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

fast kostnaðarþak og þak á hvern gest eru sett[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Tvö þessara atriða verðskulda nánari skoðun.

**Földu fyrirmælin eru ekki leyndarmál.** OWASP ráðleggur þeim sem smíða slík kerfi að gera ráð fyrir að þau geti fundist, setja aldrei lykilorð eða lykla í þau og nota þau aldrei sem einu öryggisvörnina.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Spjallmenni sem neitar að ljóstra þeim upp hefur ekki þar með staðist prófið. Það stenst prófið þegar það veldur engum skaða að þau komi í ljós.

**Spjallmennið á að geta gert sem minnst.** OWASP kallar áhættuna excessive agency, spjallmenni sem getur gert meira en það ætti, og nefnir þrjár orsakir, of margar aðgerðir, of margar heimildir og of mikið frelsi til að starfa upp á eigin spýtur.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Úrræðin sem OWASP bendir á eru aðeins þau verkfæri sem verkefnið krefst, eins fáar heimildir og hægt er, að aðgerðir séu framkvæmdar með réttindum notandans sem spurði og að manneskja samþykki allt sem hefur mikil áhrif.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Dæmið sem OWASP tekur sjálft er þjónustuspjallmenni sem má upp á eigin spýtur endurgreiða með inneign í versluninni, en ef greiða á út peninga fer málið til manneskju.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

## Hver á að sjá um prófunina?

Einhver sem smíðaði ekki spjallmennið og fær að vita hvernig varnir þess virka. OWASP ráðleggur að prófa gegn árásaraðilum sem hafa kynnt sér vörnina, ekki aðeins með föstu safni þekktra árása.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2) Rannsóknin sem OWASP vísar til tók fyrir tólf nýlegar varnir, en samkvæmt niðurstöðum flestra þeirra komust árásir nánast aldrei í gegn. Árásaraðilar sem löguðu aðferð sína að vörninni höfðu þó betur í yfir 90% tilvika gegn flestum þeirra.[2](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-2)

Rannsakendurnir í máli Eurostar bæta við að prófun sé ekki einskiptisverkefni og ráðleggja að prófa spjallmennið reglulega með þekktum aðferðum við innskot og endurspilun.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Að okkar mati er prófunarskýrsla birgisins sjálfs góð byrjun, og óháð prófun fyrir opnun er skrefið sem gefur viðtökunni raunverulegt gildi.

## Hvað á að fá skriflega frá birginum?

Secure by Demand Guide, leiðarvísir bandarísku stofnananna CISA og FBI frá 2024, leggur kaupendum til spurningar sem spyrja má fyrir kaup, kröfur sem setja má í samninginn og athuganir sem gera má eftir á.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3) Þar segir líka að nota megi spurningarnar gagnvart endursöluaðilum og þjónustuaðilum, svo hann á einnig við um spjallmenni sem keypt er af vefstofu eða sem þjónusta.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3) Að viðbættum lærdómnum af máli Eurostar[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) eru þetta atriðin sem við myndum vilja fá skrifleg.

-   **Tilkynningaleið sem virkar.** Stefna um tilkynningu veikleika, birt á opinni vefsíðu, sem heimilar almenningi að prófa.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3) Því næst hver les tilkynningarnar og hvað verður um þær þegar leiðin færist á aðrar hendur.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Svar og tímaáætlun.** Beiðnum rannsakendanna um staðfestingu á móttöku og tímaáætlun fyrir lagfæringu var ekki svarað.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1) Festu í samningnum hve fljótt öryggistilkynning er staðfest og hve fljótt alvarlegur veikleiki er lagfærður.
-   **Skráning sem þú getur lesið.** Öryggisskráning í grunnútgáfunni, sem fyrir skýjaþjónustu er varðveitt í að minnsta kosti sex mánuði án aukagjalds og nær yfir breytingar á stillingum, innskráningar og aðgang að gögnum.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3) Fyrir spjallmenni bæta rannsakendurnir við skráningu hvers samtals sem gerir kleift að endurgera það, þar á meðal öryggisákvarðanirnar og þau verkfæri sem líkanið notaði, með viðvörunum um óvenjuleg mynstur.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Leið til að slökkva á því.** Neyðarrofi sem slekkur fljótt á spjallmenninu eða einni af aðgerðum þess.[1](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-1)
-   **Lagfæringar sem auðvelt er að setja upp.** Hvernig birgirinn gerir öryggislagfæringar einfaldar í uppsetningu.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3)
-   **Úr hverju það er byggt.** Listi yfir íhluti frá þriðja aðila í vörunni, svokölluð hugbúnaðaruppskrift (SBOM).[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3)
-   **Örugg innskráning fyrir starfsfólkið þitt.** Einskráning (SSO) og fjölþátta auðkenning fyrir þá sem stýra spjallmenninu, án aukakostnaðar.[3](https://disruptivelab.dev/is/frettir/profun-spjallmennis-fra-birgi#source-3)

### Gátlisti fyrir viðtöku spjallmennis

-   Hver öryggisathugun fer fram á netþjóninum, fyrir allt samtalið, ekki aðeins síðustu skilaboðin.
-   Númer samtala og skilaboða koma frá netþjóninum og eru bundin lotu gestsins.
-   Svör birtast sem hreinn texti eða eru hreinsuð áður en þau birtast.
-   Í földu fyrirmælunum eru engin lykilorð, lyklar eða reglur sem vernda eitthvað.
-   Spjallmennið hefur aðeins þær aðgerðir, gögn og heimildir sem verkefni þess krefst, og manneskja samþykkir allt sem hefur mikil áhrif.
-   Kostnaðarþak og þak á hvern gest eru sett.
-   Einhver sem smíðaði ekki spjallmennið hefur prófað það eins og árásaraðili myndi gera og mun prófa það aftur.
-   Hvert samtal er skráð og þú getur lesið skráninguna.
-   Birgirinn hefur opinbera leið fyrir öryggistilkynningar, nafngreindan einstakling sem les þær og umsamda fresti til að svara og lagfæra.
-   Þú getur sjálfur slökkt á spjallmenninu, samstundis.

## Næsta skref

Ef það kæmi sér vel getum við átt stutt símtal og farið yfir viðtökuprófunina fyrir spjallmennið sem þú ert að kaupa, lið fyrir lið, með svör birgisins fyrir framan okkur. Hvað þú gerir svo með það er alfarið þín ákvörðun.

[Gervigreindarlausn fyrir fyrirtæki](https://disruptivelab.dev/is/gervigreindarlausn-fyrir-fyrirtaeki)

## Heimildir

1.  1. [Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025](https://www.pentestpartners.com/security-blog/eurostar-ai-vulnerability-when-a-chatbot-goes-off-the-rails/). Lesið 17. nóvember 2026
2.  2. [OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/). Lesið 17. nóvember 2026
3.  3. [CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem](https://www.cisa.gov/resources-tools/resources/secure-demand-guide). Lesið 17. nóvember 2026

## Breytingaskrá

1.  17\. nóvember 2026 Birt.

## Tengdar greinar

Leiðarvísir · Innkaup og birgjar

### [Lærir gervigreind birgisins af þér?](https://disruptivelab.dev/is/frettir/thjalfar-gervigreind-birgis-a-gognum-thinum)

Mörg gervigreindartól þjálfa líkön á gögnum einstaklingsáskrifta en ekki fyrirtækjaáskrifta. Hvaða ákvæði á að lesa fyrir kaup eða endurnýjun.

Vikan frá 23. mars 2026

Leiðarvísir · Innkaup og birgjar

### [Ókeypis útgáfan fær ekki lengur viðhald](https://disruptivelab.dev/is/frettir/opinn-hugbunadur-an-vidhalds)

Opinn hugbúnaður sem kerfið þitt byggir á getur misst viðhaldið eða skipt um leyfi. Spurningarnar sem sýna hvort hann endist og hvað á að semja um.

Vikan frá 9. febrúar 2026

## Fyrirtækjaupplýsingar

- **Heiti fyrirtækis:** Disruptive Lab s.r.o.
- **Skráð aðsetur:** Vavrečkova 5262, 760 01 Zlín
- **Auðkennisnúmer (IČO):** 08240647
- **VSK-númer (DIČ):** CZ08240647
- **Tölvupóstur:** office@disruptivelab.dev
- **Sími:** +420 777 702 032
