---
title: Preizkus klepetalnega robota pred zagonom | Disruptive Lab
description: Kaj preizkusiti in kaj pisno zahtevati od dobavitelja, preden na vaši spletni strani začne odgovarjati AI klepetalni robot. S kontrolnim seznamom.
url: https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja
language: sl
covers: 2025-12-29/2026-01-04
---

1.  [Novice](https://disruptivelab.dev/sl/novice)
2.  [Nabava in dobavitelji](https://disruptivelab.dev/sl/novice/nabava-in-dobavitelji)
3.  Preizkus klepetalnega robota pred zagonom

[Vodnik](https://disruptivelab.dev/sl/novice/vodniki)  [Nabava in dobavitelji](https://disruptivelab.dev/sl/novice/nabava-in-dobavitelji)

# Preizkus klepetalnega robota pred zagonom

Klepetalni robot na vaši spletni strani odpira vrata v vaše sisteme, zato si zasluži enak prevzemni preizkus kot vsaka druga programska oprema, ki jo kupite, in še nekaj preizkusov posebej zanj.

- **Objavljeno:** 17. november 2026
- **Posodobljeno:** 17. november 2026
- **Čas branja:** 7 min branja
- **Odgovorni urednik:** David Lahuta

Teden od 29. december 2025

## Na kratko

AI klepetalni robot (chatbot) na vaši spletni strani je programska oprema, s katero se lahko pogovarja kdor koli. Preden ga zaženete, ga preizkusite tako, kot bi to storil napadalec. V primeru, objavljenem decembra 2025, so raziskovalci klepetalnega robota velikega podjetja spravili mimo njegovih varnostnih preverjanj, ga pripravili do tega, da je razkril svoja skrita navodila in vrnil kodo, ki se je izvedla v uporabnikovem brskalniku.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Vzroki so bili običajne napake spletnih aplikacij, prijava, poslana po kanalu podjetja za prijavo ranljivosti, pa je tedne ostala brez odgovora.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Preden klepetalnega robota prevzamete, preizkusite, kaj razkrije, kaj lahko naredi in do čigavih podatkov pride, od dobavitelja pa pisno zahtevajte dnevnike, popravke in kanal za prijavo ranljivosti, ki res deluje.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3)

## Vsebina

1.  [Kaj je šlo narobe v primeru Eurostar?](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#kaj-je-slo-narobe-v-primeru-eurostar)
2.  [Zakaj klepetalnemu robotu ni dovolj reči, kako naj se vede?](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#zakaj-klepetalnemu-robotu-ni-dovolj-reci-kako-naj-se-vede)
3.  [Kaj preizkusiti, preden klepetalni robot začne odgovarjati?](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#kaj-preizkusiti-preden-klepetalni-robot-zacne-odgovarjati)
4.  [Kdo naj preizkuša?](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#kdo-naj-preizkusa)
5.  [Kaj pisno zahtevati od dobavitelja?](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#kaj-pisno-zahtevati-od-dobavitelja)

## Kaj je šlo narobe v primeru Eurostar?

Varnostno podjetje Pen Test Partners je 22. decembra 2025 objavilo, kako je v javnem AI klepetalnem robotu železniškega prevoznika Eurostar našlo štiri napake.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Raziskovalec je na klepetalnega robota naletel kot običajen potnik, ki je načrtoval pot, in ga preizkušal v okviru pravil, ki jih je podjetje objavilo za prijavo varnostnih napak.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

Raziskovalci opisujejo zasnovo, ki je bila videti pravilna, a se v resnici ni izvajala.

-   **Varnostno preverjanje je gledalo le zadnje sporočilo.** Stran je z vsakim novim sporočilom na strežnik poslala ves pogovor, strežnik pa je preveril le najnovejše.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Starejša sporočila je bilo mogoče spremeniti v brskalniku in so nato do AI modela prišla kot zaupanja vreden kontekst.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Po besedah raziskovalcev je bila varnostna plast vidna na zaslonu, na strežniku pa je bila uveljavljena šibko.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Skrita navodila so prišla na dan.** Mimo preverjanja je raziskovalec model pripravil do tega, da je razkril ime modela in sistemski poziv (system prompt), torej skrita navodila, ki robotu povedo, kako naj se vede, vključno s tem, kako sestavlja povezave v odgovorih.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Odgovori so lahko nosili kodo.** Odgovori robota so se v oknu klepeta prikazovali neočiščeni, zato ga je bilo mogoče pripraviti do tega, da je vrnil kodo, ki jo je nato izvedel uporabnikov brskalnik.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Številke pogovorov niso bile preverjene.** Strežnik je sprejel številke pogovorov in sporočil, tudi tako preproste, kot sta „1“ ali „hello“.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

Raziskovalci niso poskušali priti do pogovorov drugih uporabnikov in pišejo, da vrinjena navodila niso razkrila podatkov drugih uporabnikov.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Napak niso ocenili kot zelo resnih, ker klepetalni robot takrat ni zmogel veliko, a opozorili, da bi ob več funkcijah lahko prišli na dan tudi osebni podatki.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

Druga polovica zgodbe govori o kanalu za prijavo. Prva prijava je bila poslana 11. junija 2025, opomnik 18. junija, odgovora ni bilo na nobeno.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Sodelavec raziskovalca se je 7. julija obrnil na vodjo varnosti podjetja, 31. julija pa so izvedeli, da o prijavi ni nobenega zapisa.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Kanal za prijavo je podjetje medtem predalo zunanjemu izvajalcu, starega pa ukinilo.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Prošnje za potrditev prejema in za rok popravka so ostale brez odgovora.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Napake so bile na koncu odpravljene, raziskovalci pa pišejo, da še vedno ne vedo, ali so bile odpravljene vse.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

Njihov nauk je kratek. Stare ranljivosti spletnih aplikacij in vmesnikov API ostajajo, tudi ko je vmes AI model.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

## Zakaj klepetalnemu robotu ni dovolj reči, kako naj se vede?

Ker model navodila in besedilo obiskovalca dobi v istem toku. OWASP Top 10 for LLM Applications 2026, seznam glavnih tveganj sistemov, zgrajenih na jezikovnih modelih AI, ki ga pripravlja varnostna skupnost, na prvo mesto uvršča vrivanje navodil (prompt injection).[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Gre za besedilo, ki spremeni vedenje modela na način, ki ga njegov razvijalec ni predvidel.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Seznam pri tem ničesar ne olepšuje. Zanesljivega načina, kako preprečiti vrivanje navodil, danes ni, zato je treba sistem okoli modela zasnovati s predpostavko, da bo nekdo njegova navodila zaobšel, in omejiti, kaj model sme narediti.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Navodila pri tem ne prihajajo nujno od obiskovalca. Lahko so skrita v spletni strani, dokumentu ali e-poštnem sporočilu, ki ga robot prebere.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Za kupca se s tem vprašanje spremeni. Ne gre več za to, ali bo robota kdo prelisičil. Gre za to, kaj se zgodi, ko mu to uspe.

## Kaj preizkusiti, preden klepetalni robot začne odgovarjati?

Preizkusite tveganja, na katera javni klepetalni robot res naleti. Preglednica s preprostimi besedami sledi seznamu OWASP in ugotovitvam iz primera Eurostar.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Kaj preizkusiti

Kaj poskuša preizkuševalec

Kdaj je preizkus uspešen

Navodila, skrita v vnosu

robota pregovoriti, da prekrši svoja pravila, neposredno ali prek dokumenta ali strani, ki jo bere[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

robot lahko reče kaj nenavadnega, ne more pa narediti ali razkriti ničesar, česar ne bi smel

Varnostno preverjanje

spremeniti starejša sporočila ali preverjanje zaobiti iz brskalnika[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

vsako preverjanje teče na strežniku in za ves pogovor

Skrita navodila

robota pripraviti do tega, da jih razkrije[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

ne vsebujejo gesel, ključev ali pravil, ki bi kar koli varovala[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Podatki drugih ljudi

priti do tujega pogovora ali do zapisov druge stranke[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

številke pogovorov dodeli strežnik in so vezane na sejo obiskovalca[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)

Koda v odgovorih

robota pripraviti do tega, da vrne kodo, ki se izvede v brskalniku[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

vsak odgovor se prikaže kot navadno besedilo ali se pred prikazom očisti[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Kaj robot sme narediti

pripraviti ga do dejanj zunaj njegove naloge, na primer da pošlje e-pošto ali spremeni naročilo[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

ima le funkcije in pravice, ki jih njegova naloga potrebuje[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Račun za delovanje

pripraviti ga do tega, da v zanki ustvarja dolge in drage odgovore[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

nastavljena sta trdna zgornja meja stroškov in omejitev na obiskovalca[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Dve od teh postavk si zaslužita natančnejši pogled.

**Skrita navodila niso skrivnost.** OWASP razvijalcem svetuje, naj računajo s tem, da jih bo kdo odkril, naj vanje nikoli ne dajejo gesel ali ključev in naj se nanje ne zanašajo kot na edino varnostno pregrado.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Uspešen preizkus torej ne pomeni robota, ki jih noče razkriti. Pomeni robota, pri katerem njihovo razkritje ne povzroči nobene škode.

**Robot naj sme čim manj.** OWASP to tveganje imenuje excessive agency, torej robot, ki sme več, kot bi smel, in navaja tri vzroke, preveč funkcij, preveč pravic in preveč svobode, da ukrepa sam.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Kot rešitev priporoča le orodja, ki jih naloga potrebuje, čim manj pravic, dejanja, izvedena s pravicami uporabnika, ki jih je zahteval, in človeka, ki odobri vse, kar ima velike posledice.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Sam navaja primer klepetalnega robota za podporo strankam, ki sme sam vrniti denar v obliki dobropisa za trgovino, izplačilo denarja pa mora odobriti človek.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

## Kdo naj preizkuša?

Nekdo, ki robota ni razvil in ki mu povedo, kako delujejo njegovi zaščitni ukrepi. OWASP svetuje preizkušanje z napadalci, ki zaščito poznajo, ne le s stalnim naborom znanih napadov.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2) Raziskava, na katero se sklicuje, je preverila dvanajst novejših zaščit, za večino katerih so avtorji poročali, da napadi skoraj nikoli ne uspejo, napadalci, ki so svoj pristop prilagodili, pa so pri večini od njih uspeli v več kot 90 % primerov.[2](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-2)

Raziskovalci iz primera Eurostar dodajajo, da preizkus ni enkratna stvar, in svetujejo, naj se klepetalni robot redno preizkuša z znanimi tehnikami vrivanja navodil in ponovnega predvajanja pogovora.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) Po našem mnenju je preizkusno poročilo dobavitelja dober začetek, šele neodvisen preizkus pred zagonom pa da prevzemu pravo vrednost.

## Kaj pisno zahtevati od dobavitelja?

Priročnik Secure by Demand ameriških agencij CISA in FBI iz leta 2024 kupcem daje vprašanja, ki jih postavijo pred nakupom, zahteve, ki jih zapišejo v pogodbo, in preverjanja, ki jih opravijo po nakupu.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3) Navaja tudi, da se vprašanja lahko uporabijo pri preprodajalcih in ponudnikih storitev, zato ustrezajo tudi klepetalnemu robotu, kupljenemu pri digitalni agenciji ali kot storitev.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3) Skupaj z nauki iz primera Eurostar[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) so to točke, ki bi jih sami želeli imeti pisno.

-   **Kanal za prijavo, ki deluje.** Objavljena pravila za prijavo ranljivosti na javni spletni strani, ki javnosti dovoljujejo preizkušanje.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3) Poleg tega to, kdo prijave bere in kaj se z njimi zgodi, ko kanal prevzame nekdo drug.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Odgovor in rok.** Prošnje raziskovalcev za potrditev prejema in rok popravka so ostale brez odgovora.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1) V pogodbi se dogovorite, kako hitro dobavitelj potrdi varnostno prijavo in kako hitro odpravi resno napako.
-   **Zapisi, ki jih lahko preberete.** Varnostni dnevniki že v osnovni različici, pri storitvi v oblaku hranjeni vsaj šest mesecev brez doplačila, ki zajemajo spremembe nastavitev, prijave in dostop do podatkov.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3) Pri klepetalnem robotu raziskovalci dodajajo zapis vsakega pogovora, iz katerega ga je mogoče obnoviti, vključno z varnostnimi odločitvami in orodji, ki jih je model uporabil, ter opozorila ob neobičajnih vzorcih.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Možnost izklopa.** Stikalo v sili, ki hitro izklopi klepetalnega robota ali eno od njegovih funkcij.[1](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-1)
-   **Popravki, ki se preprosto namestijo.** Kako dobavitelj poskrbi, da je varnostne popravke preprosto namestiti.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3)
-   **Iz česa je zgrajen.** Seznam komponent tretjih oseb, iz katerih je izdelek sestavljen, imenovan kosovnica programske opreme (SBOM).[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3)
-   **Varna prijava za vaše zaposlene.** Enotna prijava (SSO) in večstopenjsko preverjanje pristnosti za tiste, ki klepetalnega robota upravljajo, brez doplačila.[3](https://disruptivelab.dev/sl/novice/preizkus-klepetalnega-robota-dobavitelja#source-3)

### Kontrolni seznam za prevzem klepetalnega robota

-   Vsako varnostno preverjanje teče na strežniku in za ves pogovor, ne le za zadnje sporočilo.
-   Številke pogovorov in sporočil dodeli strežnik in so vezane na sejo obiskovalca.
-   Odgovori se prikažejo kot navadno besedilo ali se pred prikazom očistijo.
-   Skrita navodila ne vsebujejo gesel, ključev ali pravil, ki bi kar koli varovala.
-   Robot ima le funkcije, podatke in pravice, ki jih njegova naloga potrebuje, vse z velikim učinkom pa odobri človek.
-   Nastavljena sta zgornja meja stroškov in omejitev na obiskovalca.
-   Robota je kot napadalec preizkusil nekdo, ki ga ni razvil, in ga bo preizkušal znova.
-   Vsak pogovor se zapiše in zapise lahko preberete.
-   Dobavitelj ima javni kanal za varnostne prijave, imenovano osebo, ki ga bere, ter dogovorjene roke za odgovor in popravek.
-   Klepetalnega robota lahko izklopite sami, takoj.

## Naslednji korak

Če bi vam koristilo, se lahko dogovorimo za kratek klic in skupaj točko za točko pregledamo prevzemni preizkus klepetalnega robota, ki ga kupujete, z odgovori vašega dobavitelja pred seboj. Kaj boste storili potem, je vaša odločitev.

[Poslovna AI rešitev po meri](https://disruptivelab.dev/sl/poslovna-ai-resitev)

## Viri

1.  1. [Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025](https://www.pentestpartners.com/security-blog/eurostar-ai-vulnerability-when-a-chatbot-goes-off-the-rails/). Prebrano 17. november 2026
2.  2. [OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/). Prebrano 17. november 2026
3.  3. [CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem](https://www.cisa.gov/resources-tools/resources/secure-demand-guide). Prebrano 17. november 2026

## Zgodovina sprememb

1.  17\. november 2026 Objavljeno.

## Sorodni članki

Vodnik · Nabava in dobavitelji

### [Ali se AI dobavitelja uči iz vas?](https://disruptivelab.dev/sl/novice/ali-se-ai-dobavitelja-uci-iz-vasih-podatkov)

Mnoga AI orodja se učijo iz vnosov uporabnikov osebnih licenc, poslovnih pa ne. Katera določila prebrati pred nakupom ali podaljšanjem in kaj dogovoriti.

Teden od 23. marec 2026

Vodnik · Nabava in dobavitelji

### [Brezplačna izdaja se ne vzdržuje več](https://disruptivelab.dev/sl/novice/odprtokodni-del-brez-vzdrzevanja)

Odprtokodni del, na katerem stoji vaš sistem, lahko ostane brez vzdrževanja ali zamenja licenco. Vprašanja, ki pokažejo, ali bo zdržal, in kaj dogovoriti.

Teden od 9. februar 2026

## Podatki o podjetju

- **Ime podjetja:** Disruptive Lab s.r.o.
- **Sedež:** Vavrečkova 5262, 760 01 Zlín
- **Matična številka (IČO):** 08240647
- **ID za DDV (DIČ):** CZ08240647
- **E-pošta:** office@disruptivelab.dev
- **Telefon:** +420 777 702 032
