Preskoči na vsebino
Disruptive Lab

Analiza AI pod nadzorom podjetja

AI agenti iz ZDA. Kaj od tega drži?

Veliki ponudniki iz ZDA prodajajo programsko opremo, ki sama deluje v vaših sistemih, prava odločitev pa je, katere naloge smejo potekati brez človeka in pod čigavim nadzorom.

Objavljeno
Posodobljeno
Čas branja
5 min branja
Odgovorni urednik
David Lahuta

Na kratko

  • Agent je AI programska oprema, ki nalogo v več korakih sama izvede v vaših sistemih, namesto da bi le odgovorila na eno vprašanje.6
  • Septembra in oktobra 2026 so Microsoft, Salesforce, OpenAI in ServiceNow napovedali nove izdelke z agenti, nekateri med njimi so še v pilotni fazi ali omejeno dostopni.1234
  • Prava odločitev je, katere naloge smejo potekati brez človeka in kdo upravlja pravice dostopa, zapise in odobritve.
  • V Evropi vsak agent, ki ukrepa, s seboj prinese Akt o umetni inteligenci (AI Act), GDPR in vprašanje, kje so podatki.

Kaj so veliki ameriški ponudniki napovedali letošnjo jesen?

Štiri napovedi, vsaka tako, kot jo opisuje ponudnik sam.

Napoved Kaj prinaša Kaj to pomeni za vas Ukrepati zdaj ali počakati
Microsoft Copilot harness, 28. oktobra 20261 Prek Microsoft Foundry razvijalci in poslovne stranke dobijo plast, na kateri Microsoft gradi lastne izdelke Copilot, z izbiro med več kot 20 modeli AI1 Gradnik za vaše razvijalce ali dobavitelja, ne že pripravljen agent Počakati, razen če vaši razvijalci na njem že gradijo
Salesforce Agentforce, Dreamforce 20262 Agentforce Coworker nalogo načrtuje in jo izvede v CRM-ju, dolgotrajno delujoči agenti, do novembra 2026 v pilotni fazi, pa v mejah, ki jih določi stranka, prosijo za odobritev2 Koristno tam, kjer prodaja in servis že tečeta v tem CRM-ju Tam preizkusiti en proces, sicer počakati
OpenAI Agents API, 10. septembra 20263 Upravljana storitev za gradnjo agentov, ki delujejo v oblaku OpenAI, z dolgimi sejami in uporabo orodij3 Orodje za gradnjo lastnih agentov, ki delujejo pri ponudniku Počakati, razen če agente gradite sami
ServiceNow EmployeeWorks, 15. oktobra 20264 Zaposleni brez programiranja sestavijo lastne AI asistente v mejah, ki jih določijo skrbniki, na voljo z nadzorovanim dostopom4 Agenti, ki jih ustvarijo zaposleni, najprej potrebujejo pravila podjetja Počakati in določiti pravila

Microsoft pravi, da je upravljanje vgrajeno od prvega dne, vendar njegova napoved samih nadzornih mehanizmov ne opisuje.1 Prav to je vprašanje, ki ga velja zastaviti vsakemu ponudniku.

Ameriški vlagatelj Menlo Ventures ocenjuje, da so izdatki podjetij za uporabo AI do septembra 2026 dosegli 176,8 milijarde USD, kar je 5,4-krat več kot leto prej.5 Njegova raziskava med skoraj 400 odločevalci v ameriških podjetjih je potekala septembra 2026.5 Delež podjetij, ki uporabljajo AI, pa se je povečal le s 55 % na 65 %.5 Na OpenRouterju, storitvi, ki zahteve posreduje modelom AI, na agente zdaj odpade 80 % obdelanega besedila, čeprav med njegovimi uporabniki prevladujejo razvijalci in zagonska podjetja.5 Izdatki torej rastejo veliko hitreje kot uporaba.

Kaj je agent, preprosto povedano?

Poslovni vodnik OpenAI agente opisuje kot „sisteme, ki namesto vas samostojno opravljajo naloge“.6 Klepetalni robot, ki odgovarja na eno vprašanje za drugim, ni agent.6 Agent sam odloča o naslednjem koraku, z orodji bere podatke iz drugih sistemov in v njih ukrepa, ko mu ne uspe, pa nadzor vrne človeku.6

Anthropic postavlja podobno mejo.7 V delovnem toku so koraki določeni vnaprej, pri agentu pa model AI sam izbira korake in orodja.7 To je razlika med procesom, ki ste ga zasnovali vi, in procesom, ki ga programska oprema zasnuje sproti.

Za katere naloge je agent danes primeren?

Anthropic svetuje najpreprostejšo rešitev, ki deluje, zapletenost pa dodati šele, ko je res potrebna.7 OpenAI navaja tri vrste dela, pri katerih agenti prinašajo vrednost, in sicer presojo, na primer odobritev vračila kupnine, pravila, ki jih je preveč za vzdrževanje, na primer varnostne preglede dobaviteljev, in informacije v dokumentih, na primer pri obravnavi zavarovalnega zahtevka.6 Kjer delo opravijo vnaprej določena pravila, zadošča običajna avtomatizacija.6 Agenti so tudi dražji, napake pa se lahko iz koraka v korak kopičijo.7

Po obeh vodnikih je naloga primerna za agenta, kadar velja večina naslednjih točk.67

  • Naloga zahteva presojo, ne le vnaprej določenega pravila.
  • Vhodni podatki so e-poštna sporočila, dokumenti ali prosto besedilo.
  • Napačen korak je mogoče opaziti in popraviti.
  • Človek lahko rezultat preveri, preden začne veljati.

Kaj ostane v rokah podjetja?

Vodnik OpenAI pravi, naj o občutljivih, nepovratnih ali zelo tveganih dejanjih, kot so preklic naročila, odobritev velikega vračila kupnine ali plačilo, odloča človek, dokler zaupanje v agenta ne zraste, in svetuje, naj se začne v majhnem obsegu z resničnimi uporabniki.6 Anthropic priporoča testiranje v zaprtem okolju z omejitvami in to, da se agent na dogovorjenih točkah ustavi in počaka na človeka.7

Ponudniki to vgrajujejo v izdelke. Dolgotrajno delujoči agenti Salesforce prosijo za odobritev,2 asistenti ServiceNow pa delujejo v mejah, ki jih določijo skrbniki.4 Kdor ima v rokah pravice dostopa, zapise in odobritve, ima v rokah tudi agenta. Preden agent začne delovati, se splača zastaviti pet vprašanj.

  • Čigave pravice dostopa agent uporablja?
  • Kje se zapiše vsak korak in kako dolgo se zapis hrani?
  • Katera dejanja čakajo na odobritev človeka?
  • Kje so podatki in kje deluje model AI?
  • Ali lahko zamenjamo ponudnika in obdržimo svoje podatke?

Kaj to pomeni za podjetje v Evropi

Akt o umetni inteligenci ne zavezuje le tistega, ki agenta izdela, temveč tudi podjetje, ki ga uporablja, v jeziku uredbe „uvajalca“.

  • Usposobljenost zaposlenih. Ponudniki in uvajalci morajo sprejeti ukrepe, s katerimi podpirajo pismenost na področju umetne inteligence pri svojem osebju in drugih osebah, ki v njihovem imenu delajo s sistemi AI, ne da bi morali zagotoviti določeno raven.914 To velja od 2. februarja 2025, izvršuje pa se od 2. avgusta 2026.8
  • Obveščanje ljudi. Od 2. avgusta 2026 mora biti sistem AI, ki je v neposredni interakciji z ljudmi, zasnovan tako, da so posamezniki obveščeni, da so v stiku s sistemom AI.81115
  • Visokotvegana uporaba. Za uporabe, ki jih Akt o umetni inteligenci v Prilogi III uvršča med visokotvegane, veljajo pravila od 2. decembra 2027, kakor jih je julija 2026 spremenil digitalni omnibus o umetni inteligenci (Digital Omnibus on AI).148 Uvajalec nato človeški nadzor dodeli osebam s potrebnimi kompetencami, usposobljenostjo in pooblastili, spremlja delovanje sistema in njegove dnevnike hrani najmanj šest mesecev.10
  • Odločitve o ljudeh. Po Splošni uredbi o varstvu podatkov (GDPR) ima posameznik pravico, da zanj ne velja odločitev, ki temelji zgolj na avtomatizirani obdelavi, kadar ima ta pravne učinke v zvezi z njim ali nanj na podoben način znatno vpliva, z nekaterimi izjemami.12 Kjer je taka odločitev dovoljena, jo lahko posameznik izpodbija in zahteva, da jo pregleda človek, kot v primeru, ki ga navaja Evropska komisija, ko o posojilu odloči algoritem.12
  • Kje so podatki. Osebni podatki, ki jih agent pošlje v države zunaj Evropskega gospodarskega prostora, potrebujejo ustrezne zaščitne ukrepe, da njihovo varstvo potuje z njimi, na primer sklep o ustreznosti ali standardna pogodbena določila.13

Agent, ki ukrepa, zato potrebuje imenovanega lastnika, zapise in človeka, ki odobri vse, kar je pomembno.

Naslednji korak

Če bi želeli v svojem podjetju najti prva dva procesa, v katerih bi agent res prihranil čas in ostal pod vašim nadzorom, si ju bomo z veseljem ogledali skupaj z vami na kratkem sestanku. Kaj boste storili z rezultatom, je povsem vaša odločitev.

Poslovna AI rešitev po meri

Viri

  1. 1. Microsoft, Introducing the Microsoft Copilot harness (28 October 2026). Prebrano 17. november 2026
  2. 2. Salesforce, 21 Things We Announced at Dreamforce 2026 (28 September 2026). Prebrano 17. november 2026
  3. 3. OpenAI, Introducing the Agents API (10 September 2026). Prebrano 17. november 2026
  4. 4. ServiceNow, press release on EmployeeWorks (15 October 2026). Prebrano 17. november 2026
  5. 5. Menlo Ventures, The State of Enterprise AI 2026 (3 November 2026). Prebrano 17. november 2026
  6. 6. OpenAI, A practical guide to building agents (2025). Prebrano 17. november 2026
  7. 7. Anthropic, Building effective agents (2024). Prebrano 17. november 2026
  8. 8. European Commission, AI Act Service Desk, timeline for the implementation of the AI Act. Prebrano 17. november 2026
  9. 9. European Commission, AI Act Service Desk, Article 4, AI literacy. Prebrano 17. november 2026
  10. 10. European Commission, AI Act Service Desk, Article 26, obligations of deployers of high-risk AI systems. Prebrano 17. november 2026
  11. 11. European Commission, AI Act Service Desk, Article 50, transparency obligations. Prebrano 17. november 2026
  12. 12. European Commission, Can I be subject to automated individual decision-making, including profiling?. Prebrano 17. november 2026
  13. 13. European Commission, Rules on international data transfers. Prebrano 17. november 2026
  14. 14. Regulation (EU) 2026/1744, Digital Omnibus on AI (Official Journal of the EU, 24 July 2026). Prebrano 17. november 2026
  15. 15. Regulation (EU) 2024/1689, the AI Act, consolidated text as at 27 July 2026 (EUR-Lex). Prebrano 17. november 2026

Zgodovina sprememb

  1. Objavljeno.

Pogovorimo se o vašem projektu

Pustite nam kontaktne podatke in oglasili se bomo s predlogom termina. Brezplačno in brez obveznosti.

S kodo države, na primer +386.

Vaše podatke uporabimo samo za odgovor. Varstvo osebnih podatkov

Ta obrazec pred samodejnim pošiljanjem ščiti Google reCAPTCHA. Googlov pravilnik o zasebnosti (odpre se v novem oknu) Googlovi pogoji storitve (odpre se v novem oknu)

Ali pa stopite v stik z nami neposredno

Pišite nam office@disruptivelab.dev
Pokličite nas +420 777 702 032

Naš prednostni jezik komunikacije je angleščina.

Vsi kontaktni podatki in naslovi