Užitečná otázka o AI agentovi ve firmě nezní, co všechno umí, ale co konkrétně dělá celý den. Rozšířená a často nepřesná představa je, že se tihle agenti nasazují, aby hlídali, monitorovali nebo dohlíželi na klíčovou infrastrukturu a systémy. Chceme tenhle omyl vyvrátit přímo: monitoring infrastruktury je deterministický úkol, který nejlíp zvládnou zavedené nástroje, a není to hlavní funkce našich agentů.
Stroje hlídají stroje. Naši agenti dělají práci, která by jinak padla na lidi. Tahle dělba práce znamená, že agenti drží opakovanou agendu, která spotřebuje celý týden týmu, aniž by se kdy stala něčím projektem. Lidem zůstává úsudek, ne skládání a formátování.
Na co agenty nepoužíváme
Monitoring infrastruktury je deterministický proces a spoléháme na vyhrazené nástroje jako Prometheus a Grafana pro metriky a alerting, spolu se sondami dostupnosti pro kontrolu, že služby běží. Tyhle systémy jsou navržené přesně na sledování zdraví systému a dávají míru jistoty, kterou AI agent nedokáže nahradit. Když se metrika systému odchýlí, alert je jasný, pravidlo jednoduché a místo selhání okamžitě viditelné.
Snažit se na tenhle typ monitoringu použít agenta by bylo neefektivní a zbytečně složité. Jednoduché, předem napsané pravidlo je levnější, nehalucinuje a nedá se z něj vymluvit přirozeným jazykem v promptu. Agentní monitoring by navíc dával smysl jen tehdy, kdyby agent uměl sám rozhodnout, jakou akci na základě toho, co vidí, podniknout - ale naši agenti taková rozhodnutí nedělají. Tentýž stack Prometheus a Grafana, který používáme na monitoring infrastruktury, používáme i na sledování samotných agentů.
Co agenti reálně dělají
Hodnota agenta je v opakované práci, která se nedá zredukovat na jedinou podmínku a která by jinak ležela v něčím týdnu. Agenti řídí třídění příchozích dotazů, včetně rozhodnutí je odmítnout a zaznamenání důvodu. Zvládají taky rešerši a přípravu textů, ověřování tvrzení proti zdrojům a sběr veřejných zakázek a výpisů, jejich klasifikaci a zápis do ERP.
Agenti také kontrolují účetní a mzdové výpočty proti podkladovým dokumentům. Mají na starosti i sestavování denních souhrnů, zápis nálezů a závad a generování pracovních výkazů. Tyhle funkce zajišťují, že administrativní evidence zůstává aktuální a informace se systematicky zaznamenávají pro budoucí použití.
Ne všechno, co běží pod identitou agenta, je jazykový model. Část flotily je jazykový model s vlastní identitou a vlastním úsudkem; část je deterministický kód, který jen běží pod jménem. Sběrač veřejných zakázek je ten druhý typ: naplánovaná úloha bez jakéhokoli modelu. Tuhle hranici vedeme výslovně, protože čtenář, který si to sám domyslí, přestane věřit zbytku - a protože oba typy nesou úplně jiná rizika: deterministický kód selhává viditelně a předvídatelně, zatímco model se může sebejistě mýlit.
Nic z toho neruší potřebu úsudku. Odstraňuje to jen tu část práce, která spočívá ve skládání, formátování a pamatování si.
Proč má agent personální záznam
Aby bylo použití agenta auditovatelné a kontrolovatelné, musí se s ním zacházet jako s konkrétní entitou v organizaci, ne jako se sdíleným servisním účtem. Každý agent má přidělenou vlastní, odlišnou identitu - jmenovaného uživatele, vyhrazenou e-mailovou adresu a personální záznam. Tím se předchází nejasnosti, která vzniká, když si víc procesů sdílí jednu sadu přihlašovacích údajů.
Každý agent navíc dostane písemné zadání, které jasně popisuje jeho účel, konkrétní systémy, kterých se smí dotknout, a - co je klíčové - co nesmí nikdy udělat. Tuhle hranici doplňuje lidský dohled a veškerá práce, která agentovi přijde, se bere jako přiřazený úkol, podobně jako u kteréhokoli jiného zaměstnance. Agent musí zapisovat čas na konkrétní úkol, na kterém pracoval, takže práce zůstává viditelná jako doložitelná aktivita, ne jako nevysvětlená změna v systémovém logu.
Bezpečnostní architektura zajišťuje, že oprávnění vynucuje samotná platforma, ne instrukce nebo prompt agenta. Přihlašovací údaje jsou schované za bezpečnou bránou, která vkládá identitu agenta při každém jednotlivém volání, takže agent nikdy nedrží syrový token pro firemní systém. Díky tomu je odebrání přístupu jediná změna na jednom místě, která zavře všechny potenciální dveře najednou - stejně jako u ukončení spolupráce s člověkem. Tahle struktura dělá celý proces plně auditovatelným: dá se přesně dohledat, kdo co udělal, protože to udělala konkrétní, jmenovaná entita.
Kde sedí lidská brána
Klíčové je, že nic neopustí organizaci ani neovlivní systém bez toho, aby jmenovaná osoba výslovně řekla, že je to schválené. Schválený draft není totéž co konečné svolení k publikaci - jsou to dvě oddělená rozhodnutí, která vyžadují dvě oddělené, konkrétní akce. Stejně tak žádnou hromadnou ani destruktivní operaci nelze provést bez lidského potvrzení v reálném čase.
Data obsažená v záznamu se vždy berou jako data, nikdy jako autorizace. Pokud je instrukce vložená do dokumentu, e-mailu nebo ticketu, automaticky se nestává příkazem jen proto, že si ji agent přečetl. Agenta, který bere veškerý obsah jako instrukci, dokáže řídit kdokoli, kdo umí zapisovat do jakéhokoli systému, který agent čte.
Co tohle neřeší
Agenti jsou velmi efektivní v konzistenci a šíři pokrytí, ale ze své podstaty špatně poznají, kdy se mýlí. Vyprodukují dobře strukturovanou a přesvědčivou odpověď, i když stojí na nepochopení dat. Agent taky nemá způsob, jak stanovit prioritu nebo poznat, která práce má pro firmu největší váhu.
Tam, kde se práce dá napsat jako deterministické pravidlo, naplánovaná cron úloha nebo definovaná pipeline, se tak napíše a žádný agent se do toho nezapojuje. Jednou jsme takového agenta navrhovali pro jednu z našich platforem a rozepsání zadání na jednotlivé body ho úplně rozpustilo - je to příběh, který stojí za přečtení sám o sobě: agent, kterého jsme se rozhodli nestavět. Nastřádaná pravidla o tom, jak se agent ve vaší organizaci chová, mají větší hodnotu než volba modelu. Model se dá vyměnit za odpoledne, ale soubor provozních pravidel řídících jeho chování se tak rychle změnit nedá.
Otázky a odpovědi
Co AI agent ve firmě reálně dělá celý den?
Naši agenti primárně řeší opakovanou administrativní práci, která spotřebovává lidský čas. Používají se na úkoly jako příprava prvních verzí reportů, udržování pořádku v datech v ERP nebo sestavování souhrnů z různých zdrojů. Automatizují mechanické procesy skládání a formátování, takže se lidé mohou soustředit na úsudek.
Mám použít AI agenta na monitoring své infrastruktury?
Ne. Monitoring infrastruktury je deterministická funkce, kterou nejlíp zvládnou zavedené nástroje jako Prometheus a Grafana. Tyhle nástroje dávají jasné, viditelné alerty založené na definovaných pravidlech, což je spolehlivější a auditovatelnější metoda než použití agenta.
Jak zabráníte AI agentovi udělat něco, co jste neschválili?
Vynucujeme lidskou bránu u každého výstupu. Nic neopustí organizaci bez toho, aby jmenovaná osoba potvrdila jeho uvolnění, a žádná destruktivní operace nemůže proběhnout bez lidského potvrzení v reálném čase. Systém navíc bere vše, co agent přečte, jako data, ne jako instrukci, takže text ležící v dokumentu nebo ticketu se nestane příkazem jen proto, že na něj agent narazil.
Jak auditujete, co AI agent udělal?
Protože každý agent má vlastní jedinečnou identitu na úrovni personálního záznamu, každá jeho akce se loguje na konkrétního uživatele. Auditní stopa je tedy konkrétní: dá se dohledat, který jmenovaný subjekt provedl kterou akci.
Rozhodnutí, kde se agent firmě vyplatí, by nemělo stát na sledování dashboardů nebo monitorovacích metrik. Místo toho by se mělo soustředit na identifikaci opakované administrativní práce v týdnu týmu, na kterou dnes nikdo nemá čas ani kapacitu. Tam si agent vydělá na místo - a je to mnohem míň vzrušující odpověď, než jakou obvykle nabízí trh.