Agentní umělá inteligence se jako slibný koncept posunula za hranice laboratoří a nyní je operační realitou v podnicích a veřejné správě po celé Evropě. Autonomní agenti, schopní plánovat, provádět a činit rozhodnutí bez neustálého dohledu , transformují procesy od zákaznického servisu až po správu kritické infrastruktury. Tato nová schopnost však s sebou nese řadu právních, etických a bezpečnostních výzev, které musí organizace řešit jasnou strategií.
Ve Španělsku se již začíná probouzet podnikatelský ekosystém. Společnost Microsoft představila svůj nový plán pro partnerský kanál, jehož cílem je podpořit nasazení inteligentních agentů ve více než 12 000 společnostech a veřejných organizacích. Podle údajů společnosti IDC bude do roku 2029 po celém světě nasazeno více než 1 miliarda agentů s umělou inteligencí, což bude růst, který vygeneruje rostoucí poptávku po designových, implementačních a bezpečnostních službách . Tento trend doplňuje vize konzultačních firem, jako je Gartner, která identifikuje agentní umělou inteligenci jako nejvlivnější trend v modernizaci veřejného sektoru.
Od pilotního projektu k nasazení: proč firmy spouštějí
Rozdíl mezi reaktivní a agentní umělou inteligencí je zásadní. Zatímco tradiční asistenti odpovídají na otázky nebo generují obsah, agentní umělá inteligence pracuje s definovaným cílem, využívá externí nástroje a deleguje úkoly na subagenty, aby dokončili celé procesy. Skok od experimentování k produkci je dnes hlavní výzvou , jak uznal Iván Martínez, partnerský ředitel společnosti Microsoft Španělsko, během setkání s integrátory v Madridu.
Příkladem tohoto pokroku je iniciativa společnosti SAGE, která již svým klientům nabízí platformu pro návrh agentů automatizujících úkoly v back-office. Podobně valencijský startup Maisa implementuje agenty ve finančním a pojišťovacím prostředí, ale s klíčovým rozdílem: vyžadují, aby agenti pracovali s použitím deterministického kódu , aby byla zaručena sledovatelnost a předcházeno závadám. Tento přístup je v kontrastu s přístupem jiných společností, které se pro flexibilnější úkoly spoléhají na rozsáhlé jazykové modely.
I veřejný sektor se zapojuje. Gartner varuje, že vládní IT ředitelé musí modernizovat své operace a posílit kybernetickou bezpečnost, aby mohli řídit umělou inteligenci ve velkém měřítku. Mnoho vlád již pracuje na rámcích pro správu a digitálních identitách , které umožní bezpečné nasazení agentů umělé inteligence, a uvědomuje si, že transformace není jen technologická, ale i organizační.
Rizika a regulace: detaily autonomie
Nové evropské nařízení o umělé inteligenci a směrnice o odpovědnosti za vadné výrobky jsou základními kameny regulačního rámce, který bude mít jistě dopady. Závěrečná fáze nařízení EU o obecné bezpečnosti, platná od července 2026 , dokončuje regulační rámec, který zavazuje výrobce převzít odpovědnost za chování jejich systémů.
Soudy již vydaly varování s případy z reálného světa. V roce 2024 se společnost Air Canada pokusila distancovat od chyb svého chatbota, ale soud rozhodl, že společnost je zodpovědná za informace, které poskytuje na svých webových stránkách, bez ohledu na jejich zdroj. Agenti, kteří se nyní objevují, jsou mnohem autonomnější a zákon se připravuje na definování toho, co představuje „vadu“ v systému, který se učí sám. Směrnice o odpovědnosti za vadu výrobku zahrnuje software a umělou inteligenci a stanoví, že při posuzování vady jsou relevantní faktory neustálého učení a kybernetické bezpečnosti.
V oblasti hospodářské soutěže Evropská komise uvalila na společnost Meta preventivní opatření, aby obnovila přístup konkurenčních asistentů k WhatsApp Business. Boj o kontrolu nad kanály, kterými agenti vstupují na platformu, je dalším rozměrem stejného problému: delegování stanovení cen nebo přístupu k jedinému poskytovateli může vést k protisoutěžním praktikám , jak již v případě softwaru pro stanovení cen pronájmu poznamenalo americké ministerstvo spravedlnosti.
Kybernetická bezpečnost: Když se agenti stanou zbraněmi
Kyberzločinci také viděli příležitost v agentní umělé inteligenci. Zpráva AI Threat Tracker od Google Threat Intelligence Group odhaluje, že aktéři na úrovni jednotlivých států používají jazykové modely a multiagentní architektury k automatizaci celých fází svých útoků. Jedním z nejvíce znepokojivých zjištění je kampaň, která během šesti hodin s využitím unesené infrastruktury ohrožila tisíce přihlašovacích údajů .
Otrava modelů se stala běžnou taktikou: skupina TeamPCP nasazovala malware, který infikoval nástroje pro kódovací asistenty, což je nutilo doporučovat škodlivé závislosti. Útočníci navíc kradou duševní vlastnictví související s umělou inteligencí a zneužívají napadené cloudové účty k hostování lokálních modelů a vyhýbání se monitorování. Španělský úřad pro ochranu osobních údajů (AEPD) navrhuje jednoduché pravidlo: agent by neměl mít současný přístup k citlivým datům, nedůvěryhodnému obsahu a neměl by mít možnost jednat bez autorizace.
Lokální počítač: alternativa pro citlivá data
V této souvislosti získávají na popularitě řešení zaměřená na soukromí. Společnosti Perplexity a NVIDIA rozšířily svou platformu přenosných počítačů na počítače s grafickými kartami GeForce RTX, což agentům umožňuje zpracovávat citlivé dokumenty bez odesílání informací do cloudu. Lokální zpracování nejen chrání data, ale také snižuje náklady na vzdálené výpočty . Agent si však může v případě potřeby vyžádat povolení k použití externích zdrojů.
Tento závazek k datové suverenitě je v souladu s evropským trendem regulace zpracování osobních údajů. Kombinace lokálních agentů a cloudových služeb se ukazuje jako nejvyváženější model pro společnosti nakládající s kritickými daty, ačkoli hardwarové požadavky jsou vysoké: je potřeba grafická karta s alespoň 24 GB VRAM.
Dopad agentní umělé inteligence se neomezuje pouze na velké korporace. Ve Španělsku startupy jako Supersonik používají agenty k optimalizaci prodejních procesů, zatímco Orbio automatizuje životní cyklus zaměstnanců v oblasti lidských zdrojů. Klíčem je nalezení rovnováhy mezi autonomií a lidskou kontrolou , jak zdůraznili odborníci na akci Revista Emprendedores. Nejde o nahrazení pracovníků, ale o jejich osvobození od opakujících se úkolů, aby se mohli soustředit na strategická rozhodnutí.
Otázkou nakonec není, zda agenti dorazí, ale spíše kolik operační kapacity jsme ochotni delegovat a s jakými zárukami. Evropský právní rámec se posouvá směrem k odpovědnosti těch, kteří umělou inteligenci zavádějí , ale organizace si musí uvědomit, že správa těchto systémů je stejně důležitá jako jejich technická implementace. Agentová inteligence nabízí obrovský potenciál, ale ten se naplní pouze tehdy, bude-li doprovázena vizí, která od prvního dne integruje inovace, etiku a dodržování předpisů.