Gartner předpovídá, že náklady na AI inference na jeden agentický workflow vzrostou do roku 2028 více než pětkrát. Přestože ceny modelů klesají, složitější agentické scénáře ženou celkové náklady nahoru a vytvářejí nový tlak na cenotvorbu firemních produktů.
Do roku 2028 vzrostou podle společnosti Gartner náklady na inference na jeden agentický workflow více než pětinásobně. Paradoxně se tak může stát v době, kdy cena za jednotlivé modely a tokeny dál klesá. Pro produktové šéfy a IT vedení to znamená nový typ tlaků na marže: nikoli kvůli cenám modelů, ale kvůli tomu, jak složité a „rozmáchlé“ agentické scénáře ve firmách staví.
Gartner tento trend popisuje jako takzvaný paradox inference. Jednotková ekonomika – tedy cena za token nebo běh modelu – se dlouhodobě zlepšuje. Jenže firmy tuto úsporu okamžitě „projedí“ tím, že svým AI agentům zadávají komplexnější úkoly, využívají více kroků, více volání modelů a bohatší kontext. Výsledek: účet za AI roste, i když technologie sama o sobě výrazně zlevňuje.
Agentické workflow je v terminologii Gartneru celý řetězec činností, které AI agent vykoná, aby splnil úkol – od porozumění zadání přes sběr dat, volání dalších nástrojů (například CRM nebo ERP) až po generování výstupu a případné ověření. V praxi to není jedno volání modelu, ale desítky až stovky dílčích kroků, často orchestrujících více služeb současně.
Zatímco dnes firmy často nasazují relativně jednoduché asistenty (například pro generování textů nebo shrnutí dokumentů), další generace agentů má být mnohem autonomnější. Analytici očekávají, že budou schopni sami plánovat, delegovat úkoly jiným agentům, opakovaně ověřovat výsledky a vracet se k uživateli pro upřesnění. Každý z těchto kroků však znamená další inference, tedy další procesorový čas a další tokeny.
Gartner upozorňuje, že s každou generací schopnějších modelů roste nejen jejich výkon, ale také datová náročnost interakcí. Delší prompt, více kontextu, multimodální vstupy a výstupy a navíc řetězení modelů – to všechno žene spotřebu výpočetních zdrojů nahoru, i když jednotková cena výpočtu klesá. Analytik Will Sommer to shrnuje tím, že každý další skok ve schopnostech bude vyžadovat více a často i dražších tokenů.
Pro firmy, které stavějí vlastní produkty na generativní AI, to není jen technický detail, ale přímo otázka obchodního modelu. Pokud se potvrdí odhad, že náklady na inference na jeden kompletní agentický workflow vzrostou během několika let víc než pětkrát, mohou se dostat pod tlak marže u tarifů, které dnes vypadají udržitelně.
Zvlášť zranitelné jsou služby, které účtují paušální předplatné bez jasného omezení počtu komplexních úloh. Uživatelé budou chtít „chytřejší“ agenty, kteří vyřeší celou agendu – třeba komplet zpracují žádost zákazníka od prvního kontaktu až po fakturaci. Každý takový případ ale může stát násobně víc než dnešní jednorázová konverzace s chatbotem.
Pro produktové lídry z toho plyne několik praktických dopadů:
Firmy, které tuto dimenzi podcení, mohou zjistit, že každé vylepšení AI agenta sice zvyšuje uživatelskou spokojenost, ale současně potichu ukrajuje z marže, aniž by tomu odpovídal příjem.
Gartner zdůrazňuje, že vyšší celkový účet za AI sám o sobě není problém – pokud je spojený s předvídatelným přínosem. Paradox inference nastává ve chvíli, kdy náklady rostou rychleji než schopnost firmy tuhle investici řídit a měřit. Obchodní i IT vedení pak vidí rostoucí položku v rozpočtu, ale nemá k ní odpovídající ukazatele produktivity, úspory práce nebo růstu výnosů.
To pro mnohé podniky znamená návrat k otázkám, které řešily při nástupu cloudu: jak měřit a omezovat spotřebu tak, aby IT rozpočet nebyl otevřený účet bez horní hranice. U agentické AI je to složitější tím více, že jednotkou není server nebo hodina výpočtu, ale komplexní workflow, jehož vnitřní struktura se uživateli i byznysu špatně vysvětluje.
Závěr pro firmy je poměrně střízlivý: rychlý pokles cen modelů nelze brát jako záruku levné AI. Skutečné náklady se budou odvíjet od toho, jak ambiciózní a komplexní agentické scénáře si podniky dovolí. Kdo je bude navrhovat a oceňovat bez detailního přehledu o jejich nákladové struktuře, může se během několika let probudit do situace, kdy je inference sice levná – ale konkrétní agenti jsou pro byznys překvapivě drazí.
