Generativní modely umělé inteligence, jako je ChatGPT společnosti OpenAI, Google Bard a Claude společnosti Anthropic, jsou z velké části závislé na značném výpočetním výkonu, který je potřebný k provádění složitých matematických algoritmů nezbytných pro generování odpovědí na dotazy uživatelů. Velké technologické společnosti jako Microsoft a Google se potýkají s problémem, jak z produktů umělé inteligence vytvořit ziskový byznys.

AI často postrádá úspory z rozsahu, které má standardní software, protože vyžaduje intenzivní výpočty pro každý jednotlivý dotaz. S rostoucím využíváním produktu rostou i výdaje spojené s údržbou infrastruktury. To vystavuje společnosti, které za služby AI účtují fixní poplatky, potenciálním finančním ztrátám.

Zpráva deníku The Wall Street Journal zejména uvádí, že služba GitHub Copilot společnosti Microsoft, která pomáhá vývojářům aplikací automatickým generováním kódu, funguje se ztrátou, přestože nashromáždila více než 1,5 milionu uživatelů a integruje se do téměř poloviny jejich kódovacích projektů. Uživatelé za službu platí paušální poplatek 10 USD měsíčně, ale průměrné náklady Microsoftu na jednoho uživatele podle zasvěceného zdroje přesahují 20 USD měsíčně. V některých případech stojí jednotliví nároční uživatelé společnost dokonce až 80 USD měsíčně.

Aby se náklady snížily, zkoumají společnosti možnosti využití méně výkonných a cenově výhodnějších nástrojů umělé inteligence, které postačují pro konkrétní úkoly. Například volí ChatGPT 3.5 AI místo nejnovějšího GPT-4, pokud splňuje požadavky. Další způsob, jak snížit náklady na služby umělé inteligence, se týká hardwaru, přičemž některé firmy zabývající se umělou inteligencí zkoumají vývoj cenově dostupnějších a efektivnějších procesorů s nižší spotřebou, které by zvládly pracovní zátěž.

Vzhledem k těmto faktorům není překvapením, že investoři přistupují k investicím do AI stále opatrněji. Podle předpovědi analytické společnosti CCS Insight bude generativní umělá inteligence v roce 2024 čelit finančním překážkám, protože náklady spojené s touto technologií porostou.