17.9.2024

Generativní AI čelí výzvám v oblasti rizik a práce s daty, ukazuje nová studie Deloitte

Navzdory rostoucím investicím a počátečnímu nadšení zůstávají správa rizik a práce s daty klíčovými výzvami pro širší využívání generativní umělé inteligence (GenAI).

AI theme

Třetí čtvrtletní zpráva Deloitte AI Institute™ o stavu generativní AI ve firmách ukazuje, že dvě třetiny organizací (67 %) zvyšují investice do GenAI díky jejímu prokázanému potenciálu. Zpráva však také zdůrazňuje, že překážky, jako jsou problémy s daty a řízením rizik, brání plnému rozvoji a tlumí nadšení vedoucích pracovníků. Ukazuje se, že pro pokračující investice bude klíčové prokázat hodnotu nasazení GenAI a překonat výzvy spojené s jejím efektivním začleněním do organizačních struktur.

Deloitte AI Institute™ zveřejnilo třetí čtvrtletní vydání své zprávy o stavu generativní umělé inteligence ve firmách. Ta přináší přehled o aktuálním stavu zavádění a využívání GenAI a odhaluje, jak organizace překonávají překážky a dosahují měřitelných výsledků s pomocí této technologie. Zpráva s názvem „Stav generativní AI ve firmách“ vychází z průzkumu mezi 2 770 respondenty na úrovni ředitelů a vedoucích pracovníků ve 14 zemích. Ačkoli uvádějí respondenti různou úroveň znalostí generativní AI, mají všichni s touto technologií zkušenosti a aktivně ji testují nebo zavádějí ve svých organizacích.

Klíčové pasáže ze zprávy

„S tím, jak se začínají projevovat přínosy z prvních úspěšných experimentů a případů použití, začíná klíčové období pro generativní umělou inteligenci, kdy se budou srovnávat vysoká očekávání ze strany vedoucích pracovníků, s výzvami, jako jsou zajištění kvality dat, řízení investičních nákladů, efektivní měření výsledků a přizpůsobení se měnícímu se regulačnímu prostředí. Průzkum za 3. čtvrtletí ukazuje, že pro překonání těchto překážek a plné využití potenciálu generativní AI je nyní klíčové efektivní řízení změn a hluboká integrace této technologie do struktur organizací,“ uvádí Jim Rowan, ředitel a lídr oddělení aplikované umělé inteligence společnosti Deloitte Consulting LLP.

„Nadále vidíme nadšení pro GenAI napříč organizacemi a lídři z této technologie dokáží těžit maximum díky zapojení do důležitých byznysových funkcí a procesů. Náš průzkum ukazuje, že hlavní výhody GenAI dalece přesahují pouhé zvýšení efektivity, produktivity a snížení nákladů. Více než polovina respondentů zdůrazňuje přínosy, jako jsou větší míra inovací, zlepšení produktů a služeb nebo posílení vztahů se zákazníky. Široké spektrum oblastí, ve kterých má GenAI přínos, dokazuje obrovský potenciál a všestrannost této transformativní technologie,“ říká Costi Perricos, vedoucí oddělení generativní umělé inteligence Deloitte Global.

Nadšení tlumí realita – a k úspěšnému rozšiřování povedou měřitelné příklady využití

Podle průzkumu vedoucí pracovníci a členové správních rad se nadále vkládají do GenAI naděje, přistupují k ní však nyní s větší obezřetností. Zájem zůstává „vysoký“ nebo „velmi vysoký“ u 63 % vrcholných manažerů a 53 % členů vedení. Tato čísla však od studie z 1. čtvrtletí klesla, a to o 11 procentních bodů u manažerů a o 8 bodů u vedení společností. Ačkoli je cílem zvolit a rychle vyvinout projekty GenAI s nejvyšším potenciálem, mnoho iniciativ stále zůstává ve fázi pilotních projektů nebo testování. Většina (68 %) respondentů dosud uvedla do praxe nejvýše 30 % svých pokusů o využití GenAI.

Toto zjištění zaujalo i odborníka na AI z Deloitte Česká republika, Jana Hejtmánka: „Ve studii mě především zaujalo, kolik GenAI projektů z celkového počtu typicky uspělo za poslední rok. Ze studie vyplývá, že obvykle uspěje méně než 30 % projektů. Díky diskusím s klienty jsme dokázali najít příčinu – firmy často spouští projekty v nadšení z AI a co nového umí, zatímco business case a dopady na firmu jsou upozaděny. Většina firem ale dokázala alespoň jeden projekt úspěšně dokončit a nasadit do produkce, takže teď se soustředí na to, co konkrétně AI přináší a jaký bude dopad. To zahrnuje i zastavení některých AI projektů, které narazily na problémy s daty, bezpečností nebo rychlostí týmu, a probíhá restrukturalizace a racionalizace projektů využívajících AI.”

Vedoucí pracovníci se zaměřují na správu životního cyklu dat jako základ pro nasazení GenAI

Data se stávají stěžejním tématem pro lídry, kteří se věnují umělé inteligenci, přičemž 75 % organizací zvyšuje své investice do správy dat v souvislosti s využíváním GenAI. Nicméně, jak se organizace snaží rozšířit používání GenAI, objevují se nečekané překážky – problémy spojené s daty vedly 55 % dotazovaných organizací k tomu, že se vyhnuly některým případům použití GenAI. Řešení nedostatků v oblasti dat se ukazuje jako klíčový krok pro splnění specifických požadavků GenAI na správu dat. Organizace proto posilují zabezpečení dat (54 %), zlepšují postupy pro zajištění kvality dat (48 %) a aktualizují rámce pro správu dat nebo vytvářejí nové datové politiky (45 %).

Problémy s důvěrou a měnící se regulační prostředí vedou mnohé k tomu, že se snaží balancovat na laně – minimalizovat riziko, ale zároveň se mu příliš nevyhýbat

Ačkoli si respondenti uvědomují, že řízení rizik spojených s GenAI je klíčové, tři ze čtyř nejčastěji uváděných překážek úspěšného nasazení GenAI souvisí s riziky, a to včetně obav z dodržování regulačních předpisů (36 %), obtíží při řízení rizik (30 %) a chybějícího modelu řízení (29 %). Tyto obavy pravděpodobně pramení ze specifických rizik spojených s GenAI, jako je zaujatost modelu („bias“), nesprávné výsledky („halucinace“), nové obavy o soukromí, ztráta důvěry a ochrana nových oblastí zranitelnosti. Aby pomohly vybudovat důvěru a zajistit odpovědné používání, pracují organizace na vybudování nových kontrolních mechanismů a nástrojů pro dohled. Mezi nejčastější kroky patří vytvoření řídicího rámce správy používání nástrojů a aplikací GenAI (51 %), sledování regulačních požadavků a zajištění jejich dodržování (49 %) a provádění interních auditů nebo testů nástrojů a aplikací GenAI (43 %).

V souvislosti s pokračujícím experimentováním roste potřeba prokázat hodnotu GenAI iniciativ

Při překračování fáze pilotních projektů má 41 % dotazovaných společností problémy s přesným definováním a měřením dopadů svých iniciativ v oblasti GenAI. Pouze 16 % z nich pravidelně předkládá finančním ředitelům zprávy o hodnotě, kterou GenAI vytváří. S tím, jak aplikace a případy použití dozrávají, budou lídři méně ochotní investovat pouze na základě ambiciózních vizí a obav z promeškání příležitosti – měření se tak stává klíčovým faktorem pro udržení zájmu a podpory ze strany vedení a představenstev. Organizace k prokázání hodnoty využívají konkrétní klíčové ukazatele výkonnosti (48 %), vytvářejí rámec pro hodnocení investic do GenAI (38 %) a sledují změny v produktivitě zaměstnanců (38 %).

O projektu „Stav generativní umělé inteligence ve firmách“

Tato zpráva je třetím ze série čtvrtletních průzkumů, jejichž cílem je sledovat zavádění GenAI ve firmách. Tento průzkum navazuje na předchozí zprávy společnosti Deloitte „Stav AI ve firmách“, které se publikují již šestým rokem. Aktuální vlna průzkumu probíhala od května do června 2024 na vzorku 2 770 vedoucích pracovníků z oblastí byznysu a technologií, kteří se přímo podílejí na pilotování nebo implementaci generativní AI ve významných organizacích ve 14 zemích a v šesti odvětvích: spotřebitelském; energetickém a průmyslovém; finančních službách; přírodních vědách a zdravotní péči, technologiích, médiích a telekomunikacích; a vládních a veřejných službách.