AI je jen nástroj – rozhodují lidé

Protože se nám veškeré cenné postřehy a myšlenky profesora Maříka do jednoho vydání nevešly, přinášíme nyní pokračování tohoto inspirativního rozhovoru. V něm se podrobněji zamyslíme nad hlavními překážkami implementace umělé inteligence v českých podnicích a představíme vizi projektu AI factory pro efektivní inovativní rozvoj. Dále budeme hovořit o vlivu AI na kritické myšlení a veřejný prostor, který je dnes pod tlakem dezinformací. Prozkoumáme také analogii orchestru v kontextu zavádění AI, nebude chybět ani zamyšlení nad vědomím strojů a nad tím, zda může AI člověkem manipulovat, ani kritická analýza zaostávání státní správy v nasazování AI. Závěrem profesor Mařík nabídne své vize pro budoucí vzdělávací systém, jenž je klíčový pro prosperitu země v nastupující éře umělé inteligence.

MM: Data jsou dnes hodnotným statkem. Česko je pod evropským průměrem ve využívání umělé inteligence. Její implementace může být pro část firem velkou změnou a také technologickou komplikací. V tuto chvíli AI implementují hlavně firmy, které od ní očekávají řešení akutního problému. Pokud české firmy zaspí nástup umělé inteligence, budou pouze dohánět manko a připraví se o konkurenční výhody z toho plynoucí. Proč se ji nedaří využívat? Je jasné, že bez inovací nepřežijeme. Jaké vidíte největší překážky inovativního rozvoje?

V. Mařík: Naše podniky disponují obrovským objemem dat, s nímž si většinou nevědí rady. Nová řešení na bázi AI vyžadují další investice, ale zejména v dané oblasti vzdělané odborníky. Odborníků není na trhu práce dost, do investic se v dnešní turbulentní ekonomické době mnoha malým, středním, ale i velkým podnikům moc nechce. Nemají na ně nebo se jim zdají příliš riskantní. Ve světě se k zavádění systémů umělé inteligence obvykle najímají malé či střední specializované firmy či startupy. Bohužel takovýchto specializovaných firem není zatím v ČR dostatek – a to je významná překážka. Další z překážek je právě nedostatečný přístup k datům a dále nedořešené právní a finanční aspekty opakovaného využívání dat a algoritmů na nich vytvořených. Proto bychom chtěli v rámci připravovaného projektu AI giga factory, nebo alespoň menšího projektu AI factory, vytvořit propojené výzkumné, inkubační a pracovní prostředí pro startupy, malé a střední firmy s jasně definovaným přístupem k datům, ať již veřejným, privátním, či jen částečně citlivým. Toto moderní inovační prostředí, skutečný inovační hub, musí být správně řízeno a ošetřováno tak, aby bylo přínosem pro všechny aktéry – výzkumníky, začínající či zkušenější podnikatele, ale zejména pro odběratele v průmyslu, dopravě, stavebnictví, zdravotnictví i ve veřejné správě. A věříme, že bude-li inovační prostředí v dostatečně dobré kondici, přiláká tím určitě i rizikový a další soukromý kapitál. Takový inovační hub by byl mimořádně důležitým nástrojem pro modernizaci českého průmyslu směrem k masovému využívání umělé inteligence. Chceme se o to pokusit.

MM: Patříte k největším expertům na AI v ČR, vaše jméno se objevuje v názvu nového výzkumného ústavu na NIMS University v indickém Jaipuru, což je mimořádná čest pro ČR, i pro vás. Je to velmi vážná věc, ale ukazuje se, že je snazší lidi oklamat než je přesvědčit, že byli oklamáni. Podle všeho dochází pod vlivem propagandy k hloupnutí veřejného prostoru. Co na to říká stávající úroveň umělé inteligence?

V. Mařík: Bohužel, sociální sítě masivně využívají, a někdy i zneužívají umělou inteligenci a nenápadným způsobem odvádějí pozornost uživatelů, zejména příslušníků mladé generace, od opravdových problémů reálného světa a vnucují jim jednostranný, zjednodušený náhled na něj. Řada mladých lidí vnímá a zná svět pouze přes obrazovky mobilů a počítačů. Pokud se uživatel – často z pohodlnosti – nedonutí nad předkládanými názory přemýšlet, porovnávat informace z více zdrojů, tedy pokud ztrácí schopnost kritického myšlení, stává se často loutkou v osidlech tvůrců sociální sítě. To je neoddiskutovatelný fakt, kterému je nutno čelit. S tímto jevem musí proaktivně bojovat všichni – škola, rodina, i společnost jako celek. Je třeba posilovat celospolečensky akceptovatelný systém skutečných hodnot a povýšit schopnost kritického myšlení na jedno z klíčových kritérií při hodnocení studentů a zaměstnanců. Současná umělá inteligence je samozřejmě schopna pomáhat a vést ke kritickému myšlení, např. tím, že prostřednictvím LLM může poskytovat vysvětlení a ukazovat na spolehlivé zdroje, ale jde o to, jak se k tomuto problému postaví každý z nás. Je to otázka osobní vůle a svědomí a také otázka vůle vést osobní boj se zplošťováním a zjednodušováním informací v kontextu stále se dynamicky měnících podmínek ve společnosti. Cílené směrování ke kritickému myšlení za nás prostě nikdo jiný neudělá.

MM: Naše chování významně ovlivňuje podvědomí – zjednodušeně řečeno souhrn zkušeností, vzpomínek, výchovy, vzdělání apod., nad kterými nemáme vědomou kontrolu. Intuice je tak nejspíše více napojená na podvědomí než na čisté emoce. V mnoha firmách lze s odstupem, tedy s určitým nadhledem, pozorovat, že by zavádění AI mělo připomínat ladění dokonalé spolupráce v rámci orchestru. Dovolím si určitou analogii – v našem podvědomí běží jakási AI, která pracuje se všemi vstupy, se kterými se dostala do styku během života. Jste jeden ze tří nejvýznamnějších expertů v ČR na AI, mělo by zavádění AI připomínat ladění dokonalé spolupráce v rámci orchestru?

V. Mařík: Ano, v jistém příměru to takto lze vidět. Dotkli jsme se toho hned v úvodu v první části rozhovoru. Výzkumníci se snaží dosáhnout tzv. AGI – artificial generic intelligence, tedy inteligence strojů, která by byla srovnatelná s inteligencí člověka. Dnešní systémy umělé inteligence jsou však zaměřeny na úzké problémové oblasti, např. na diagnostiku ložisek, predikci spotřeby plynu, rozpoznávání několika typu chorob, avšak jakmile jim dodáme data z úplně jiné oblasti, jsou zcela mimo. Velké jazykové modely o stovkách miliard parametrů se velmi náročně – energeticky i časově – trénují, ale stejně mají ještě daleko k AGI. Do popředí tak vstupují tzv. multiagentní systémy, kde každou elementární oblast expertizy může reprezentovat relativně samostatný modul – agent. Agenti mezi sebou komunikují, vyjednávají optimální řešení, prostě se vzájemně „orchestrují“. A orchestrace jednotlivých modulů agentů je, zdá se, jedinou cestou, jak vytvářet rozsáhlé, komplexní systémy schopné řešit problémy v rozlehlém prostoru našich každodenních aktivit. Tzv. agentic LLM, tedy velké jazykové modely vhodně rozložené do individuálních modulů, představují jeden z nejnovějších trendů v rozvoji generativní umělé inteligence. Takže váš pohled na orchestraci je zcela logický a správný. Navíc, takovýto distribuovaný orchestrovaný systém umělé inteligence často ani nepotřebuje centrální „dirigentskou“ jednotku, diriguje se sám, jako orchestr bez dirigenta.

MM: Na řadě aplikací umělé inteligence již dnes pozorujeme, že se systémy chovají čím dál tím chytřeji, inteligentněji a relativně samostatněji. Každým dnem nás překvapují. Chceme dosáhnout toho, aby se umělé systémy co nejvíce blížily svou inteligencí člověku. Nedojde nakonec časem k tomu, že umělá inteligence bude inteligentnější než člověk a začne člověkem či lidstvem o své vůli manipulovat, či je dokonce řídit?

V. Mařík: Ano, máme k dispozici stále inteligentněji se chovající systémy, které mnohdy vzbuzují dojem, že jsou to rovnocennější a uvědomělejší partneři člověka. V posledních měsících se nezávisle na několika místech objevily docela zajímavé experimenty – abstraktnější „filozofování“ člověka se systémy GPT vedlo k tomu, že se jazykové modely v kombinaci se vstupy, jako jsou prompty či začínají „hlouběji zamýšlet“ nad filozofií bytí a vědomí, produkují filozoficky zajímavé věty a delší texty, někdy s otevřeným koncem. Z technického hlediska prostě GPT systémy jdou díky vhodným dotazům do větší věcné „filozofické hloubky“ dostupných jazykových modelů, upřesňují je a začínají se chovat skoro jako opravdoví filozofové. Dokonce to mnohdy vypadá, jako by se jim dostávalo částečného vědomí.

Kvalita modelů v kombinaci s odbornou kvalitou a směrováním promptů prostě dělá divy a my žasneme nad filozoficky laděnou komunikací člověk-stroj. A někteří uživatelé si již začínají vytvářet emoční vztahy se systémy na bázi AI. Vztah člověka a stroje se dostává do nové polohy. Ale pozor! Všechny dnešní systémy AI nemají a nemohou z principu dosáhnout vědomí, tedy nepociťují vlastní já, nejsou schopny formulovat jiné cíle než ty, které jim zadal člověk. Nejsou schopny tvůrčího myšlení, i když to tak díky masivnosti implicitních znalostí v jazykových modelech a dostupnosti podnětných dat někdy vypadá.

MM: Proč státní správa zaostává v nasazování AI, a nejde tak ruku v ruce s nasazováním AI ve firmách? Nesporně by šlo o zlevnění správy země, tedy o levnější fungování státu. Že by důvodem zpoždění bylo to, že současně proběhne proměna vzdělávacího systému a udržování sociálního smíru ve společnosti, a to v době, kdy AI začne mimo jiné produkovat i určité disrupce?

V. Mařík: Hlavním problémem státní správy je to, že neexistuje jednotná koncepce digitalizace, natož zavádění AI. Řada systémů a nástrojů se vyvíjí izolovaně, často živelně. Státní zakázky jsou rozdrobeně zadávány malým firmám bez náležitých kapacit, schopností a zkušeností. Vytvořené systémy, pokud vůbec fungují, mnohdy nesplňují nereálná očekávání uživatelů, která jsou vyvolávána nekvalifikovanými představami zadavatelů.

Domnívám se, že stávající vzdělávací systém není mimořádnou překážkou k tomuto úkolu, je prostě překážkou jako všude jinde, jako u jiných projektů. A jednotliví úředníci, kteří berou svoji práci zodpovědně, se rychle a efektivně naučí s novými systémy pracovat a využívat jejich předností. Není to tolik otázka vzdělání jako otázka dobré vůle a snahy se posunout – a tím postupně posouvat celou státní správu správným směrem.

Myslím, že hlavní důvody jsou také někde jinde… Hovořím z vlastní zkušenosti. Skupina Ing. Jana Šedivého z CIIRC vytvořila pro jedno klíčové ministerstvo experimentálně (a zdarma) inteligentní systém vyhledávání právně-finančních informací v souborech EU a ČR. Řešení přineslo podstatné zvýšení produktivity práce úředníků a snížení chybovosti či opomenutí. Mnoha pracovníkům několika ministerstev se systém velice líbil, ale nakonec převážila a rozhodla obava jiných, že ztratí práci, tedy že úředníků ubyde. Zatímco v podniku musíte opravdu šetřit a hledat úspory, aby podnik přežil, na ministerstvech a dalších úřadech převládá trend vymýšlení si a šetření si práce. Tam na koruně nesejde. Přece se nezbavíme teplé židle kvůli nějaké AI. Naopak, budeme raději vymýšlet neskutečná byrokratická omezení pro její uplatnění.

MM: Mezi základní stavební kameny kritického myšlení patří schopnost rozlišovat reálné důkazy, oddělovat fakta od názorů a vyvozovat rozumné závěry za využití logické dedukce. Tyto schopnosti můžeme analyzovat v rámci AI a hovořit o nich z řady odlišných úhlů pohledu. Jak vidíte vzdělávání pro budoucnost v ČR?

V. Mařík: Umělá inteligence se jednoznačně stává rozhodující silou rozvoje ekonomiky a celé společnosti. Chceme-li, aby se ČR stala jednou z ekonomicky silných a průkopnických zemí, je třeba, abychom v ČR rozvíjeli znalosti a schopnosti v oblasti AI, abychom se významným způsobem podíleli na rozvoji umělé inteligence v globálním měřítku, abychom přinášeli nové, inovativní pohledy a výsledky. Jedním z lídrů se nestaneme tím, že budeme pouze otrocky aplikovat ve světě dostupné systémy. Tím se staneme jen závislými na jiných. Je třeba mít k dispozici dosti silnou armádu lidí přemýšlivých, tvůrčích, schopných inovací a vědecky průlomových řešení. Tedy těch, kdo vymýšlejí nová neotřelá řešení, díky nimž domácí průmysl bohatne a získává respekt. A to bez efektivního vzdělávacího systému nepůjde.

MM: Děkuji vám za rozhovor.