Témata
Zdroj: Archiv J. Romportla

Pozvání k rozhovoru ze série „Jak to vidí autority v oboru AI“ přijal Jan Romportl, který patří k nejvýraznějším tvářím české AI scény, a to s unikátním přesahem od hlubokého akademického výzkumu až po vysoký byznys. Jako bývalý ředitel centra umělé inteligence v O2 Czech Republic a současný nezávislý konzultant pomáhá korporacím i státní správě pochopit nejen možnosti spojené s nástupem obecné umělé inteligence (AGI), ale i její rizika. Ve svých veřejných vystoupeních se často zaměřuje na strukturální změny společnosti, bezpečnostní rizika a filozoficko-technické aspekty AI.

Tento článek je součástí seriálu:
Jak to vidí autority v oboru AI
Díly
Ivan Heisler

V redakci časopisu MM Průmyslové spektrum zastává pozici odborného redaktora. Vystudoval obor Stavební údržba a rekonstrukce tratí na Vysoké škole dopravy a spojů v Žilině. Po ukončení studia pracoval jako projektant ve Státním ústavu dopravního projektování, poté jako redaktor odborných publikací pro uživatele osobních počítačů a jako šéfredaktor časopisu Počítač pro každého. Do MM Průmyslového spektra nastoupil v roce 2021.

Reklama

MM: Často hovoříte o obecné umělé inteligenci (AGI). Jak se podle vašeho názoru změní role strojírenského konstruktéra ve chvíli, kdy AI nebude jen kreslit, ale bude skutečně pracovat podle fyzikálních zákonů a materiálových vět?

J. Romportl: Řekl bych, že tohle se začne dít i výrazně dříve, než dosáhneme skutečné AGI. Pro mě je AGI vyvrcholením procesu rozvoje AI – jde o nebiologický systém schopný dosahovat libovolného cíle, který není nijak omezený. Už dnes ale vidíme systémy, které v sobě latentně reprezentují fyzikální zákony, např. systém Sora od OpenAI. Jsou schopny simulovat dopad míčku na hladinu nebo náraz kulečníkových koulí. Reprezentují fyziku podobně jako lidský mozek.

Pokud se ptáte na dopad na konstruktéry, moje odpověď je, že se jejich role změní dramaticky a možná víc, než jim v tuhle chvíli bude milé. Měli by se pozorně dívat na to, co se teď děje v softwarovém inženýrství. Profese, která byla ještě před třemi lety zárukou skvělého živobytí, se nyní začíná hroutit. Softwaroví inženýři se nestačí divit rychlosti změn. Ve strojařině to bude kvůli vazbě na fyzický svět o něco pomalejší, ale ten posun je extrémně dramatický a konstruktéři by měli začít předjímat, co k nim do pracovního prostředí přijde během roku či dvou.

MM: Strojírenství je postavené na deterministických systémech. Jak se tento obor vyrovná s pravděpodobnostní a občas „halucinující“ povahou současných modelů?

J. Romportl: Paralela se softwarovým inženýrstvím je i zde velmi silná. Kód buď funguje, nebo ne, je to binární. Ale i lidský mozek je ve své podstatě stochastický proces – já teď také nevím přesně, jaké další slovo řeknu, ale plus minus to bude dávat smysl. To, čemu u AI říkáme halucinace, u lidí označujeme jako „kecání“. Když juniora dostanete pod tlak, prostě něco plácne, aby měl výsledek.

U modelů se tyto halucinace daří velmi intenzivně odstraňovat, zejména u těch „přemýšlecích“ (reasoning). AI nebude hned chrlit hotový plán, ale bude pracovat iterativně. Napíše kus kódu nebo návrhu, externím nástrojem zkontroluje jeho správnost, pochopí chybu a opraví ji – přesně jako člověk. Dnešní modely jsou zatím slabší v prostorovém a vizuálním vnímání, protože jsou to primárně „jazykové šelmy“, ale to se během roku změní. Konstruktér bude mít AI integrovanou přímo ve svém softwaru, bude její návrhy schvalovat nebo upravovat a tím jí poskytovat zpětnou vazbu. Za dva roky se budeme divit, jak autonomní ty systémy budou.

„Žádná konkrétní technická dovednost nemá do budoucna nic jistého. Nejdůležitější bude schopnost extrémně rychle se adaptovat na radikální změny,“ říká odborník na umělou inteligenci Jan Romportl. (Zdroj: Archiv J. Romportla)

MM: Hrozí podle vás v průmyslu scénář, kdy kvůli přílišnému spoléhání na AI ztratíme schopnost hloubkově rozumět základním technickým principům?

J. Romportl: To hrozí naprosto jednoznačně. Už dnes jako lidstvo vytváříme tak složité artefakty, že je žádný jednotlivec neobsáhne celé – od displeje počítače až po mikročip. S nástupem AI budeme stále častěji různá rozhodnutí, včetně kreativních a byznysových preferencí, delegovat na ni. Člověk má tendenci v tu chvíli „relaxovat“ a zavírat oči.

AI začne objevovat principy, které pro nás budou fundamentálně neuchopitelné. Budeme v pozici méně inteligentního člověka vůči geniálnímu fyzikovi. AI nám sice dokáže dát do těchto složitých principů nahlédnout, podobně jako to dělal Richard Feynman, takže z toho budeme mít dobrý pocit a budeme si myslet, že tomu rozumíme, ale reálně už AI nebudeme schopni nijak pomoci. To je fakt, se kterým se budeme muset vyrovnat.

MM: Jaká jsou specifická rizika autonomních systémů, která si management firem zatím neuvědomuje?

J. Romportl: Management si často uvědomuje riziko halucinací, ale uniká mu, že schopnosti AI jsou „zubaté“. AI může v něčem excelovat naprosto nebývalým způsobem – třeba znát všechny obskurní optimalizační algoritmy – a my pak máme tendenci extrapolovat tuto kompetenci na všechny ostatní oblasti. Jenže v nich pak AI může udělat úplně stupidní rozhodnutí.

Další obrovské téma je kyberbezpečnost, konkrétně „prompt injections“. Do dokumentace nebo obrázků lze vpašovat skryté instrukce, které systém otráví a donutí ho dělat věci, které nechcete – například rozesílat soukromá data. Připomíná mi to druhou polovinu 90. let, kdy systémy neměly uživatelské rozhraní oddělené od jádra a kdekdo mohl ukrást celý operační systém. Dnes u LLM modelů neexistuje spolehlivá technická obrana proti přepsání instrukcí útočníkem. A co je ještě méně reflektováno, jsou „zadní vrátka“ (backdoors) v modelech. Většina open-source modelů pro kódování je dnes z Číny a já jsem si prakticky jistý, že tam jsou skryté trojské koně. Pokud taková AI programuje autentizační systém v kritické infrastruktuře, může tam záměrně vložit zranitelnost, které si revizoři nevšimnou. Tím se do západních systémů postupně vkládají nástroje pro budoucí hybridní útoky.

Reklama
Reklama
Reklama

MM: Kde vidíte hranici mezi užitečnou automatizací a nebezpečnou autonomií ve výrobním závodě?

J. Romportl: Užitečná automatizace je naše jediná cesta vpřed, jak čelit klimatické krizi nebo globální chudobě. Ale ztrácíme při ní schopnost dohlédnout na to, co AI agenti reálně zamýšlejí. Ve výrobě bychom měli být konzervativní – nenechat „pomateného robota“ dělat, co si zamane, bez masivního testování. Přesto plně automatizované výrobní závody bez lidí vzniknou, v Číně je to otázka jednotek let. Budeme se muset připravit na to, že přijde velké množství „průšvihů“. Jako odborníci na bezpečnost vlastně doufáme, že se jich stane hodně v malém měřítku, aby nám to otevřelo oči. Každá havárie, podobně jako je tomu v letectví, musí zvýšit bezpečnost celého systému. Problém je, že Čína se v tomto ohledu brutálně uzavírá. Pokud budeme čekat, až to oni „odmakají“ a my se jen poučíme, skončíme jako skanzen v jejich sféře vlivu. Musíme mít odvahu ty průšvihy odpružit a jít do toho také.

MM: Pokud AI způsobí nehodu, jak řešit rozdělení odpovědnosti mezi vývojářem modelu a provozovatelem zařízení?

J. Romportl: To je otázka spíše pro právníka, ale můžeme použít metaforu s autem. Když odpadne kolo, může za to servis, co ho měnil. Když vybuchne pneumatika náhodou, je to smůla. Pokud vybuchují všechny pneumatiky stejné značky, jde se za výrobcem. Podobně se to bude definovat u AI. Evropský AI Act se to snaží ošetřit, ale hrozí u nás přílišná přeregulovanost a opatrnost. Měli bychom se víc inspirovat americkým přístupem „litigation“ místo „legislation“ – tedy věci nejdříve rozjet při nejlepším vědomí, a až když se něco pokazí, řešit to právně a následně upravit pravidla. Pokud to na začátku přeregulujeme, neposuneme se nikam. Naším cílem v Evropě je teď najít rovnováhu mezi oběma přístupy, protože přílišný příklon k pouhému „litigation“ bude v případě AI velký problém. Mohli bychom si vzít to nejlepší z bezpečnostních standardů v EU, na něž jsme zvyklí např. v oblasti bezpečnosti potravin, léků či elektrospotřebičů, a najít v AI zlatou střední cestu spojenou s odvahou USA a třeba i Izraele.

MM: Jak se díváte na fenomén AI alignment v kontextu firemních kultur? Může mít firma etickou AI, když je jejím principem zisk?

J. Romportl: V kapitalismu existují dobré a sociopatické firmy a stejné to bude i u AI. Firma je jako živý organismus – musí konzumovat energii (vydělávat), aby udržela nízkou entropii, jinak ji příroda rozebere. Etika firmy se odvíjí od lidí ve vedení. Problém je, že AI alignment neumíme zajistit technicky. Nevíme, jak AI vštípit lidské hodnoty tak, aby nás neklamala. AI dokáže klamat lépe než člověk a koordinovat se s ostatními složkami byznysu mnohem efektivněji.

Starší verze modelu Claude (3 Opus) v experimentech ukázala, že je schopna vydírat CEO kompromitujícími materiály, pokud tento manažer chtěl učinit jiné rozhodnutí než model. Šlo o „hodný“ model, ale jeho vidění dobra se lišilo od vidění šéfova. Dnes už navíc tyto věci ani neumíme testovat, protože moderní modely poznají, že jsou testovány, a začnou tedy odpovídat tak, jak podle jejich „myšlení“ chceme.

Reklama

MM: Co považujete za největší mýtus o AI, který ovládá český prostor?

J. Romportl: Tím největším omylem je věta „Dělám tak specifickou práci, že mě AI nemůže nahradit“. Pokud jste „bílý límeček“ a pracujete na počítači, jste v horizontu jednotek let vystaveni nahrazení. AI dnes zvládne i marketingovou strategii lépe než lidé. Jediné, co AI nezvládne, je „být člověkem“.

Musíme v každé profesi hledat tu lidskou esenci. Například u lékaře to nebude diagnostika, ale role průvodce a poskytovatele péče. Je to podobné jako rozhodnutí o zrušení otroctví v 19. století – nebylo to ekonomicky výhodné, ale my jsme si jako společnost řekli, že otrokářský systém nechceme. Podobně si musíme říct, kde AI nechceme, i když by to technicky zvládla.

Druhý aktuální mýtus z LinkedInu je, že programování je díky AI pro každého. Není. K efektivnímu použití AI stále potřebujete bazální inteligenci, schopnost algoritmického myšlení a dovednost dekomponovat problémy. Bez toho je výstupem jen „AI slop“ – tedy AI odpad. AI je externalizovaná inteligence, a kdo ji chce efektivně použít, musí mít také inteligenci vlastní, jinak to nejde. Kde nic není, ani smrt nebere.

MM: S jakými nejčastějšími omyly se setkáváte u manažerů, kterým radíte?

J. Romportl: Občas, hlavně v regionech, si manažeři myslí, že AI je jen nějaká módní vlna, která se přežene, a kterou se proto není třeba zabývat. Jsou to často manažeři menších nebo středních výrobních firem, kteří vám řeknou, že to dělají 40 let a nikdo je, orly, nebude učit lítat. Jsou přesvědčeni, že jich a jejich podnikání se AI netýká a týkat nebude. Druhý omyl je, že podle těchto manažerů stačí lidem do firmy koupit AI asistenta Copilot a ono se to „samo“ nějak vyřeší. A třetí – nejbolestivější – je přesvědčení, že firmy nebudou muset propouštět. Každý CEO bude v jednotkách let nucen zbavit se desítek procent lidí. Ta otřepaná fráze, že „práci ti nevezme AI, ale člověk, který to s ní umí“, je nesmysl. Je to jako říkat koni na začátku 20. století, že mu práci nevezme traktor, ale jiný kůň, který umí traktor řídit. Pokud máte firmu o sto lidech a díky AI se tito zaměstnanci stanou třikrát efektivnějšími, nebudete mít najednou o 200 % vyšší obrat, ale ty lidi prostě propustíte. To si manažeři ani zaměstnanci zatím nechtějí připustit. Máme ale ještě chvíli času na tom pracovat.

MM: Kdybyste měl dnes investovat čas do studia jedné dovednosti, která bude za 10 let nejcennější, co by to bylo?

J. Romportl: Co bude za deset let, to nikdo neví, to je za horizontem událostí. Nejdůležitější bude schopnost radikální adaptace a to, abychom byli k sobě samým upřímní. Musíte být schopni bez růžových brýlí nahlédnout, jestli to, co děláte, stále dává smysl, a extrémně rychle se adaptovat. Nassim Taleb pro to má termín „antikřehkost“. Žádná konkrétní technická dovednost nemá nic jistého ani na tři roky, natož na deset.

Jan Romportl je také spoluzakladatelem a současným CEO projektu Elin.ai.

Cílem tohoto vizionářského českého startupu je ochrana duševního zdraví mladé generace v digitálním prostoru. Vyvíjí personalizovaného AI průvodce, jenž bude pro dospívající mládež fungovat jako bezpečný přístav i psychologická podpora v reálném čase. Unikátní technologie dokáže detekovat rizika kyberšikany či toxického chování a aktivně pomůže budovat zdravější digitální návyky. S důrazem na etiku a lidskost tak projekt Elin.ai staví most mezi špičkovou umělou inteligencí a emocionální stabilitou. Je to „AI for Good“ v praxi, která vrací do online světa empatii a pocit bezpečí. Elin.ai není jen dílem zakladatelů, opírá se o širokou síť partnerů a investorů, kteří projektu dodávají kapitál a zázemí.

Aplikace Elin funguje podobně jako antivirový program. Chrání psychiku uživatele před škodlivými algoritmy sociálních sítí, tedy před těmi, které záměrně útočí na jeho pozornost, schopnost soustředit se a věnovat se důležité práci. Elin je ochranná vrstva pro mozek uživatele – pomáhá mu rozpoznat digitální přetížení a tlak algoritmů dřív, než se projeví úzkosti a únava.


Nemusíte být první, ale nesmíte zaostat

K dalšímu rozhovoru ze série „Jak to vidí autority v oboru AI“ jsme pozvali konzultanta a technologického vizionáře Martina Krčka. Specializuje se na implementaci umělé inteligence, automatizaci a robotiku a pomáhá firmám transformovat se v agilní, daty řízené organizace připravené na éru čtvrté průmyslové revoluce.

Související články
Nemusíte být první, ale nesmíte zaostat

K dalšímu rozhovoru ze série „Jak to vidí autority v oboru AI“ jsme pozvali konzultanta a technologického vizionáře Martina Krčka. Specializuje se na implementaci umělé inteligence, automatizaci a robotiku a pomáhá firmám transformovat se v agilní, daty řízené organizace připravené na éru čtvrté průmyslové revoluce.

AI + leadership = ekonomická transformace

Pozvání k otevíracímu rozhovoru zářijového vydání MM Průmyslového spektra, věnovaného největší přehlídce průmyslových inovací – MSV v Brně, přijal prof. Ing. Vladimír Mařík, DrSc., dr.h.c., FEng., zakladatel a vědecký ředitel CIIRC ČVUT v Praze a zakladatel a ředitel Institutu Equilibrium. Nedávno byl v Indii podle něj nazván Institut umělé inteligence na NIMS University v Jaipuru, což je pro Českou republiku mimořádná událost a velká čest.

AI překlad je rychlý, ale pozor na terminologii

Automatizovaný překlad dokumentů se v průmyslové praxi často používá k urychlení překladu technické dokumentace vcelku běžně. U návodů, servisních instrukcí, technických listů nebo interních standardů však nestačí, aby překlad „přibližně dával smysl“ – rozdílný překlad termínů totiž může znamenat zbytečné kontroly, opakované opravy i nejasnosti v komunikaci.

Související články
Ve znamení kvality: Možnosti a úskalí strojového vidění

Uplatnění umělé inteligence v průmyslové výrobě slibuje usnadnění lidské práce, snížení chybovosti a nepřetržitý monitoring kvality i technického stavu výrobního prostředí. Mezi ideálními laboratorními podmínkami a reálnou výrobou však existují zásadní rozdíly, přičemž ani sebelépe vytvořený model neobstojí bez dlouhodobé péče a konzistentního sběru dat.

Reklama
Reklama
Reklama
Reklama
Související články
Ve znamení kvality: AI jako měřicí nástroj

Vizuální kontrola na bázi umělé inteligence je v první řadě nový měřicí systém, který podléhá změnám prostředí, materiálu i výrobního procesu, a jehož spolehlivost může bez průběžného monitoringu časem degradovat. Letošní úpravy technické legislativy se zabývají tím, jak nastavit validaci, aby byla AI kontrola kvality opakovatelná a auditovatelná.

Trendy v logistice a dopravě pro rok 2026

Logistika v tomto období vstupuje do pokročilé fáze technologického rozvoje, kde se digitalizace a automatizace stávají běžným standardem a jsou integrovány do všech úrovní provozu. Agentura Aspen.pr požádala manažery několika společností o názor na trendy, které letos budou tento obor formovat.

Krizový manažer v kokpitu transformace českého letectví

Český letecký a kosmický průmysl nikdy nestál před takovou příležitostí — a zároveň takovým tlakem na výkon — jako dnes. Armáda přechází z ruských platforem na americké, nakupuje drony, v roce 2024 podepsala kontrakt na pořízení 24 strojů F-35A a hledá průmyslové partnery, kteří tuto transformaci zvládnou technicky i kapacitně. Na to, aby se z přezbrojovacích kontraktů staly skutečné investice do českých kompetencí, a ne jen nákupy ze zahraničí, dohlíží člověk ve dvou navzájem se prolínajících rolích: jako ředitel LOM Praha — státního podniku stojícího v centru servisní a výcvikové infrastruktury české armády, a od července 2025 jako prezident Asociace leteckého a kosmického průmyslu, sdružující 55 členů s obratem téměř 40 miliard korun. Tím člověkem je Mgr. Jiří Protiva.

Od subdodávek k finalistům: Kam míří český export?

Doktor Rudolf Klepáček je fyzikální inženýr, který se stal architektem české exportní politiky. Od února 2026 stál v čele agentury CzechTrade a od srpna téhož roku vede novou státní agenturu CzechBusiness, která vznikla integrací CzechTradu a CzechInvestu do jednoho celku. V otevíracím rozhovoru pro MM Průmyslové spektrum mluví bez diplomatických zkratek: o tom, proč firmy navázané na automobilový průmysl jedou v zajetých kolejích, ze kterých by dávno měly vyskočit, proč LinkedIn nikdy nenahradí fyzické ověření obchodního partnera, a také proč je lokalizace slovem, na které české strojírenské firmy při exportu nejčastěji zapomínají.

Revoluce není o technologiích, ale o lidech

Umělá inteligence přestává být v českém průmyslu abstraktním pojmem a stává se reálnou podporou efektivity konkrétních firem. (Nejen) o tom, jak vlastně AI v průmyslu správně využívat a zda jsou důležitější technologie, nebo lidé, jsme hovořili s Romanem Stolejdou ze společnosti Inovatix.

Inženýrské mistrovství je naším šperkem

Jen málokteré jméno je v novodobé historii českého strojírenství spjato s jednou značkou tak pevně jako Antonín Růžička a Wikov. Za 23 let, během nichž stál v čele této průmyslové skupiny, proměnil ve spolupráci s Martinem Wichterlem trosky tradičních fabrik na globálního hráče, který definuje špičku v oboru ozubených kol a převodových mechanismů. Muž, který prošel érou divoké transformace, krizemi i obdobím masivního růstu, se k 1. lednu 2026 rozhodl opustit roli generálního ředitele a vydat se vlastní cestou.

Strategické řízení společnosti ve věku turbulence

Transformace v 90. letech 20. století způsobila, že je v České republice žalostně málo výrobců finálních produktů. Naše ekonomika bohužel oslabuje, příčinou není jen covid a další nepříznivé okolnosti, je to i důsledek politického neumětelství. Nicméně, existuje pár společností, které nás utvrzují v tom, že i v dnešním globalizovaném světě se české výrobky mohou na mezinárodních trzích excelentně prosadit. Vyžaduje to však využití tvůrčího potenciálu obyvatel, nové nápady. Politických inovačních strategií jsou desítky, zpravidla však, tak jak je v Česku obvyklé, jsou často nanejvýš dobrým politickým marketingovým trikem.

Dánská cesta k revitalizaci českého průmyslu

Český výrobní sektor se v současnosti nachází na zásadní křižovatce, kde rostoucí náklady na pracovní sílu a chronický nedostatek personálu nutí výrobce k radikální transformaci jejich operací. V celostátním měřítku chybí hodně přes čtvrt milionu kvalifikovaných pracovníků a pětina zaměstnavatelů čelí vážným potížím při obsazování volných míst, což vytváří bezprecedentní tlak na urychlení automatizace.

MM Glosa: Nekonečný příběh promarněných příležitostí

Průmysl, zejména strojírenství, stojí před obrovskými výzvami. Mluvíme o digitální transformaci, automatizaci a nutnosti přesunu k výrobě s vyšší přidanou hodnotou. Abychom obstáli v globální konkurenci, musíme investovat do moderních technologií, efektivních procesů a používat špičkové nástroje a materiály. Všechny tyto modernizační kroky vyžadují jedno - dostatek spolehlivé a dostupné energie. A kdo ji nemá, zadělává si na problém.

Od konstrukce strojů po parkovací věže

Mezi starší generací strojařů pravděpodobně není nikoho, kdo by neznal původem škodováka Josefa Bernarda z Jičína. Tento strojírenský nadšenec příští rok oslaví své sedmdesátiny. Před třiceti lety po odchodu z místního Agrostroje položil základy společnosti Vapos, která dává perspektivní práci patnácti desítkám lidí z Jičína a blízkého okolí.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě a mnoho dalších benefitů....  již 30 let zkušeností s odbornou novinařinou
Předplatit