Témata
Zdroj: Algotech

Používáte bezpečné AI nástroje?

Vývoj umělé inteligence (AI) nabírá na obrátkách. S rostoucím rozmachem této technologie však vyvstává zásadní otázka: Jak zajistit, aby AI byla nejen inovativní, ale také bezpečná? Zeptali jsme se Vojtěcha Černého, ředitele firmy Algotech v oblasti inovací a odborníka na problematiku AI. Černý je absolventem oboru umělé inteligence na Matematicko-fyzikální fakultě Univerzity Karlovy, kde nyní také vyučuje.

Reklama

Důležitými aspekty této problematiky jsou regulace a mezinárodní spolupráce. V posledních letech došlo k několika zásadním posunům v regulaci AI, a to nejen v rámci Evropské unie, ale také na globální úrovni. Příkladem může být situace v Itálii, kde byla kvůli obavám o ochranu osobních údajů dočasně zablokována společnost OpenAI. Následná širší diskuze na evropské úrovni vedla k vytvoření mezinárodní „akční skupiny“, sdružující regulátory z Německa, Francie, Kanady a Jižní Koreje.

Dalším podstatným momentem v souvislosti s AI modely je diskuze o ochraně duševního vlastnictví. Umělá inteligence, která generuje obsah na základě existujících dat, vyvolává obavy v oblasti autorských práv. Vznikl například spor mezi mediálními domy a poskytovateli AI, při němž se řešilo, zda systémy jako např. GPT mohou chráněné materiály legálně využívat k trénování modelů.

„Zásady ochrany dat a odpovědného vývoje AI musí respektovat i každý koncový dodavatel, který jako součást svého řešení používá velké jazykové modely,“ říká Vojtěch Černý. „Je potřeba znát různé alternativy, abychom s AI dosáhli kýženého výsledku, aniž bychom snižovali bezpečnost nebo porušovali regulace. Mít vlastní cloud je v tomto ohledu pro nás velkou výhodou.“ (Zdroj: Algotech)

Evropská unie se přiklonila k detailnější regulaci a důraz klade na transparentnost a bezpečnost AI modelů. Nová legislativa, která vstupuje v platnost postupně od roku 2024, zahrnuje přísné požadavky na dokumentaci algoritmů a na jejich sledovatelnost. To sice zajišťuje vyšší míru ochrany uživatelů, ale současně to vyvolává kritiku ze strany softwarových inženýrů, protože ti se obávají zpomalení inovací v oboru.

Bezpečnost na prvním místě

Dříve panovala tendence rychle uvádět AI modely na trh bez důkladného otestování jejich bezpečnosti. Příkladem mohou být roky 2021 a 2022, kdy AI modely vznikaly bez větší regulace a zabezpečení. Dnes se však většina velkých technologických firem zaměřuje na maximalizaci ochrany dat a odpovědný vývoj AI. Společnosti jako OpenAI, Google či Microsoft aktivně spolupracují s regulátory a implementují opatření, která mají minimalizovat rizika zneužití.

Reklama
Reklama
Reklama

Evropský a americký přístup

Přístupy k regulaci AI se v různých částech světa liší. Zatímco Evropa nastavuje přísná pravidla a klade důraz na odpovědnost, USA se dlouho orientovaly spíše na podporu inovací za každou cenu. To se však mění a americká administrativa připravuje vlastní legislativní opatření, aby mezi technologickým pokrokem a ochranou společnosti udržela rovnováhu.

Dohled a implementace v České republice

V České republice bude na implementaci nových pravidel dohlížet Úřad pro ochranu osobních údajů. Klíčovou výzvou bude zajistit, aby tito regulátoři měli dostatek odborných znalostí a technické erudice, díky nimž dokážou provádět nad touto rychle se rozvíjející oblastí efektivní dozor. Kritickým aspektem je také fakt, že současná údajová infrastruktura nemusí být pro dohled nad sofistikovanými AI systémy dostatečně robustní.

Reklama

Závěr

Bezpečnost AI je dnes tématem číslo jedna pro regulátory i firmy po celém světě. Zatímco Evropa se snaží nastavit přísná pravidla, USA a další země hledají mezi inovacemi a regulací rovnováhu. Budoucnost AI tak bude z velké části záviset na schopnosti technologických firem a regulátorů najít společnou cestu k odpovědnému vývoji.


Vojtěcha Černého jsme zastihli také na zákaznickém dnu Algotech 2025, který společnost Algotech uspořádala na konci května v krásných industriálních prostorách Uhelného mlýna v Libčicích nad Vltavou. Celodenní akce zahrnovala prezentace odborníků z této společnosti i z řad jejích partnerů a zákazníků. Zajímavé přednášky byly věnovány aktuálním tématům kybernetické bezpečnosti a aplikaci umělé inteligence v praxi.

Zákaznický den Algotech 2025 proběhl v prostorách Uhelného mlýna v Libčicích nad Vltavou. (Foto: I. Heisler)

Účastníci se seznámili i s případovými studiemi významných zákazníků firmy a součástí programu byla prohlídka datového centra společnosti Algotech, umístěného v libčickém areálu bývalých šroubáren. Účastníci mohli této příležitosti využít i k navazování kontaktů se zajímavými lidmi z oboru a k výměně zkušeností.

Datovým centrem zájemce prováděl technický ředitel společnosti Algotech Petr Loužecký. (Zdroj: Algotech)
Související články
Ve znamení kvality: Možnosti a úskalí strojového vidění

Uplatnění umělé inteligence v průmyslové výrobě slibuje usnadnění lidské práce, snížení chybovosti a nepřetržitý monitoring kvality i technického stavu výrobního prostředí. Mezi ideálními laboratorními podmínkami a reálnou výrobou však existují zásadní rozdíly, přičemž ani sebelépe vytvořený model neobstojí bez dlouhodobé péče a konzistentního sběru dat.

AI změní strojařinu k nepoznání

Pozvání k rozhovoru ze série „Jak to vidí autority v oboru AI“ přijal Jan Romportl, který patří k nejvýraznějším tvářím české AI scény, a to s unikátním přesahem od hlubokého akademického výzkumu až po vysoký byznys. Jako bývalý ředitel centra umělé inteligence v O2 Czech Republic a současný nezávislý konzultant pomáhá korporacím i státní správě pochopit nejen možnosti spojené s nástupem obecné umělé inteligence (AGI), ale i její rizika. Ve svých veřejných vystoupeních se často zaměřuje na strukturální změny společnosti, bezpečnostní rizika a filozoficko-technické aspekty AI.

Kyberbezpečnost v průmyslu: Potřebujete zálohu, monitoring a plán B

Odborník na kybernetickou bezpečnost Petr Loužecký je technickým ředitelem ve společnosti Algotech, kde má na starosti také cloudové služby. Hovořili jsme s ním o přístupu průmyslových firem k ochraně dat před kybernetickými hrozbami a o službách, které firmám pomáhají bezpečnost dat zajistit.

Související články
Ve znamení kvality: AI jako měřicí nástroj

Vizuální kontrola na bázi umělé inteligence je v první řadě nový měřicí systém, který podléhá změnám prostředí, materiálu i výrobního procesu, a jehož spolehlivost může bez průběžného monitoringu časem degradovat. Letošní úpravy technické legislativy se zabývají tím, jak nastavit validaci, aby byla AI kontrola kvality opakovatelná a auditovatelná.

Reklama
Reklama
Reklama
Reklama
Související články
Trendy v logistice a dopravě pro rok 2026

Logistika v tomto období vstupuje do pokročilé fáze technologického rozvoje, kde se digitalizace a automatizace stávají běžným standardem a jsou integrovány do všech úrovní provozu. Agentura Aspen.pr požádala manažery několika společností o názor na trendy, které letos budou tento obor formovat.

Nemusíte být první, ale nesmíte zaostat

K dalšímu rozhovoru ze série „Jak to vidí autority v oboru AI“ jsme pozvali konzultanta a technologického vizionáře Martina Krčka. Specializuje se na implementaci umělé inteligence, automatizaci a robotiku a pomáhá firmám transformovat se v agilní, daty řízené organizace připravené na éru čtvrté průmyslové revoluce.

AI + leadership = ekonomická transformace

Pozvání k otevíracímu rozhovoru zářijového vydání MM Průmyslového spektra, věnovaného největší přehlídce průmyslových inovací – MSV v Brně, přijal prof. Ing. Vladimír Mařík, DrSc., dr.h.c., FEng., zakladatel a vědecký ředitel CIIRC ČVUT v Praze a zakladatel a ředitel Institutu Equilibrium. Nedávno byl v Indii podle něj nazván Institut umělé inteligence na NIMS University v Jaipuru, což je pro Českou republiku mimořádná událost a velká čest.

Kyberbezpečnost v průmyslu: Kyberútoky mohou ochromit dopravu

Kyberútok v dopravě už neznamená jen únik dat, ale i reálné zastavení provozu. Z digitálního problému se tak stalo strategické riziko, které může ochromit logistiku, vyřadit infrastrukturu a ohrozit samotné fungování firmy. Kybernetická bezpečnost se tak stává jedním z klíčových pilířů byznysu.

AI překlad je rychlý, ale pozor na terminologii

Automatizovaný překlad dokumentů se v průmyslové praxi často používá k urychlení překladu technické dokumentace vcelku běžně. U návodů, servisních instrukcí, technických listů nebo interních standardů však nestačí, aby překlad „přibližně dával smysl“ – rozdílný překlad termínů totiž může znamenat zbytečné kontroly, opakované opravy i nejasnosti v komunikaci.

Ve znamení kvality: Vstupní kontrola snáze a rychleji

Stabilita a jakost výrobního procesu vychází mimo jiné z předpokladu, že konzistentní a kvalitní je již vstup v podobě materiálu, z něhož se vyrábí. To ověřuje systém vstupních kontrol, které je zpravidla nutné provádět v laboratorních podmínkách. Dnes však existují i analytické a spektroskopické metody, jimiž lze kontrolovat materiál přímo během přejímky.

Kyberbezpečnost v průmyslu: Mít data v cloudu, nebo doma pod zámkem?

V roce 2026 už není otázkou, zda výrobu digitalizovat, ale jak zajistit, aby digitální srdce výrobního podniku - jeho data - zůstalo v bezpečí a dostupné i v dobách geopolitické nestability. Pro strojírenské firmy, které tvoří páteř české ekonomiky, se rozhodování mezi cloudem a vlastním serverem (on-premise) posunulo z úrovně "IT nákladů" na úroveň "strategické kontinuity výroby".

Bezpečnost vašich dat stokrát jinak

Pravděpodobně nikdo z nás nesouhlasí s prostoduchým vyjádřením jednoho z bývalých ministrů vnitra ČR, že jej každý může odposlouchávat, protože on nic špatného nedělá. Naopak. Informace jsou dnes jednou z nejcennějších komodit, a chceme-li přežít ve stále ostřejší konkurenci a současně utajit svá citlivá data (obchodní tajemství, osobní údaje apod.), musíme tak činit soustavně, systematicky a na odpovídající odborné úrovni.

Revoluce není o technologiích, ale o lidech

Umělá inteligence přestává být v českém průmyslu abstraktním pojmem a stává se reálnou podporou efektivity konkrétních firem. (Nejen) o tom, jak vlastně AI v průmyslu správně využívat a zda jsou důležitější technologie, nebo lidé, jsme hovořili s Romanem Stolejdou ze společnosti Inovatix.

Dánská cesta k revitalizaci českého průmyslu

Český výrobní sektor se v současnosti nachází na zásadní křižovatce, kde rostoucí náklady na pracovní sílu a chronický nedostatek personálu nutí výrobce k radikální transformaci jejich operací. V celostátním měřítku chybí hodně přes čtvrt milionu kvalifikovaných pracovníků a pětina zaměstnavatelů čelí vážným potížím při obsazování volných míst, což vytváří bezprecedentní tlak na urychlení automatizace.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě a mnoho dalších benefitů....  již 30 let zkušeností s odbornou novinařinou
Předplatit