Témata
Obrázek generovaný AI

AI není jen chatbot: Bezpečnost a etika v aplikaci AI

V srpnu 2025 odhalila společnost Anthropic kybernetického zločince, který použil AI nástroj Claude Code k vývoji ransomwaru a zaútočil na sedmnáct organizací včetně zdravotnických zařízení a vládních institucí. Útočník použil AI pro vývoj funkčního malwaru, který by bez pomoci AI nedokázal vytvořit.

Tento článek je součástí seriálu:
AI není jen chatbot
Díly
Patrik Tesař

Jednatel a ředitel společnosti xyndata, propojující svět průmyslu a IT s vášní pro inovace a trvalý rozvoj.

Reklama

Umělá inteligence otevírá nové zranitelnosti, přičemž nejčastějším terčem útoků je strojírenství. 22 % všech globálních kyberútoků míří na výrobní sektor. 77 % výrobců už AI využívá, přitom polovina z nich v posledním roce čelila útoku poháněnému umělou inteligencí.

Tři hlavní bezpečnostní rizika AI

První riziko představují externí cloudová připojení. Podle analýzy z roku 2025 má 83 % výrobců nedokumentovaná připojení ke svým výrobním systémům. 46 % výrobních firem identifikuje vzdálený přístup jako nejslabší článek své bezpečnosti. Druhým rizikem jsou útoky přes třetí strany. Podle studie Ponemon Report 2025 pochází 42 % útoků z přístupu dodavatelů, přičemž 54 % výrobců bezpečnost dodavatelů vůbec nevyhodnocuje. Třetím rizikem jsou adversariální útoky na AI samotnou. Útočníci manipulují se vstupními daty tak, aby AI nesprávně vyhodnotila kritickou situaci. Společnost Microsoft zjistila, že phishingové e-maily automatizované pomocí AI dosahují 54% míry úspěšnosti oproti 12 % v případě klasického phishingu.

Kolik stály bezpečnostní incidenty v roce 2025

Podle Ponemon Report 2025 stojí každé napadení dat ve výrobě průměrně 5,5 milionu dolarů, což je o 13 % více než globální průměr. 75 % nákladů tvoří ztráta byznysu a náklady na reakci. U menších firem je 88 % útoků ransomwarových, s mediánem výkupného sto patnáct tisíc dolarů. Podle studie společnosti Cisco 71 % firem věří, že kybernetický incident naruší jejich byzunys v následujících dvanácti až čtyřiadvaceti měsících.

Zneužívání AI ke kybernetickým útokům je realitou, stejně jako její využívání v průmyslu. Existují však také nástroje, které s pomocí AI dokážou data před kyberútoky chránit. (Zdroj: Obrázek generovaný AI)

Jak zajistit bezpečnost AI systémů

První zásadou je secure by design – bezpečnost zabudovaná od začátku. AI systém by měl být navržen s ohledem na bezpečnost již ve fázi vývoje. Druhou zásadou je vícevrstvá ochrana, zahrnující vícefaktorovou autentizaci, šifrování a segmentaci sítě. Organizace s bezpečností podporovanou umělou inteligencí ušetří průměrně 2,2 milionu dolarů na incident oproti těm, které tyto technologie nepoužívají. Třetí klíčovou zásadou je kontinuální testování. Tradiční, jednorázový test nestačí, protože AI systémy se učí a vyvíjejí.

Systém xynLog: MES s AI prvky pro průmysl

Systém xynLog od společnosti xyndata je řešení MES a OEE aplikované na oblast strojírenství. Systém xynLog se připojuje k CNC strojům, sbírá provozní data v reálném čase a využívá AI pro optimalizaci výroby. AI komponenta navrhuje zlepšení řezných podmínek, predikuje údržbu a optimalizuje energetickou náročnost. Systém xynLog využívá šifrované spojení a vícevrstvou autentizaci a ukládá data v souladu s GDPR.

Reklama
Reklama
Reklama

BenchBot: testování bezpečnosti AI

Platforma BenchBot od společnosti xyndata řeší kontinuální testování AI systémů. BenchBot testuje konverzační AI, konkrétně chatboty a voiceboty, kde automatizovaně kontroluje bezpečnost a dodržování politik. Platforma odhaluje zranitelnosti, jako je např. prompt injection, jailbreaking nebo data poisoning. Testuje také odolnost systémů proti adversariálním útokům. Pro evropského retailového giganta BenchBot spravuje přes tři sta botů a proaktivně identifikuje průměrně 15 bezpečnostních rizik měsíčně.

Kombinace xynLog + BenchBot pro průmyslovou bezpečnost

Unikátní hodnota vzniká kombinací obou systémů. Platforma BenchBot se dokáže přes systém xynLog připojit k AI komponentám v průmyslovém prostředí a testovat je bez narušení provozu. Zatímco xynLog sbírá a analyzuje výrobní data pomocí AI, BenchBot ověřuje, že tato AI nepředstavuje bezpečnostní riziko. Testuje technické zranitelnosti i etické aspekty jako např. bias, fairness, transparentnost a diskriminaci. Kontroluje také dodržování GDPR. Tato kombinace funguje nejen v případě systému xynLog, ale i v případě jiných systémů MES napojených na AI.

Reklama

Etické otázky AI ve výrobě

35 % lidí považuje ztrátu pracovních míst za největší riziko AI. Odhady hovoří o dvou milionech ohrožených pozic ve výrobě do roku 2030. Americká firma Marlin Steel při zavádění robotů investovala do školení zaměstnanců a výsledkem byl růst firmy. Naopak společnost Nokia čelila v roce 2008 masivním protestům poté, co uzavřela továrnu a neposkytla propuštěným podporu. Další etickou otázkou je transparentnost AI. Testovací platforma BenchBot testuje, zda AI nediskriminuje určitý typ dat a zda je její rozhodování transparentní.

Bezpečnost jako konkurenční výhoda

Bezpečnost a etika AI nejsou jen povinností, ale i strategickou výhodou. Kombinace průmyslového MES (jakým je např. systém xynLog) s testovací platformou BenchBot zajišťuje komplexní přístup k řízení rizik. V době, kdy incident stojí průměrně 5,5 milionu dolarů a 71 % firem očekává narušení byznysu kyberútokem, se investice do správného přístupu k AI mnohonásobně vrátí.

Související články
Ve znamení kvality: Možnosti a úskalí strojového vidění

Uplatnění umělé inteligence v průmyslové výrobě slibuje usnadnění lidské práce, snížení chybovosti a nepřetržitý monitoring kvality i technického stavu výrobního prostředí. Mezi ideálními laboratorními podmínkami a reálnou výrobou však existují zásadní rozdíly, přičemž ani sebelépe vytvořený model neobstojí bez dlouhodobé péče a konzistentního sběru dat.

AI změní strojařinu k nepoznání

Pozvání k rozhovoru ze série „Jak to vidí autority v oboru AI“ přijal Jan Romportl, který patří k nejvýraznějším tvářím české AI scény, a to s unikátním přesahem od hlubokého akademického výzkumu až po vysoký byznys. Jako bývalý ředitel centra umělé inteligence v O2 Czech Republic a současný nezávislý konzultant pomáhá korporacím i státní správě pochopit nejen možnosti spojené s nástupem obecné umělé inteligence (AGI), ale i její rizika. Ve svých veřejných vystoupeních se často zaměřuje na strukturální změny společnosti, bezpečnostní rizika a filozoficko-technické aspekty AI.

Nemusíte být první, ale nesmíte zaostat

K dalšímu rozhovoru ze série „Jak to vidí autority v oboru AI“ jsme pozvali konzultanta a technologického vizionáře Martina Krčka. Specializuje se na implementaci umělé inteligence, automatizaci a robotiku a pomáhá firmám transformovat se v agilní, daty řízené organizace připravené na éru čtvrté průmyslové revoluce.

Související články
AI není jen chatbot: Optimalizace řezných podmínek

Ve velkosériové výrobě znamená každá sekunda navíc na součástku tisíce korun ztracené marže. Technologové se potýkají s otázkou, jak nastavit řezné podmínky optimálně. Posuv příliš nízký prodlužuje čas obrábění, posuv příliš vysoký zkracuje životnost nástroje. Klasický přístup spoléhá na zkušenosti a tabulkové hodnoty. Umělá inteligence tento proces mění tím, že zpracovává obrovské množství dat z reálného provozu a nachází optimální nastavení rychleji a přesněji.

Reklama
Reklama
Reklama
Reklama
Související články
AI není jen chatbot: Efektivnější logistika a plánování

Ve výrobních podnicích často řešíme stejné problémy: vysoké zásoby, zpoždění dodávek, neefektivní trasy rozvozů a nepřesné plánování výroby. Umělá inteligence nabízí, jak tyto každodenní obtíže vyřešit. Podívejme se, jak tato technologie funguje v praxi a co může přinést vašemu podniku.

AI není jen chatbot: Zlepšení kvality CNC obrábění

Kvalita v CNC obrábění určuje konkurenceschopnost každé strojírenské firmy. Umělá inteligence přináší revoluci v detekci defektů, optimalizaci procesů a prediktivní údržbě.

AI není jen chatbot: Integrace AI do stávajících systémů

Implementace umělé inteligence ve výrobních podnicích vyžaduje bezproblémovou integraci do existujících systémů. Podívejme se, jak propojit AI technologie s vaší současnou infrastrukturou.

AI není jen chatbot: Příprava dat pro strojové učení

V dnešní době se strojové učení, jež je součástí umělé inteligence, stává klíčovým prvkem modernizace řady průmyslových odvětví, včetně strojírenství. Aby umělá inteligence mohla správně fungovat a přinášet skutečnou hodnotu, potřebuje kvalitní data. Pojďme si vysvětlit, jak taková data připravit, a to i bez hlubokých znalostí IT.

AI není jen chatbot: Nástroje pro strojírenskou praxi

Umělá inteligence přináší do strojírenství nové možnosti pro zefektivnění procesů, pro zlepšení kvality a pro snížení nákladů. Tento článek představuje hlavní typy AI nástrojů dostupných pro strojírenské podniky a usnadní vám orientaci v této rychle se rozvíjející oblasti.

AI není jen chatbot: Kde ve strojírenství se AI vyplatí?

V dnešním strojírenství představuje umělá inteligence (AI) zásadní nástroj pro modernizaci a pro posílení konkurenceschopnosti. Přestože může být nasazení AI značně přínosné, je důležité vybrat vhodné procesy a zajistit maximální efekt s ohledem na kapacity firmy. Dobře zvolená strategie automatizace totiž dokáže zredukovat náklady, zvýšit efektivitu a odstranit rizika, která se dosud zdála neřešitelná.

AI není všelék, je to nástroj

V posledních letech se umělá inteligence stala klíčovým tématem v mnoha odvětvích a strojírenství není výjimkou. Abychom lépe porozuměli jejímu potenciálu a výzvám, které přináší, požádali jsme o rozhovor odborníka na AI v průmyslu pana Patrika Tesaře ze společnosti xyndata. Mezinárodní tým této společnosti s pobočkami v Německu a USA se zabývá správou velkých serverů a vývojem softwaru pro velké obchodní společnosti a nabízí také MES systém xynLog, určený pro výrobní firmy.

IMTS 2026: Ve znamení nových trendů v obrábění

V září se v Chicagu uskutečnil veletrh IMTS. Pro Českou republiku i pro firmy, které zde reprezentovaly sebe i český průmysl, to byl velmi intenzivní týden. Obdobně koncipovanou společnou prezentaci neměla žádná jiná ze zúčastněných zemí. Německo i Čína sice měly národní expozice, český projekt však díky koordinaci a podpoře Ministerstva průmyslu a obchodu nabídl na IMTS zcela unikátní formát prezentace. Pojďme se podívat na několik postřehů z výstavy.

AI překlad je rychlý, ale pozor na terminologii

Automatizovaný překlad dokumentů se v průmyslové praxi často používá k urychlení překladu technické dokumentace vcelku běžně. U návodů, servisních instrukcí, technických listů nebo interních standardů však nestačí, aby překlad „přibližně dával smysl“ – rozdílný překlad termínů totiž může znamenat zbytečné kontroly, opakované opravy i nejasnosti v komunikaci.

Ve znamení kvality: Vstupní kontrola snáze a rychleji

Stabilita a jakost výrobního procesu vychází mimo jiné z předpokladu, že konzistentní a kvalitní je již vstup v podobě materiálu, z něhož se vyrábí. To ověřuje systém vstupních kontrol, které je zpravidla nutné provádět v laboratorních podmínkách. Dnes však existují i analytické a spektroskopické metody, jimiž lze kontrolovat materiál přímo během přejímky.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě a mnoho dalších benefitů....  již 30 let zkušeností s odbornou novinařinou
Předplatit