Témata
Zdroj: Algotech

Používáte bezpečné AI nástroje?

Vývoj umělé inteligence (AI) nabírá na obrátkách. S rostoucím rozmachem této technologie však vyvstává zásadní otázka: Jak zajistit, aby AI byla nejen inovativní, ale také bezpečná? Zeptali jsme se Vojtěcha Černého, ředitele firmy Algotech v oblasti inovací a odborníka na problematiku AI. Černý je absolventem oboru umělé inteligence na Matematicko-fyzikální fakultě Univerzity Karlovy, kde nyní také vyučuje.

Reklama

Důležitými aspekty této problematiky jsou regulace a mezinárodní spolupráce. V posledních letech došlo k několika zásadním posunům v regulaci AI, a to nejen v rámci Evropské unie, ale také na globální úrovni. Příkladem může být situace v Itálii, kde byla kvůli obavám o ochranu osobních údajů dočasně zablokována společnost OpenAI. Následná širší diskuze na evropské úrovni vedla k vytvoření mezinárodní „akční skupiny“, sdružující regulátory z Německa, Francie, Kanady a Jižní Koreje.

Dalším podstatným momentem v souvislosti s AI modely je diskuze o ochraně duševního vlastnictví. Umělá inteligence, která generuje obsah na základě existujících dat, vyvolává obavy v oblasti autorských práv. Vznikl například spor mezi mediálními domy a poskytovateli AI, při němž se řešilo, zda systémy jako např. GPT mohou chráněné materiály legálně využívat k trénování modelů.

Zásady ochrany dat a odpovědného vývoje AI musí respektovat i každý koncový dodavatel, který jako součást svého řešení používá velké jazykové modely,“ říká Vojtěch Černý. „Je potřeba znát různé alternativy, abychom s AI dosáhli kýženého výsledku, aniž bychom snižovali bezpečnost nebo porušovali regulace. Mít vlastní cloud je v tomto ohledu pro nás velkou výhodou.“ (Zdroj: Algotech)

Evropská unie se přiklonila k detailnější regulaci a důraz klade na transparentnost a bezpečnost AI modelů. Nová legislativa, která vstupuje v platnost postupně od roku 2024, zahrnuje přísné požadavky na dokumentaci algoritmů a na jejich sledovatelnost. To sice zajišťuje vyšší míru ochrany uživatelů, ale současně to vyvolává kritiku ze strany softwarových inženýrů, protože ti se obávají zpomalení inovací v oboru.

Bezpečnost na prvním místě

Dříve panovala tendence rychle uvádět AI modely na trh bez důkladného otestování jejich bezpečnosti. Příkladem mohou být roky 2021 a 2022, kdy AI modely vznikaly bez větší regulace a zabezpečení. Dnes se však většina velkých technologických firem zaměřuje na maximalizaci ochrany dat a odpovědný vývoj AI. Společnosti jako OpenAI, Google či Microsoft aktivně spolupracují s regulátory a implementují opatření, která mají minimalizovat rizika zneužití.

Reklama
Reklama
Reklama

Evropský a americký přístup

Přístupy k regulaci AI se v různých částech světa liší. Zatímco Evropa nastavuje přísná pravidla a klade důraz na odpovědnost, USA se dlouho orientovaly spíše na podporu inovací za každou cenu. To se však mění a americká administrativa připravuje vlastní legislativní opatření, aby mezi technologickým pokrokem a ochranou společnosti udržela rovnováhu.

Dohled a implementace v České republice

V České republice bude na implementaci nových pravidel dohlížet Úřad pro ochranu osobních údajů. Klíčovou výzvou bude zajistit, aby tito regulátoři měli dostatek odborných znalostí a technické erudice, díky nimž dokážou provádět nad touto rychle se rozvíjející oblastí efektivní dozor. Kritickým aspektem je také fakt, že současná údajová infrastruktura nemusí být pro dohled nad sofistikovanými AI systémy dostatečně robustní.

Reklama

Závěr

Bezpečnost AI je dnes tématem číslo jedna pro regulátory i firmy po celém světě. Zatímco Evropa se snaží nastavit přísná pravidla, USA a další země hledají mezi inovacemi a regulací rovnováhu. Budoucnost AI tak bude z velké části záviset na schopnosti technologických firem a regulátorů najít společnou cestu k odpovědnému vývoji.


Vojtěcha Černého jsme zastihli také na zákaznickém dnu Algotech 2025, který společnost Algotech uspořádala na konci května v krásných industriálních prostorách Uhelného mlýna v Libčicích nad Vltavou. Celodenní akce zahrnovala prezentace odborníků z této společnosti i z řad jejích partnerů a zákazníků. Zajímavé přednášky byly věnovány aktuálním tématům kybernetické bezpečnosti a aplikaci umělé inteligence v praxi.

Zákaznický den Algotech 2025 proběhl v prostorách Uhelného mlýna v Libčicích nad Vltavou. (Foto: I. Heisler)

Účastníci se seznámili i s případovými studiemi významných zákazníků firmy a součástí programu byla prohlídka datového centra společnosti Algotech, umístěného v libčickém areálu bývalých šroubáren. Účastníci mohli této příležitosti využít i k navazování kontaktů se zajímavými lidmi z oboru a k výměně zkušeností.

Datovým centrem zájemce prováděl technický ředitel společnosti Algotech Petr Loužecký. (Zdroj: Algotech)
Související články
AI + leadership = ekonomická transformace

Pozvání k otevíracímu rozhovoru zářijového vydání MM Průmyslového spektra, věnovaného největší přehlídce průmyslových inovací – MSV v Brně, přijal prof. Ing. Vladimír Mařík, DrSc., dr.h.c., FEng., zakladatel a vědecký ředitel CIIRC ČVUT v Praze a zakladatel a ředitel Institutu Equilibrium. Nedávno byl v Indii podle něj nazván Institut umělé inteligence na NIMS University v Jaipuru, což je pro Českou republiku mimořádná událost a velká čest.

Bezpečnost vašich dat stokrát jinak

Pravděpodobně nikdo z nás nesouhlasí s prostoduchým vyjádřením jednoho z bývalých ministrů vnitra ČR, že jej každý může odposlouchávat, protože on nic špatného nedělá. Naopak. Informace jsou dnes jednou z nejcennějších komodit, a chceme-li přežít ve stále ostřejší konkurenci a současně utajit svá citlivá data (obchodní tajemství, osobní údaje apod.), musíme tak činit soustavně, systematicky a na odpovídající odborné úrovni.

AI ve školství: Třídit informace a kriticky přemýšlet

Umělá inteligence je dnes tématem, které se týká většiny oblastí lidské činnosti, včetně školství. V našem seriálu proto postupně oslovujeme osobnosti, které působí na různých pozicích a v různých typech škol, a ptáme se jich na to, jak využití AI ve školství hodnotí ze svého pohledu. Dnes vám přinášíme pohled Ing. Petra Augusty, Ph.D., zástupce ředitele Střední průmyslové školy na Proseku.

Související články
Bezpečnost vašich dat stokrát jinak

Šestý díl našeho seriálu podcastů o kyberbezpečnosti se zabývá okamžikem, kdy obdržíme výsledky analýzy rizik. Na jejich základě se musíme rozhodnout, jak dále postupovat, zejména, zda neexistují nějaká rizika vytvářející maximální stupeň nebezpečí, na které je třeba reagovat okamžitě. Zjištěná rizika musíme konfrontovat s existujícími bezpečnostními opatřeními a zpracovat tzv. benchmark stavu informační bezpečnosti popisující skutečný stav v porovnání s tím, jak by měly být naplněny požadavky dle principů normy ČSN ISO/IEC 27002 nebo ZKB. S podrobnostmi vás opět seznámí profesor Vladimír Smejkal.

Reklama
Reklama
Reklama
Reklama
Související články
Zájem hackerů může vyvolat i maličkost

Digitalizace a automatizace kromě výhod přináší i nutnost zavedení nových principů práce s daty. Ta představují v produkci jakékoli firmy zcela novou hodnotu a jejich zneužití může být nepříjemné.

Harmonizace ve svařování

Mezinárodní harmonizace norem a pravidel pro svařování je důležitá z mnoha důvodů. Primárním důvodem je skutečnost, že svařování je považováno za "zvláštní proces" (EN ISO 9001), při kterém nelze zcela zjistit jakost po skončení procesu inspekcí, ale jakost musí být sledována před i v průběhu celého procesu svařování.

Kyberbezpečnost v průmyslu: Blackout jako reality check

Jsou české firmy připraveny na krizové scénáře? Když se 4. července 2025 v odpoledních hodinách zastavily tramvaje, když přestaly fungovat semafory a lidé nemohli platit kartou ani se dovolat, většina z nás si poprvé naplno uvědomila, jak křehká může být infrastruktura, na které stojí náš každodenní život. Výpadek elektrické energie, který postihl velkou část Česka, včetně Prahy a Středočeského kraje, měl dopad nejen na obyvatele, ale i na stovky firem od výrobních podniků přes logistiku až po nemocnice.

BIM otevírá dveře k robotizaci stavebnictví

Robot, který místo člověka postaví zeď, nanese omítky nebo třeba takový, co vyvrtá díry pro rozvody vody či elektřiny. To není sci-fi ani budoucnost vzdálená staletí. Je to realita, kterou máme (nebo můžeme mít) nadosah. Zásadní úlohu v nástupu robotů na stavby přitom hraje metoda BIM, přesněji digitální model stavby (DiMS). Právě ten totiž nese informace potřebné k řízení automatických nebo poloautomatických strojů, které mají lidem výrazně ulehčit práci.

MSV představí svět budoucnosti

Mezinárodní strojírenský veletrh vstupuje do svého již 61. ročníku. Během let se z něj stal nejrenomovanější oborový veletrh. Je tedy jasné, že řídit jej tak, aby renomé neztratil, není nic snadného a vyžaduje to člověka nejen schopného, ale i zkušeného. Současný ředitel, Ing. Michalis Busios, bezesporu splňuje obojí. Dokladem je skutečnost, že pro veletrh úspěšně pracuje již od roku 2008.

CIMT Peking, Část 1. Obecný pohled

V předvelikonočním týdnu se v Pekingu uskutečnil veletrh obráběcích strojů CIMT 2019. V asijském regionu se jedná o obdobu veletrhu EMO Hannover. A stejně jako EMO je velkou měrou národní výstava německé výrobní techniky, tak CIMT je převážně čínský. V tomto prvním vstupu se podíváme na letošní ročník trochu s odstupem, aniž bychom se zaměřili na konkrétní exponáty.

Nové aplikační centrum pro výrobní stroje

Společnost Siemens otevřela ve svém areálu v Praze-Stodůlkách Aplikační centrum pro výrobní stroje v Praze (Application Center for Production Machines Prague). Centrum zaměstnává vysoce kvalifikované technické odborníky, kteří se specializují na výrobní stroje, jejich automatizaci a využití nejnovějších technologií, jako je průmyslový internet věcí.

Opřít se o silného partnera

V dnešní době hospodářského růstu mnoho firem přemýšlí o rozšíření výroby. To se však neobejde bez úvah o tom, kde získat prostředky na nové stroje a zařízení. Řešení má jméno SGEF.

Fórum výrobních průmyslníků

Jakým způsobem řešíte nedostatek pracovníků ve výrobě, aby tento aspekt nebyl limitujícím faktorem pro přijímání nových zakázek a neovlivnil realizaci stávajících?

Integrovaný obvod o tloušťce jedné molekuly

Lidstvo již zvládlo přeměňovat světlo na elektřinu a vytvořit akumulátory, v nichž nedochází k chemickým reakcím. Problémem však je, že tyto přístroje mají velmi nízkou účinnost. Nejlepších parametrů by se dosáhlo při použití polovodičů o tloušťce jediné molekuly. A ty se nyní naučili vyrábět vědci z ruského institutu MISiS, který je partnerem ruské korporace pro atomovou energii Rosatom.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě

a mnoho dalších benefitů.

... již 25 let zkušeností s odbornou novinařinou

      Předplatit