Témata
Zdroj: CIIRC ČVUT v Praze

AI a kriminalita? Zaměřme se na prevenci!

Otázky trestní odpovědnosti spojené s umělou inteligencí, jak v kontextu informační kriminality, tak fyzické kriminality zasahující do reálného světa. Tak znělo téma nesmírně zajímavé přednášky, kterou měli zájemci, včetně naší redakce, možnost vyslechnout 4. února v prostorách CIIRC ČVUT v Praze. S pozoruhodnými detaily dnes tak horkého tématu seznámil posluchače profesor Vladimír Smejkal, soudní znalec a jeden ze zakladatelů oboru IT práva a IT kriminalistiky u nás. Některé aspekty tohoto tématu vám nyní přinášíme v našem rozhovoru.

Tento článek je součástí seriálu:
Jak to vidí autority v oboru AI
Díly
Hana Janišová

Vystudovala Divadelní fakultu AMU. Většinu svého profesního života pracovala jako redaktorka v rozličných periodikách nebo na PR pozicích ve firmách různého zaměření, naposled z oblasti informačních technologií.
Osobně jí jsou blízká nejen témata týkající se techniky a technologií, ale například také z oblasti sociální nebo školství a další.
Pro MM Průmyslové spektrum pracuje od roku 2017. Její stěžejní mimopracovní aktivitou je ochrana zvířat.

Reklama

MM: Pane profesore, umělá inteligence je v současnosti vnímána dvěma zcela protichůdnými způsoby – jedni ji vidí jako jedinečnou příležitost pro lidstvo prakticky ve všech oblastech jeho existence, a druzí naopak jako obrovskou hrozbu, jako něco, co může v budoucnu doslova převzít vládu nad světem. Jak ji vidíte vy?

V. Smejkal: Jako vždy jsou oba názory extrémní, nyní ale posilované tím, že u AI se opět, jako již poněkolikáté v historii nejen IT, jedná o bublinu. Kdo dnes nemá bábovku navrženou či vyráběnou AI, skoro ji neprodá. AI je velká příležitost, ale není samospasitelná. AI chybuje, vymýšlí si, činí kroky, o kterých nevíme, jak k nim došla. Na druhou stranu, dokud nebude AI mít skutečné, ne pouze simulované vědomí, pak žádnou vládu přebírat ani nemůže.

„Můžeme nastavit požadavky na konstruktéry, programátory, výrobce, distributory a uživatele systémů AI tak, aby se jejich respektováním AI chovala eticky. Ovšem etika bez vynutitelnosti zákonem v celém kyberprostoru fungovat nebude,“ říká Vladimír Smejkal. (Zdroj: CIIRC ČVUT v Praze)

Chápání pojmu „umělá inteligence“ není ani jednotné, ani trvalé a pod tímto fenoménem se skrývá neuvěřitelně velké množství různých představ, definic, přístupů a teorií. V roce 1967 řekl Minsky: „Umělá inteligence je věda o vytváření strojů nebo systémů, které budou při řešení určitého úkolu užívat takového postupu, který – kdyby ho dělal člověk – bychom považovali za projev jeho inteligence.“

Ve skutečnosti musíme rozlišit pojmy:

  • emulace neboli přesná replikace (napodobení činnosti) originálního systému, tedy i člověka. Dle konceptu tzv. „silné“ umělé inteligence (strong AI) je tak principiálně možno replikovat lidskou mysl v počítači. K ničemu takovému ale doposud nedošlo a v blízké budoucnosti pravděpodobně ani nedojde;
  • simulace neboli realizace funkcí originálního systému (člověka) s využitím jiných prostředků (modelování chování nebo procesu). Tzv. „slabá“ umělá inteligence (weak AI) aspiruje jen na modelování dílčích projevů mysli.

Teorie tedy chápe „silnou“ a „slabou“ AI jako univerzální AI a AI zaměřenou na řešení úzce definovaných problémů. Extrémním výkladem pak je, že „silná“ AI je taková, která si je vědoma sama sebe – „super inteligence“. Dnešními prostředky ale umělého vědomí dosáhnout nelze.

MM: Přes všechna tato fakta je nesporné, že umělá inteligence může páchat trestné činy nebo trestné činy může páchat člověk jejím prostřednictvím. A tady jsme již u tématu vaší přednášky – jaká je v tomto směru realita dnes a co se dá očekávat v budoucnu?

V. Smejkal: Umělá inteligence sama o sobě páchat trestné činy zatím nemůže. Nemá ono vědomí. Ale může být nástrojem pachatele nebo se může dopustit deliktního, či dokonce až trestného činu z důvodu nedbalosti určité fyzické nebo právnické osoby – konstruktéra, programátora, výrobce, uživatele.

MM: Kdo tedy vlastně nese či podle vás má nést trestní odpovědnost za činy spáchané v souvislosti s umělou inteligencí? A to jak v kontextu informační kriminality, tedy nakládání s daty, tak fyzické kriminality zasahující do reálného světa? Můžete uvést nějaké příklady?

V. Smejkal: Na tuto otázku není jednoduchá odpověď. Existují tři základní modelové situace: 1. AI jako prodloužená ruka pachatele ovládajícího robota, 2. závada způsobená okolnostmi na člověku a dané AI nezávislými, 3. funkce samotné AI v důsledku úmyslu či nedbalosti zmíněných osob – konstruktéra, programátora, výrobce, uživatele. A aby to bylo ještě složitější, jednání samotné AI bez způsobení či zavinění člověkem přichází zřejmě v úvahu u vyšších generací AI a robotů, kde v důsledku netransparentního procesu samoučení získá AI takové vlastnosti, s nimiž nikdo předem nemohl počítat.

Reklama
Reklama
Reklama

Příklady deliktů způsobených v souvislosti s AI mohou být: nehody autonomních vozidel, úrazy v továrnách (u linek s roboty), chybné diagnózy či přímo operační postupy ve zdravotnictví apod. V oblasti informační kriminality, tedy nakládání s daty, to jsou činnosti, které existují i bez AI, ale s její pomocí je lze páchat snadněji a účinněji: phishing, vishing, smishing, sociální inženýrství, deepfakes, hoax a fake news (falešné zprávy, zvukové a video záznamy), podvodné algoritmické obchodování a falešné transakce, krádeže identity atd., přičemž tímto způsobem může být naplněno mnoho skutkových podstat trestního zákoníku, jako jsou např. podvody, pomluvy, vydírání, šíření poplašných zpráv, neoprávněné nakládání s osobními údaji, poškození cizích práv, výroba a jiné nakládání s dětskou pornografií, nebezpečné vyhrožování, manipulace s kurzem investičních nástrojů, porušení předpisů o pravidlech hospodářské soutěže, útoky, které směřují proti určitým osobám nebo skupinám osob (např. hanobení národa, rasy, etnické nebo jiné skupiny osob), podněcování k trestnému činu, šíření toxikomanie, podpora a propagace terorismu, vyhrožování teroristickým trestným činem a podobně.

MM: V čem spatřujete rozdíl mezi objektivní odpovědností za vadný výrobek a trestněprávní odpovědností výrobce za činy, spáchané (vědomě?) jeho produktem?

V. Smejkal: U objektivní odpovědnosti škůdce odpovídá za škodu bez ohledu na zavinění. V případě subjektivní (trestní) odpovědnosti se požaduje prokázání zavinění (alespoň ve formě nedbalosti). Objektivní odpovědnost za škodu způsobenou vadným výrobkem (tedy i AI) je upravena především v občanském zákoníku (zákon č. 89/2012 Sb., konkrétně v ustanoveních o zvláštní odpovědnosti za škodu způsobenou vadou výrobku) a v zákoně o ochraně spotřebitele. Výrobce, respektive osoba, která výrobek uvedla do oběhu, odpovídá bez ohledu na zavinění, pokud se prokáže, že produkt měl vadu, v důsledku které vznikla škoda. Ale pozor – systémy AI mohou výrazně měnit vztah „výrobce – uživatel – škoda“. U AI se vada může projevit kromě klasických vad pocházejících z návrhu, programování nebo výroby systému také jako vada vzniklá například v důsledku nesprávného „učení“ systému, nedostatečné aktualizace softwaru nebo nevhodné interakce s uživatelem či okolím. V takovém případě vzniká otázka, zda jde o vadu původní, nebo zda došlo k vadě v důsledku následné změny chování systému po jeho předání uživateli.

Pouze lidé mají vlastnosti a schopnosti, které jsou zatím mimo dosah Al: vědomí a subjektivní prožívání, emoce, motivace, vůle, tvořivost, sociální interakce, morálka a etika a fyzické schopnosti. Některé z nich může v budoucnu napodobit systém AI, ale nebudou to vlastnosti „skutečné“, nýbrž naprogramované. (Zdroj: CIIRC ČVUT v Praze)

Objektivní odpovědnost v civilním právu je dostatečná k vyřešení majetkové újmy a rychlé kompenzace poškozeného; nepostačuje však tehdy, jestliže jednání vyvolává silnou společenskou škodu či nebezpečí a je odůvodněné potrestání pachatele z hlediska ochrany veřejných zájmů. Pokud je jednání výrazně společensky nebezpečné, zasahuje do chráněných práv a zájmů v míře, jež přesahuje „pouhé“ majetkové nároky poškozeného, může být na místě jeho trestní postih. Typickým příkladem je smrt nebo těžká újma na zdraví způsobená vědomě zanedbaným bezpečnostním standardem (např. zásadní porušení předpisů, ignorování výstrah). V takovém případě se nejedná jen o „nehodu“ či „vadu výrobku“, ale o jednání s potenciálem ohrozit životy či bezpečnost více lidí, kdy je na místě označit jednání za zločin. Klíčovým pak bude posouzení příčinného vztahu (souvislosti) mezi jednáním a následkem. Aby mohla být v trestním řízení shledána odpovědnost pachatele za následek, respektive účinek konkrétního trestného činu, musí zde být dána příčinná souvislost spojující konání nebo opomenutí s tímto následkem, respektive účinkem, a zavinění.

MM: S tím vším souvisí i otázka, zda se máme do budoucna silné AI a pokročilých generací robotů obávat, nebo zda již nyní existují mechanismy, jak jejich hrozbu eliminovat...

V. Smejkal: Jako u všech jiných deliktů způsobených nějakým zařízením (výrobkem) se musíme především zaměřit na prevenci. Ta je definována v nařízení EU 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (tzv. AI Act). Patří sem zejména systém řízení rizik; kvalita dat a správa dat; přesnost, robustnost a kybernetická bezpečnost; lidský dohled; transparentnost a poskytování informací uživatelům; protokolování a záznamy (logování); posouzení shody před uvedením na trh; monitorování po uvedení na trh a systém řízení kvality.

Reklama

V každý okamžik musíme vědět, proč systém jedná tak, jak jedná. Systém se nesmí dostat do neočekávaného stavu, musíme být schopni zpětně zjistit důvody jednání systému v případě neočekávaného, či dokonce deliktního chování.

Obecně by měl výrobce dnes:

• postupovat podle Nařízení;

• dodržovat další předpisy pro konkrétní druhy výrobků (harmonizační právní předpisy), pokud jsou na roboty aplikovatelné;

• postupovat podle norem (ISO, ETSI, ČSN apod.), které nejsou právně závazné, ale představují něco jako „best practices“ a popisují „stav vědy a techniky“ – ale tento stav popisují nejen normy, ale všechny ostatní zdroje informací (knihy, učebnice, odborné články, patenty, jiné publikace), přičemž bezdůvodné nevyužití „best practices“, které by způsobilo trestněprávní následek, by bylo postupem non lege artis a bylo by možné z něj vyvodit trestní odpovědnost.

MM: Je podle vás v našem, potažmo v evropském právu věnována této problematice dostatečná pozornost? Pokud ne, tak co je příčinou a co by mohlo být důsledkem takového přístupu?

V. Smejkal: Ano, ale až příliš a nevhodně. Zmíněný AI Act vytváří vysokou přeregulovanost a společně s dalšími, mnohdy nesmyslnými předpisy EU to vede ke stavu, který dnes popisujeme trojúhelníkem: USA inovují – Čína vyrábí – EU reguluje. Oproti tomu otázkám trestní odpovědnosti je celosvětově i v EU věnována minimální pozornost.

Je třeba zkoumat, jak by přiznání právní subjektivity autonomním systémům Al ovlivnilo stávající strukturu společnosti, právních systémů a justice. (Zdroj: CIIRC ČVUT v Praze)

MM: Ve své přednášce jste též zmiňoval nedávno přijatou směrnici EU 2024/2853 o odpovědnosti za vadné výrobky, která však není určena pro případy, kde je AI nástrojem nebo cílem trestné činnosti. Existuje vůbec nějaký nástroj, který by byl pro řešení těchto případů adekvátní?

V. Smejkal: Směrnice 2853 o odpovědnosti za vadné výrobky se týká zmíněné objektivní odpovědnosti. Pro řešení trestné činnosti jsou příslušné předpisy práva trestního, tj. právo hmotné (trestní zákoník) a procesní (trestní řád). My nepotřebujeme vymýšlet nějaké nové skutkové podstaty, ale zvládat proces vyšetřování, dokazování a prokazování příčinné souvislosti ve zvláštních podmínkách AI. Bude třeba se zabývat otázkami, jako jsou:

• hledání příčinné souvislosti, tedy kauzálního řetězce mezi příčinou a následkem. O kauzálním nexu nebývá sporu, nejde-li o působení více faktorů. To ale neplatí v případě systému AI, zejména samoučícího se;

• bylo možno delikt předvídat? „První mrtvola se nepočítá…“;

• existují právní předpisy a závazné technické předpisy ukládající povinnosti – zejména výrobcům?;

• provedli výrobce a uživatel analýzu rizik a vyhodnotili přípustné riziko?;

• mohlo dojít k ovlivnění robota okolím? (selhání senzorů, útok).

MM: Pokud vím, existují jisté úvahy o právní subjektivitě AI, tedy přiznání statusu jakési nově definované osoby. Je toto podle vás cesta? Pokud není, proč?

V. Smejkal: Nyní se diskutuje o tom, zda může Al dosáhnout úrovně lidského vědomí, a zda by tedy měla být považována za osobu. Proto je třeba zkoumat, jak by přiznání právní subjektivity autonomním systémům Al ovlivnilo stávající strukturu společnosti, právních systémů a justice. Základním východiskem je otázka, zda by systémy Al mohly mít vědomí či sebeuvědomění, zda by měly mít práva a povinnosti, tj. být odpovědné za své jednání jako nezávislé právní subjekty. Objevují se dokonce absurdní návrhy, jako je „trestání systémů AI“.

Chápání pojmu „umělá inteligence“ není ani jednotné, ani trvalé a pod tímto fenoménem se skrývá neuvěřitelně velké množství různých představ, definic, přístupů a teorií. (Zdroj: ZonerAI)

V současné době neexistuje žádné opodstatnění pro uznání robotů nebo systémů umělé inteligence jako lidí nebo nového typu osob s právní subjektivitou. Pouze lidé mají vlastnosti a schopnosti, které jsou zatím mimo dosah Al: vědomí a subjektivní prožívání, emoce, motivace, vůle, tvořivost, sociální interakce, morálka a etika a fyzické schopnosti. Některé z těchto vlastností může v budoucnu napodobit systém AI, ale nebudou to vlastnosti „skutečné“, které jsou v současné době stále jedinečné pro člověka, nýbrž naprogramované (imitované).

MM: Je podle vás možné naprogramovat umělou inteligenci, aby se chovala eticky? A pokud ano, lze to nějakým způsobem zajistit – respektive zabránit tomu, že by toto její tvůrci nerespektovali?

V. Smejkal: I kdybychom se shodli na tom, co to vlastně „eticky“ znamená, protože toto je subjektivní aspekt, který každý může vnímat zcela jinak, pak se domnívám, že nikoliv. A to vzhledem k tomu, že stroje nemohou mít – alespoň zatím, a ještě dlouho v budoucnosti – umělé vědomí. Nemohou zvládat sociální interakce, nemohou respektovat morálku, a tedy ani etiku. Ale můžeme nastavit požadavky na konstruktéry, programátory, výrobce, distributory a uživatele systémů AI tak, aby se jejich respektováním AI chovala eticky. Ovšem etika bez vynutitelnosti zákonem v celém kyberprostoru fungovat nebude.

Prof. Vladimír Smejkal
Řadu let působil na předních univerzitách v ČR (zejména na VUT v Brně), v současnosti je vědeckým pracovníkem Českého institutu informatiky, robotiky a kybernetiky ČVUT v Praze. Je odborníkem v oblasti práva a bezpečnosti informačních systémů a kybernetické kriminality. Již 40 let je soudním znalcem v oborech ekonomika, kybernetika, kriminalistika a autorské právo. Je autorem nebo spoluautorem mnoha oborných publikací, zejména „Řízení rizik ve firmách a jiných organizacích“, „Kybernetická kriminalita“ a „Bezpečnost informačních systémů podle zákona o kybernetické bezpečnosti“. V současnosti se zabývá zejména trestněprávními a autorskoprávními aspekty umělé inteligence.

Související články
AI změní strojařinu k nepoznání

Pozvání k rozhovoru ze série „Jak to vidí autority v oboru AI“ přijal Jan Romportl, který patří k nejvýraznějším tvářím české AI scény, a to s unikátním přesahem od hlubokého akademického výzkumu až po vysoký byznys. Jako bývalý ředitel centra umělé inteligence v O2 Czech Republic a současný nezávislý konzultant pomáhá korporacím i státní správě pochopit nejen možnosti spojené s nástupem obecné umělé inteligence (AGI), ale i její rizika. Ve svých veřejných vystoupeních se často zaměřuje na strukturální změny společnosti, bezpečnostní rizika a filozoficko-technické aspekty AI.

Nemusíte být první, ale nesmíte zaostat

K dalšímu rozhovoru ze série „Jak to vidí autority v oboru AI“ jsme pozvali konzultanta a technologického vizionáře Martina Krčka. Specializuje se na implementaci umělé inteligence, automatizaci a robotiku a pomáhá firmám transformovat se v agilní, daty řízené organizace připravené na éru čtvrté průmyslové revoluce.

AI + leadership = ekonomická transformace

Pozvání k otevíracímu rozhovoru zářijového vydání MM Průmyslového spektra, věnovaného největší přehlídce průmyslových inovací – MSV v Brně, přijal prof. Ing. Vladimír Mařík, DrSc., dr.h.c., FEng., zakladatel a vědecký ředitel CIIRC ČVUT v Praze a zakladatel a ředitel Institutu Equilibrium. Nedávno byl v Indii podle něj nazván Institut umělé inteligence na NIMS University v Jaipuru, což je pro Českou republiku mimořádná událost a velká čest.

Související články
Ve znamení kvality: Možnosti a úskalí strojového vidění

Uplatnění umělé inteligence v průmyslové výrobě slibuje usnadnění lidské práce, snížení chybovosti a nepřetržitý monitoring kvality i technického stavu výrobního prostředí. Mezi ideálními laboratorními podmínkami a reálnou výrobou však existují zásadní rozdíly, přičemž ani sebelépe vytvořený model neobstojí bez dlouhodobé péče a konzistentního sběru dat.

Reklama
Reklama
Reklama
Reklama
Související články
Kyberbezpečnost v průmyslu: Mít data v cloudu, nebo doma pod zámkem?

V roce 2026 už není otázkou, zda výrobu digitalizovat, ale jak zajistit, aby digitální srdce výrobního podniku - jeho data - zůstalo v bezpečí a dostupné i v dobách geopolitické nestability. Pro strojírenské firmy, které tvoří páteř české ekonomiky, se rozhodování mezi cloudem a vlastním serverem (on-premise) posunulo z úrovně "IT nákladů" na úroveň "strategické kontinuity výroby".

Trendy v logistice a dopravě pro rok 2026

Logistika v tomto období vstupuje do pokročilé fáze technologického rozvoje, kde se digitalizace a automatizace stávají běžným standardem a jsou integrovány do všech úrovní provozu. Agentura Aspen.pr požádala manažery několika společností o názor na trendy, které letos budou tento obor formovat.

Anketa: Máte svá data v bezpečí?

Máte svá data v bezpečí? Pokud si tím nejste zcela jisti, čtěte dále!

Bezpečnost vašich dat stokrát jinak

Šestý díl našeho seriálu podcastů o kyberbezpečnosti se zabývá okamžikem, kdy obdržíme výsledky analýzy rizik. Na jejich základě se musíme rozhodnout, jak dále postupovat, zejména, zda neexistují nějaká rizika vytvářející maximální stupeň nebezpečí, na které je třeba reagovat okamžitě. Zjištěná rizika musíme konfrontovat s existujícími bezpečnostními opatřeními a zpracovat tzv. benchmark stavu informační bezpečnosti popisující skutečný stav v porovnání s tím, jak by měly být naplněny požadavky dle principů normy ČSN ISO/IEC 27002 nebo ZKB. S podrobnostmi vás opět seznámí profesor Vladimír Smejkal.

Bezpečnost vašich dat stokrát jinak

V druhém podcastu se prof. Vladimír Smejkal zabývá typy trestné činnosti odehrávající se v kyberprostoru. Kdo však jsou pachatelé kybernetické kriminality a jaké jsou jejich motivy? Nejnebezpečnější nejsou hackeři, organizovaný zločin, teroristé či cizí státy, ale zaměstnanci. Ti mají nejsnadnější přístup do IS, nejvíce informací o něm a nejvíce příležitostí.

Bezpečnost vašich dat stokrát jinak

Pravděpodobně nikdo z nás nesouhlasí s prostoduchým vyjádřením jednoho z bývalých ministrů vnitra ČR, že jej každý může odposlouchávat, protože on nic špatného nedělá. Naopak. Informace jsou dnes jednou z nejcennějších komodit, a chceme-li přežít ve stále ostřejší konkurenci a současně utajit svá citlivá data (obchodní tajemství, osobní údaje apod.), musíme tak činit soustavně, systematicky a na odpovídající odborné úrovni.

Krizový manažer v kokpitu transformace českého letectví

Český letecký a kosmický průmysl nikdy nestál před takovou příležitostí — a zároveň takovým tlakem na výkon — jako dnes. Armáda přechází z ruských platforem na americké, nakupuje drony, v roce 2024 podepsala kontrakt na pořízení 24 strojů F-35A a hledá průmyslové partnery, kteří tuto transformaci zvládnou technicky i kapacitně. Na to, aby se z přezbrojovacích kontraktů staly skutečné investice do českých kompetencí, a ne jen nákupy ze zahraničí, dohlíží člověk ve dvou navzájem se prolínajících rolích: jako ředitel LOM Praha — státního podniku stojícího v centru servisní a výcvikové infrastruktury české armády, a od července 2025 jako prezident Asociace leteckého a kosmického průmyslu, sdružující 55 členů s obratem téměř 40 miliard korun. Tím člověkem je Mgr. Jiří Protiva.

Revoluce není o technologiích, ale o lidech

Umělá inteligence přestává být v českém průmyslu abstraktním pojmem a stává se reálnou podporou efektivity konkrétních firem. (Nejen) o tom, jak vlastně AI v průmyslu správně využívat a zda jsou důležitější technologie, nebo lidé, jsme hovořili s Romanem Stolejdou ze společnosti Inovatix.

Inženýrské mistrovství je naším šperkem

Jen málokteré jméno je v novodobé historii českého strojírenství spjato s jednou značkou tak pevně jako Antonín Růžička a Wikov. Za 23 let, během nichž stál v čele této průmyslové skupiny, proměnil ve spolupráci s Martinem Wichterlem trosky tradičních fabrik na globálního hráče, který definuje špičku v oboru ozubených kol a převodových mechanismů. Muž, který prošel érou divoké transformace, krizemi i obdobím masivního růstu, se k 1. lednu 2026 rozhodl opustit roli generálního ředitele a vydat se vlastní cestou.

Interim management: Od hašení požárů k trvalé udržitelnosti

Pro otevírací rozhovor prosincového vydání MM Průmyslového spektra jsme oslovili paní Ivu Hovadovou, přední odbornici a certifikovanou interim manažerku specializující se na změnové řízení, rozvoj efektivity firem i strategické nastavení, krizový management, restrukturalizace firem a oblast poprodejních služeb. Od letošního roku je předsedkyní České asociace interim managementu.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě a mnoho dalších benefitů....  již 30 let zkušeností s odbornou novinařinou
Předplatit