Témata
Reklama

Představuje celou řadu rizik, a zároveň nabízí mnoho příležitostí napříč celou společností. O čem hovoříme? Přece o Umělé inteligenci – AI – což je fenomén zasahují dnes do většiny oblastí. Dosud však neproběhla žádná komplexní analýza AI v kontextu lidských práv. Právě o to se od roku 2021 snaží společný výzkum FEL ČVUT, MUNI, Ambis a prg.ai. Projekt „Umělá inteligence a lidská práva: rizika, příležitosti a regulace“ je financovaný Technologickou agenturou ČR a sdružuje technologické a právní odborníky.

Tým výzkumníků si dal za cíl identifikovat kořenové příčiny rizika porušení lidských práv v rámci všech fází životního cyklu AI. A nezůstanou pouze u vyhodnocení. Výstupem projektu bude sada doporučení, jak AI technologie vyvíjet, používat a regulovat takovým způsobem, aby neohrožovaly lidská práva, a naopak pomohly jejich rozvoji a ochraně. Zároveň totiž zkoumají i možnosti dalšího nasazení AI tam, kde by automatizace mohla pomoci lidská práva chránit.

Ačkoli povinnost dodržovat lidská práva již vyplývá z mezinárodních právních norem, výzkum odhalil, že více než 60 procent oslovených českých firem, které dodávají AI řešení a produkty, se lidskoprávní otázkou v kontextu AI vůbec nezabývá. (Zdroj: ČVUT)

Aby pomáhala, ale neohrožovala

„AI může významně pomoci např. v monitorování dodržování a v prosazování lidských práv v oblasti korporátní odpovědnosti, posílení práva na spravedlivý proces odstraněním průtahů v řízení, ochrany zdraví a řadě dalších,“ vyjmenovává potenciál umělé inteligence koordinátorka projektu Martina Šmuclerová z Ambis, která působí i na pařížském Sciences Po.

Současně však upozorňuje na rizika: „Například nereprezentativní vstupní data a jejich nevyvážené zpracování může do AI technologie vnést tzv. algoritmickou předpojatost neboli diskriminační bias. To se může projevit např. ve výběrovém řízení do zaměstnání, policejním dohledu založeném na mechanismu rozpoznávání obličejů nebo při hodnocení úvěruschopnosti jednotlivců v bankovnictví. I nasazení AI systému v jiném než v cílovém provozním prostředí, což se týká např. autonomních vozidel, může vnést riziko porušení lidských práv.“

Podle výzkumníků může být problémem také nevysvětlitelnost a netransparentnost modelů umělé inteligence. Pokud člověk namítající porušení lidského práva nemá přístup k informacím a důkazům, na jejichž základě o něm AI rozhodla, může být ohroženo právo na spravedlivý proces.

Reklama
Reklama
Reklama

Právní regulace

V současné době se na úrovni Evropské unie připravuje právní regulace systémů na bázi umělé inteligence. Má podobu Aktu o umělé inteligenci. Představen byl v dubnu 2021 jako součást širší iniciativy EU zaměřené na posílení regulačního rámce pro nové technologie. Návrh Evropské komise, který 14. 6. 2023 prošel hlasováním Evropského parlamentu, se zaměřuje na evidenci a regulaci vysokorizikových systémů, které mohou představovat hrozbu pro základní práva a bezpečnost občanů EU.

„Rizikovost nasazení systémů automatizace spočívá v jejich kvalitě zpracování a úloze, kterou řeší. To se s nástupem AI nemění. Významně se ovšem rozšiřují oblasti lidských činností a zpracování dat, které lze automatizovat,“ vysvětluje Luboš Král z Centra umělé inteligence FEL ČVUT.

Přestože povinnost dodržovat lidská práva již vyplývá z mezinárodních právních norem, dosavadní výzkum odhalil, že více než 60 procent oslovených českých firem, které dodávají AI řešení a produkty, se lidskoprávní otázkou v kontextu AI vůbec nezabývá a není si těchto rizik vědoma (viz Dílčí výzkumná zpráva). Rychlý vývoj technologií a jejich nasazování do nejrůznějších oblastí navíc přináší zcela nové výzvy, jejichž praktické řešení se teprve vytváří.

„V současnosti nám hlavně chybí osvěta. Ta je právě i cílem našeho projektu,“ říká Lukáš Kačena z iniciativy prg.ai, která se dlouhodobě věnuje budování povědomí o umělé inteligenci. „Značné jsou také potenciální dopady na samotného uživatele a je otázkou času, kdy se i v ČR objeví první stížnosti a žaloby na porušení lidských práv, jako se to už děje ve světě i v Evropě, a proto prevence je nutná,popisuje závažnost situace.

Balíček k ochraně lidských práv

Které změny tedy vědci konkrétně navrhují? Cílem projektu není vytvářet nové právní normy, ale poskytnout praktická vodítka všem aktérům životního cyklu AI, aby dokázali převést lidskoprávní normy již platné a závazné v naší společnosti na automatizované systémy. Klíčové je zavedení mechanismu hodnocení rizik, který bude jádrem dvou souborů doporučení pro komerční subjekty a pro státní správu. Výzkumníci identifikovali 38 potenciálních rizik pro lidská práva ve všech fázích vývoje a provozování AI systému a pro každé nabízejí možnosti jejich prevence a eliminace.

Mimo to pro 16 vybraných hlavních oblastí porušování lidských práv ve společnosti navrhli nasazení různých typů AI technologií s adekvátní funkcí. Vědci tak i doporučí balíček potenciálních oblastí nasazení a možných AI aplikací, které přispějí k dalšímu posílení a ochraně lidských práv. Dále půjde o vymezení institucionálního a kompetenčního rámce včetně mapy přístupu k nápravným prostředkům.

„Soubory doporučení napomůžou praktické implementaci právně závazných norem, čímž je náš projekt komplementární i k probíhající iniciativě EU. AI Akt jakožto obecný předpis neřeší konkrétní technické provedení toho, jak má být rizikům pro lidská práva v konkrétním nasazení AI technologie předcházeno. Klíčovou roli budou hrát nástroje soft law jako jsou kodexy chování, různé formy certifikací a podobně. A právě této úrovni poslouží výsledky našeho výzkumu,“ vysvětluje Jakub Míšek z Ústavu práva a technologií Masarykovy univerzity.

Závěry z průběhu projektu zasazené do odborného rámce jsou publikovány v knize Artificial Intelligence and Human Rights, která vyjde v prestižním univerzitním nakladatelství Oxford University Press na začátku září. Na podzim 2023 také proběhne již druhý workshop s klíčovými aktéry na poli AI a lidských práv, na který se mohou přihlásit firmy i státní organizace, a zapojit se tak do finální podoby připravovaných souborů doporučení.

Web projektu: https://prg.ai/projekty/ai-lidska-prava/

Dílčí výzkumná zpráva: https://prg.ai/wp-content/uploads/2023/02/AI-LP_ResearchReport2022.pdf

__________________________________________________________________________________________________

Zdroj: Tisková zpráva ČVUT. Zpracováno redakcí.

Související články
Jak parkovat lépe?

Samoobslužný parkovací dům s novým parkovacím systémem. Tak vypadá v praxi  výsledek výzkumné spolupráce VŠB – Technické univerzity v Ostravě a firmy Koma Industry. Cílem tvůrců je ušetřit prostor, čas a peníze, ale také pomoci životnímu prostředí.

Reklama
Reklama
Reklama
Reklama
Související články
Český výzkum se zaměřil i na dietní pečivo

Kvalitního pečiva, na kterém si mohou pochutnat, se již brzy dočkají pacienti s celiakií, pšeničnou alergií a intolerancí. Až dosud pro ně dostupný bezlepkový sortiment totiž nedosahoval kvality pečiva konvenčního. Novou recepturu vyvinul tým výzkumníků ze společnosti Perník, Mikrobiologického ústavu AV ČR, Výzkumného ústavu potravinářského Praha a firmy Radanal. Technologická agentura České republiky (TA ČR) podpořila jejich snažení z programu Epsilon částkou 13,4 mil Kč.

Čeští výzkumníci: Recyklace solárních panelů i využití odpadu z chovu hmyzu a další

Unikátní konsorcium výzkumných pracovišť a firem s velmi zajímavým a společensky významným zaměřením vzniklo letos v České republice. Nese název Národní centrum kompetence (NCK) Biocirkl a jeho cílem je získat nové produkty z obnovitelných zdrojů s napojením na strategii oběhového hospodářství a s využitím ekologicky šetrných technologií. Pro své snažení, které reaguje na jednotlivé prvky Zelené dohody pro Evropu, získalo na dobu šesti let finanční podporu od státní Technologické agentury ČR (TA ČR) ve výši 434 milionů korun.

Virtuální realita pomůže v boji s bolestí

Výsledky již tříleté práce týmu českých odborníků ukazují, že by pacientům s popáleninovým traumatem mohla pomoci zvládat bolest a úzkost při výměně obvazů virtuální realita. Evropsky unikátní výzkum bude dokončen ještě letos. Projekt s významným celospolečenským dosahem podpořila Technologická agentura České republiky (TA ČR) částkou téměř 10,8 milionu korun v Programu ÉTA.

Vozidla na vodík? Ano!

Jak bezpečně natankovat vodík do vozidel? To je název projektu, na němž od roku 2018 pracovali odborníci ze společnosti ÚJV Řež společně se specialisty ze společnosti APT a z Fakulty chemické technologie Vysoké školy chemicko-technologické v Praze. Kromě vytvoření malé jednotky pro plnění vozidel vodíkem se také zaměřili na vývoj malého vozidla na pohon vodíkovým palivovým článkem. Projekt podpořila Technologická agentura ČR (TA ČR) částkou téměř patnáct milionů korun z programu Epsilon.

Malé reaktory na cestě vzhůru

V historii první malý modulární reaktor (small modular reactor – SMR) certifikovala koncem ledna 2023 Americká Komise pro jadernou regulaci (Nuclear Regulatory Commission). Jde o reaktor společnosti NuScale Power. Nejen tento viditelný krok na cestě ke komerčnímu provozu malých reaktorů bude tématem tradiční konference Malé a modulární reaktory SMR, která se odehraje v úterý 7. února 2023. Ve spolupráci s agenturou Alveda ji pořádá Fakulta jaderná a fyzikálně inženýrská ČVUT (FJFI) ve své hlavní budově (Břehová 7, Praha 1).

Pro efektivnější podporu aplikovaného výzkumu

Nový nástroj podpory aplikovaného výzkumu, Program Sigma, představila Technologická agentura ČR. Koncept tohoto nástroje je zcela jiný, než tomu bylo u doposud realizovaných programů.

Laboratoř na výuku programování robotických agentů

Na Fakultě informačních technologií ČVUT v Praze byla otevřena laboratoř, v níž se studenti budou učit programování robotických agentů. Robotičtí agenti jsou roboti, kteří musí spolupracovat s mnoha dalšími zpravidla identickými roboty, aby společně splnili úkol, na který by jeden samostatný robot nestačil.

Reklama
Předplatné MM

Dostáváte vydání MM Průmyslového spektra občasně zdarma na základě vaší registrace? Nejste ještě členem naší velké strojařské rodiny? Změňte to a staňte se naším stálým čtenářem. 

Proč jsme nejlepší?

  • Autoři článků jsou špičkoví praktici a akademici 
  • Vysoký podíl redakčního obsahu
  • Úzká provázanost printového a on-line obsahu ve špičkové platformě

a mnoho dalších benefitů.

... již 25 let zkušeností s odbornou novinařinou

      Předplatit