Mezioborový projekt FEL ČVUT, MUNI, Ambis a prg.ai mapuje rizika i příležitosti a nabízí vodítka pro firmy.
Umělá inteligence (AI) představuje celou řadu rizik, a zároveň nabízí mnoho příležitostí napříč společností. Dosud však neproběhla žádná komplexní analýza AI v kontextu lidských práv. Právě o to se od roku 2021 snaží společný výzkum FEL ČVUT, MUNI, Ambis a prg.ai. Projekt Umělá inteligence a lidská práva: rizika, příležitosti a regulace je financován Technologickou agenturou ČR a sdružuje technologické a právní odborníky. Výzkumníci si dali za cíl identifikovat kořenové příčiny rizika porušení lidských práv v rámci všech fází životního cyklu AI. A nezůstanou pouze u vyhodnocení. Výstupem projektu bude sada doporučení, jak AI technologie vyvíjet, používat a regulovat takovým způsobem, aby neohrožovaly lidská práva, a naopak pomohly jejich rozvoji a ochraně. Zároveň totiž zkoumají i možnosti dalšího nasazení AI tam, kde by automatizace mohla pomoci lidská práva chránit. AI může významně pomoci např. v monitorování dodržování a v prosazování lidských práv v oblasti korporátní odpovědnosti, posílení práva na spravedlivý proces odstraněním průtahů v řízení, ochrany zdraví a řadě dalších. Zároveň však například nereprezentativní vstupní data a jejich nevyvážené zpracování může do AI technologie vnést tzv. algoritmickou předpojatost neboli diskriminační postoj. Záměrné podsouvání informací může vést také k šíření dezinformací. Problémem může být podle výzkumníků také nevysvětlitelnost a netransparentnost modelů umělé inteligence. Pokud člověk namítající porušení lidského práva nemá přístup k informacím a důkazům, na jejichž základě o něm AI rozhodla, může být ohroženo právo na spravedlivý proces. Právní regulace systémů na bázi umělé inteligence se nyní připravuje na úrovni Evropské unie v podobě Aktu o umělé inteligenci. Představen byl v dubnu 2021 jako součást širší iniciativy EU zaměřené na posílení regulačního rámce pro nové technologie. Návrh Evropské komise, který 14. 6. 2023 prošel hlasováním Evropského parlamentu, se zaměřuje na evidenci a regulaci vysokorizikových systémů, které mohou představovat hrozbu pro základní práva a bezpečnost občanů EU. Ačkoliv povinnost dodržovat lidská práva již vyplývá z mezinárodních právních norem, dosavadní výzkum odhalil, že více než 60 % oslovených českých firem, které dodávají AI řešení a produkty, se lidskoprávní otázkou v kontextu AI vůbec nezabývá a není si těchto rizik vědomo (viz Dílčí výzkumná zpráva). Rychlý vývoj technologií a jejich nasazování do nejrůznějších oblastí navíc přináší zcela nové výzvy, jejichž praktické řešení se teprve vytváří. Průběžné závěry projektu zasazené do odborného rámce jsou publikovány v knize „Artificial Intelligence and Human Rights“, která vyjde v prestižním univerzitním nakladatelství Oxford University Press na začátku září. Na podzim 2023 také proběhne již druhý workshop s klíčovými aktéry na poli AI a lidských práv, na který se mohou přihlásit firmy i státní organizace, a zapojit se tak do finální podoby připravovaných souborů doporučení. /rs/
