Navigace ve firemní compliance v době umělé inteligence

Compliance je soubor pravidel a postupů, které organizace musí dodržovat, aby se řídily relevantními právními předpisy, standardy a etickými normami. Cílem je minimalizovat riziko právních porušení a zachovat integritu podnikání.

(na fotografii tým advokátní kanceláře ARROWS společně s několika kolegy z daňové a účetní kanceláře ARROWS tax, ARROWS pojištění)

Může být velký rozdíl mezi compliance systémy v České republice a v zahraničí. Každá země má svůj právní systém a ten mění podobu regulací zásadním způsobem. Například v porovnání anglosaského právního systému, který se opírá o precedenty, a našeho právního systému, který se opírá hlavně o právo psané formou zákonů a soudních rozhodnutí, vidíme rozdíly v podobě regulací.

I přes rozdíly compliance ve světě se spousta zemí shodne na tom, že je compliance nutná a to obzvlášť ve finančním, energetickém, farmaceutickém a zdravotnickém sektoru. Advokátní kanceláře ARROWS ETL a její právní a daňové týmy se touto problematikou pravidelně zabývají. Od trestního po regulační compliance (data, AML, apod.)

Compliance ve financích, energetice a zdravotnictví

Ve finančním sektoru je právní compliance klíčovým aspektem provozu. Zahrnuje to dodržování přísných bankovních a finančních předpisů, jako je například Know Your Customer (KYC), který vyžaduje, aby finanční instituce pečlivě ověřovaly identitu svých klientů. Další důležitou oblastí je anti-money laundering (AML) a boj proti financování terorismu (CFT), kde finanční instituce musí monitorovat a hlásit podezřelé transakce. V České republice se AML týká také daňových poradců, či realitních kanceláří. V této souvislosti na ně dopadla např. úprava whistleblowingu.

Právní compliance v tomto sektoru zahrnuje také dohled nad obchodními praktikami, ochranu spotřebitelů a dodržování kapitálových požadavků. Organizace v tomto sektoru musí mít pevně stanovený compliance program, který zahrnuje školení zaměstnanců, monitorování transakcí a reportingové procesy pro regulační orgány.

Energetický sektor čelí složitým právním a regulačním výzvám. Organizace v tomto sektoru musí dodržovat normy týkající se emisních limitů, bezpečnosti provozu a ochrany životního prostředí. Compliance s těmito předpisy zahrnuje pravidelné kontroly a audity energetických zařízení, aby se minimalizovalo riziko nehod a výpadků.

Energetické společnosti musí také dodržovat pravidla týkající se tržní soutěže a transparentnosti cen. Právní compliance v tomto sektoru pomáhá zabezpečit energetickou bezpečnost a udržitelnost, zároveň minimalizuje riziko pokut za nedodržení předpisů.

Zdravotnický sektor je vystaven přísným regulacím týkajících se ochrany pacientů a zpracování zdravotních údajů. Organizace v tomto sektoru musí dodržovat předpisy, jako je například nařízení GDPR ⁽¹⁾, který upravuje zpracování osobních údajů pacientů.

Další významnou oblastí je bezpečnost pacientů a kvalita zdravotní péče, což vyžaduje dodržování přísných normativních standardů a pravidel pro léčbu a diagnostiku. Právní compliance ve zdravotnickém sektoru zahrnuje také etické otázky, jako je například zachování důvěrnosti pacientů a prevence konfliktu zájmů lékařů.

Farmaceutický sektor musí dodržovat přísné předpisy týkající se vývoje, testování a distribuce léčiv. To zahrnuje předpisy týkající se bezpečnosti a účinnosti léčiv, zpracování klinických dat a registrace léků. Farmaceutické společnosti musí také dodržovat patentová práva a regulace týkající se ochrany duševního vlastnictví.

Právní compliance v tomto sektoru je zásadní pro zajištění, že farmaceutické produkty jsou bezpečné a účinné, a také pro ochranu intelektuálního vlastnictví společnosti. Dodržování těchto předpisů a regulací je klíčové pro udržení dobré pověsti a získání povolení k výrobě a prodeji léčiv.

Vliv umělé inteligence na compliance

Umělá inteligence (AI) má obrovský potenciál pro automatizaci a optimalizaci činností v různých sektorech. Jak by se AI mohla využít v jednotlivých sektorech a jak by měla být upravena její právní regulace?

Finanční sektor

V oblasti finančního sektoru může AI být využita pro automatické analýzy finančních dat, identifikaci rizikových transakcí, správu investičních portfolií, a dokonce i pro predikci tržních trendů.

V tomto sektoru je ale klíčové zajistit, aby AI byla v souladu s předpisy KYC (Know Your Customer) a AML (Anti-Money Laundering). Důležité je také, aby byly zachovány etické normy a aby bylo zajištěno transparentní rozhodování AI.

Důležité je zmínit část AI Aktu⁽²⁾, která se baví o regulaci s ohledem na etiku. Ustanovení (37) AI Aktu nastavuje pravidla pro umělou inteligenci tak, aby nikdy nemohlo dojít k jakémukoli typu diskriminace. Například při zkoumání úvěruschopnosti klienta banky. Tyto systémy budou hodnoceny jako vysoce rizikové a budou nuceny mít speciální podmínky pro to, aby mohly být uvedeny v provoz.

AI Akt odkazuje i na to, že některé z těchto procesních povinností jsou již obsaženy ve směrnici 2013/36/EU⁽³⁾ o přístupu k činnosti úvěrových institucí a o obezřetnostním dohledu. Obzvlášť velký důraz klade tato směrnice na komunikaci s evropským orgánem pro bankovnictví (EBA).

Energetický sektor

Umělá inteligence může být využita pro optimalizaci provozu energetických zařízení, plánování výroby energie na základě poptávky, a pro snižování emisí oxidu uhličitého.

Regulace by měla zahrnovat pravidla pro bezpečné nasazení autonomních energetických systémů a monitorování emisí. Zároveň by měla zohledňovat transparentnost dat a kybernetickou bezpečnost.

Ust. (34) AI Aktu také upozorňuje na označení systémů, které regulují tok vody, plynu, tepla  a elektřiny, jako vysoce rizikové. V případě poruchy v tomto sektoru by mohly být následky velice vážné a proto je nutná vyšší pozornost a regulace.

Zdravotnický sektor

Využití může ve zdravotnickém sektoru umělá inteligence najít například při analýze medicínských obrazů, diagnostice, predikci chorob, a dokonce i při personalizované léčbě pacientů.

Regulace však musí zajistit, že AI systémy v zdravotnickém sektoru jsou přesné a bezpečné. Musí zahrnovat pravidla pro ochranu dat pacientů a etické použití AI v diagnostice a léčbě.

Stejně tak jako ve výše zmíněných dvou sektorech se i zdravotnického sektoru týká významným způsobem AI Akt Evropské Unie. Například v ustanovení (30) se zmiňuje mimo jiné i o tom, že systémy které se používají ve zdravotnických pomůckách a k diagnóze musí být také označeny jako vysoce rizikové a tím pádem více regulované.

Farmaceutický sektor

AI může být využita pro urychlení vývoje léčiv, identifikaci potenciálních léčebných cílů a analýzu klinických dat.

Regulace musí zahrnovat předpisy pro bezpečnost a účinnost léčiv vyvinutých s využitím AI. Musí být také zavedeny mechanismy pro ověření důvěryhodnosti dat použitých pro vývoj léků.

Právní regulace v těchto sektorech by měla být flexibilní, aby reflektovala rychlý vývoj AI technologií, ale zároveň by měla zajistit bezpečnost, etiku a odpovědnost využívání umělé inteligence. Je také důležité, aby regulace podporovala transparentnost a ochranu údajů, zejména tam, kde AI zpracovává citlivé informace, jako jsou zdravotní údaje nebo finanční transakce. Spolupráce mezi vládními orgány, průmyslem a odborníky na AI je klíčem k vytvoření účinné a spravedlivé právní regulace pro tyto sektory.

Jak ovlivňuje AI Act Evropské Unie umělou inteligenci a její využití v kombinace s compliance?

AI act Evropské unie, konkrétně zmíněný Akt o umělé inteligenci (AI Act), má významný vliv na oblast compliance nejen v Evropě, ale i v globálním měřítku. Tento akt, schválený v dubnu 2021, stanovuje nová pravidla pro vývoj, nasazení a použití systémů umělé inteligence v Evropské unii s cílem zajistit etiku a bezpečnost této technologie. Jakým způsobem AI Act ovlivňuje compliance?

Tento předpis klade velký důraz na etické používání AI a vyžaduje, aby systémy AI byly transparentní, vysvětlitelné a spravedlivé. Organizace budou muset zajistit, aby jejich AI systémy byly v souladu s těmito požadavky, což může vyžadovat větší důraz na compliance s etickými standardy.

AI Act také zavádí nové povinnosti a regulační rámce pro výrobce a provozovatele systémů umělé inteligence. Organizace budou muset pečlivě sledovat a dodržovat tyto nové předpisy, což může vyžadovat další investice do compliance.

EU tímto dokumentem také chrání práva spotřebitelů v kontextu AI. To zahrnuje povinnosti týkající se transparentního označení systémů AI a práva na informace o tom, jak AI systémy fungují. Organizace musí zajistit, že jejich produkty a služby splňují tyto spotřebitelské požadavky.

AI Act stanovuje vysoké pokuty za nedodržení předpisů. Organizace, které porušují nové regulace, mohou čelit vysokým finančním sankcím. To znamená, že je klíčové, aby organizace měly efektivní compliance programy, které minimalizují riziko nedodržování.

I když AI Act platí pouze v EU, má potenciál ovlivnit i organizace mimo EU, pokud provozují své služby nebo produkty v evropském prostoru. To může vést k tomu, že organizace mimo EU budou muset upravit své postupy a systémy v souladu s evropskými pravidly, aby zachovaly přístup k trhu EU.

Celkově tedy lze říci, že AI Act EU zvyšuje důležitost compliance v oblasti umělé inteligence a mění způsob, jakým organizace vyvíjejí, nasazují a používají umělou inteligenci. Organizace, které působí v této oblasti, budou muset pečlivě sledovat nové předpisy a zajistit, že jejich aktivity jsou v souladu s těmito regulacemi, aby minimalizovaly rizika a dodržely etické standardy.

Na článku spolupracoval Petr Prucek. 

⁽¹⁾ https://www.uoou.cz/obecne-narizeni-o-ochrane-osobnich-udaju-gdpr/ds-3938/p1=3938

⁽²⁾ https://eur-lex.europa.eu/legal-content/CS/TXT/HTML/?uri=CELEX:52021PC0206

⁽³⁾ https://eur-lex.europa.eu/legal-content/CS/TXT/PDF/?uri=uriserv:OJ.L_.2013.176.01.0338.01.CES