MENU
CZ
advokátní kancelář

IMPLEMENTACE UMĚLÉ INTELIGENCE (AI)

Umělá inteligence (AI) již dávno není pouhou vizí z vědeckofantastických filmů. Stala se nedílnou součástí moderního podnikání, od automatizace procesů a analýzy dat až po inovativní produkty a služby. Její potenciál pro zvýšení efektivity, dynamický růst a získání konkurenční výhody je skutečně obrovský.

(na fotografii AI tým advokátní kanceláře ARROWS)

Advokáti z ARROWS ví, že umělá inteligence mění pravidla hry. 

S touto technologickou revolucí však přicházejí i komplexní právní výzvy, které mohou jakoukoli firmu vystavit značnému riziku, chaosu a ztrátě času, pokud nejsou tyto aspekty správně a včas řešeny. Advokátní kancelář ARROWS má zkušenosti s tím, že mnoho společností si plně neuvědomuje rozsah těchto potenciálních problémů, dokud není příliš pozdě a nevzniknou závažné komplikace.

Proaktivní právní přístup k umělé inteligenci není pouze obrannou strategií, která má zabránit pokutám a sporům. Představuje významnou konkurenční výhodu. Společnosti, které se začnou zabývat regulativní shodou již ve fázi návrhu svých AI systémů, získávají náskok. 

Mohou tak nejen splnit zákonné požadavky a snížit bezpečnostní rizika, ale také budovat důvěru na trhu a odlišit se od konkurence. Firma, která dokáže s jistotou prokázat, že její AI systémy jsou právně bezvadné a eticky navržené, bude vnímána jako spolehlivější a inovativnější partner. Advokáti z ARROWS se zaměřují na to, aby klienti mohli inovovat s  důvěrou, aniž by se museli obávat skrytých právních pastí.

office@arws.cz 245 007 740

Co pro firmy v této oblasti advokátní kancelář ARROWS nejčastěji dělá

Právníci ARROWS danou problematiku běžně řeší v praxi a rozumí, že právní aspekty umělé inteligence nejsou jen o formálním dodržování předpisů, ale o komplexním řízení rizik a optimalizaci vnitřních procesů. Služby kanceláře jsou navrženy tak, aby klientům poskytly klid a jistotu v dynamickém prostředí AI. Díky úzké spolupráci s partnerskými firmami je zajištěna komplexní škála služeb pod jednou střechou, což klientům šetří čas a energii, kterou mohou investovat do svého hlavního podnikání.

Advokátní kancelář ARROWS nejenže poskytuje poradenství v oblasti práva AI, ale také aktivně využívá umělou inteligenci a moderní metody k poskytování efektivnějších a přesnějších služeb svým klientům. 

Například, AI nástroje mohou výrazně urychlit revizi smluv a správu dokumentů, což vede k úspoře nákladů a času. Tato interní adopce AI posiluje odbornost a důvěryhodnost advokátní kanceláře v oblasti, ve které radí. To představuje pro klienty záruku, že spolupracují s firmou, která je nejen teoreticky, ale i prakticky na špičce v oblasti AI, což zvyšuje důvěru a efektivitu poskytovaných služeb.

Přehled typických situací a oblastí, které klienti poptávají:
  • Tvorba a revize smluv: Zajištění, že smlouvy s dodavateli AI řešení, vývojáři nebo uživateli AI systémů jasně definují odpovědnost, vlastnictví dat, licenční podmínky a standardy bezpečnosti a etiky. To zahrnuje licenční smlouvy pro AI nástroje, dohody o sdílení dat a uživatelské podmínky pro AI-generovaný obsah.  
  • Dodržování regulací (Compliance): Pomoc s navigací v komplexním regulačním prostředí, zejména s EU AI Act a GDPR. To zahrnuje identifikaci rizikových kategorií AI systémů, nastavení interních procesů pro řízení rizik a zajištění transparentnosti.  
  • Řešení sporů a zastoupení u soudů: Zastupování klientů v případě sporů týkajících se AI, ať už jde o porušení duševního vlastnictví, nároky na náhradu škody způsobené AI systémy, nebo spory z diskriminace.  
  • Záležitosti rejstříků a úřadů: Komunikace s regulačními orgány a úřady, jako je Úřad pro ochranu osobních údajů nebo nově zřízené orgány pro dohled nad AI v ČR, při implementaci EU AI Act.  
  • Firemní směrnice a optimalizace vnitřních procesů: Nastavení interních politik a směrnic pro zodpovědné používání AI ve firmě, včetně etických kodexů, pravidel pro práci s daty a procesů pro lidský dohled nad AI rozhodnutími.  
  • Daňová a časová efektivita: Optimalizace právních procesů souvisejících s AI tak, aby byly co nejefektivnější z hlediska nákladů a času, například využitím AI pro revizi smluv a správu dokumentů. 
Nevíte si s daným tématem rady?

Nejčastější problémy, které pro klienty v této oblasti řeší právníci z ARROWS

Implementace a používání umělé inteligence bez adekvátního právního rámce může vést k vážným problémům, od astronomických pokut a finančních ztrát až po poškození reputace a ztrátu důvěry klientů a obchodních partnerů. Právníci ARROWS se běžně setkávají s následujícími klíčovými riziky, které pro klienty řeší.

Evropská unie se stala globálním průkopníkem v regulaci umělé inteligence. EU AI Act, který byl zveřejněn v Úředním věstníku EU 12. července 2024, představuje první komplexní celosvětové nařízení pro AI. Jeho primárním cílem je regulovat vývoj a používání AI napříč celým dodavatelským řetězcem a zajistit, aby systémy AI byly bezpečné, transparentní, sledovatelné a nediskriminující. Akt klasifikuje AI systémy podle úrovně  rizika – od minimálního po nepřijatelné.

 Praktiky s nepřijatelným rizikem, jako je sociální bodování nebo manipulace chování, jsou výslovně zakázány. Pro vysoce rizikové systémy, které se uplatňují například v infrastruktuře, HR, zdravotnictví nebo vymáhání práva, jsou stanoveny přísné povinnosti, včetně řízení rizik, důkladného testování modelů, zajištění transparentnosti rozhodování, auditovatelnosti, udržování technické dokumentace a získání označení CE.

Nařízení GDPR (General Data Protection Regulation) se s AI Act vzájemně doplňuje a klade přísné požadavky na zpracování osobních údajů AI systémy. Mezi klíčové principy patří minimalizace dat (používat jen nezbytná data), účelové omezení (data sbíraná pro jeden účel nesmí být bez dalšího souhlasu použita pro jiný AI účel), omezení ukládání, zákonný základ pro zpracování a práva subjektů údajů, jako je právo na přístup, přenositelnost, právo na vysvětlení automatizovaných rozhodnutí a právo být zapomenut. 

office@arws.cz 245 007 740

V České republice neexistuje vlastní komplexní AI regulace, ale země se aktivně připravuje na implementaci EU AI Act. Vláda schválila "AI Implementation Plan", který určuje klíčové orgány (např. Český telekomunikační úřad jako národní orgán dohledu, Úřad pro technickou normalizaci, metrologii a zkušebnictví jako oznamující orgán) a finanční prostředky pro efektivní vymáhání.  

Regulace umělé inteligence, jako je EU AI Act a GDPR, představuje pro firmy jak značné břemeno v podobě compliance nákladů a hrozby vysokých pokut, tak i významnou příležitost. Cílem EU je podpořit rozvoj "důvěryhodné AI" a posílit vedoucí postavení Evropy v této oblasti. 

To znamená, že shoda s předpisy není jen nutným zlem, ale strategickou investicí. Společnosti, které proaktivně řeší tyto regulace, mohou své AI řešení prezentovat jako "důvěryhodné" a "kompatibilní", čímž osloví trh, který je stále více citlivý na etické aspekty AI a ochranu dat. Dodržování předpisů by tedy mělo být vnímáno nejen jako nákladové centrum, ale jako investice do reputace a dlouhodobé udržitelnosti podnikání.

Přehled rizikových kategorií AI systémů dle EU AI Act a jejich dopady

Kategorie rizika

Příklady použití

Klíčové povinnosti/Zákazy

Dopad/Sankce

Nepřijatelné riziko

Sociální bodování, manipulace chování, biometrická identifikace v reálném čase ve veřejných prostorech (s omezenými výjimkami pro vymáhání práva)

ZAKÁZÁNO

Až 35 mil. EUR nebo 7 % celosvětového ročního obratu

Vysoké riziko

AI v kritické infrastruktuře (např. doprava), HR (např. nábor, správa zaměstnanců), zdravotnictví (např. diagnostika), vymáhání práva, migrace, správa spravedlnosti

Systém řízení rizik, lidský dohled, transparentnost, technická dokumentace, auditovatelnost, CE značení, posouzení dopadu na základní práva

Až 15 mil. EUR nebo 3 % celosvětového ročního obratu

Omezené riziko

Chatboty, deepfakes, systémy pro rozpoznávání emocí

Povinnosti transparentnosti pro uživatele (např. informovat, že obsah je generován AI, označování deepfakes)

Nižší pokuty za porušení transparentnosti (až 7,5 mil. EUR nebo 1 % obratu za poskytnutí nesprávných informací úřadům)

Minimální riziko

Spam filtry, doporučovací systémy (s nízkým dopadem)

Žádné specifické povinnosti, doporučuje se dobrovolné dodržování etických kodexů

Žádné přímé sankce dle AI Act

Otázky odpovědnosti a ručení za škody způsobené AI: Kdo nese odpovědnost za chyby AI?

Když AI systém způsobí škodu – ať už jde o chybu v autonomním vozidle, chybnou diagnózu ve zdravotnictví nebo diskriminační rozhodnutí v HR – vyvstává zásadní otázka: kdo je za to odpovědný? Tradiční právní rámce odpovědnosti se potýkají s autonomií a komplexitou AI. 

Evropská komise sice stáhla návrh specifické směrnice o odpovědnosti za AI (AILD), což by se mohlo zdát jako úleva. Nicméně, revidovala stávající směrnici o odpovědnosti za vadné výrobky (PLD), která nyní jasně zahrnuje software, AI systémy a digitální služby jako "produkty", za které nese výrobce přísnou odpovědnost za škody způsobené vadou.  

Tato revize výrazně rozšiřuje pojem "vady". Nově se vada produktu může týkat i selhání softwarových aktualizací, nedostatečné kybernetické bezpečnosti nebo nepředvídatelného chování AI systému po jeho uvedení na trh. To znamená, že odpovědnost výrobce se neomezuje pouze na počáteční uvedení produktu, ale zahrnuje i jeho chování a bezpečnost po celou dobu životnosti. Revidovaná PLD navíc zavádí "vyvratitelnou domněnku kauzality", která usnadňuje poškozeným prokázání příčinné souvislosti mezi vadou AI systému a vzniklou škodou. 

Tento přesun rizika a nutnost kontinuální odpovědnosti znamená, že firmy čelí nejen jednorázovým pokutám, ale i dlouhodobým sporům a nutnosti prokazovat, že jejich AI systémy jsou bezpečné a aktualizované po celou dobu jejich životnosti. To vyžaduje odolný systémy řízení kvality, pečlivou dokumentaci všech změn a aktualizací modelů, a také připravenost na auditní dohled. Firmy tak musí být připraveny vysvětlit a obhájit technickou komplexnost všech AI produktů, které uvádějí na trh. 

Chcete probrat možnosti spolupráce na nezávazné kávě? Napište nám:

Diskriminace a etické výzvy AI: Jak se vyhnout zaujatosti a zajistit spravedlnost.

AI systémy se učí z dat, a pokud jsou tato data zkreslená, neúplná nebo historicky zaujatá, AI může replikovat a dokonce zesílit existující nerovnosti. To může vést k diskriminačním výsledkům v oblastech jako nábor zaměstnanců, úvěrová rozhodnutí nebo dokonce zdravotní péče, což představuje významné právní a reputační riziko.  

Klíčové je zajistit lidský dohled nad AI rozhodnutími (tzv. "human-in-the-loop") a transparentnost algoritmů, zejména u vysoce rizikových systémů. Firmy musí být schopny vysvětlit, jak AI dospěla k danému rozhodnutí, což je právo na vysvětlení dle GDPR. Evropská unie se zaměřuje na "lidsky orientovanou" AI a propaguje koncept "důvěryhodné AI", která by měla být zákonná, etická a technicky odolná. To zahrnuje aktivní identifikaci a zmírňování zkreslení v datech a modelech.  

Společnosti by měly provádět pravidelné audity zaujatosti, investovat do kvalitních a rozmanitých tréninkových dat a zajistit, že jejich AI systémy jsou navrženy s ohledem na spravedlnost a rovnost, aby si udržely důvěru a vyhnuly se reputačnímu riziku.

Kybernetická bezpečnost a ochrana dat v AI systémech.

AI systémy zpracovávají obrovské množství dat, často velmi citlivých a osobních, což z nich činí atraktivní cíl pro kybernetické útoky. Zranitelnosti v AI systémech mohou vést k únikům dat, neoprávněnému přístupu nebo generování zavádějících výstupů, což má za následek právní spory, značné finanční ztráty a nenahraditelnou ztrátu důvěry klientů.  

Kybernetická bezpečnost AI je úzce provázána s dalšími evropskými nařízeními, jako jsou NIS2 (Network and Information Systems Directive) a Cyber Resilience Act (CRA). Tyto předpisy vyžadují od výrobců a provozovatelů AI systémů implementaci bezpečnostních opatření "by design", provádění hodnocení rizik, poskytování pravidelných bezpečnostních aktualizací a zajištění bezpečných výchozích konfigurací. Nedodržení těchto požadavků může být důvodem pro zjištění vady produktu dle revidované PLD. 

office@arws.cz 245 007 740

Ve zdravotnictví je ochrana chráněných zdravotnických informací (PHI) naprosto klíčová. AI nástroje musí splňovat standardy GDPR, včetně minimálního standardu nezbytnosti dat, de-identifikace a robustních smluv s dodavateli AI (Business Associate Agreements – BAA).  

Umělá inteligence sama o sobě představuje jak významné kybernetické riziko (nové vektory útoku, zranitelnosti v modelech), tak i mocný nástroj pro kybernetickou obranu (detekce hrozeb, automatizace reakcí). Právní rámec tuto dualitu reflektuje, když vyžaduje robustní bezpečnostní opatření pro AI systémy a zároveň umožňuje, aby selhání v kybernetické bezpečnosti bylo považováno za vadu produktu. 

Firmy musí přijmout komplexní přístup k zabezpečení AI, který zahrnuje nejen technická opatření (šifrování, kontrola přístupu), ale i pravidelné audity, školení zaměstnanců a jasné plány reakce na incidenty, aby minimalizovaly riziko úniku dat a udržely si důvěru.

Klíčové principy GDPR a jejich aplikace na AI systémy

Princip GDPR

Aplikace na AI systémy

Dopady/Výzvy pro firmy

Minimalizace dat

AI by měla trénovat a zpracovávat jen nezbytná data pro daný účel.

Nutnost maskování dat; omezení rozsahu sběru dat; vyšší nároky na efektivitu modelů s menším množstvím dat.

Účelové omezení

Data sbíraná pro jeden účel nesmí být bez dalšího souhlasu použita pro jiný AI účel.

Komplikace při objevování nových využití dat AI; nutnost získání nového souhlasu nebo jiného právního základu.

Právo na vysvětlení

AI musí poskytovat srozumitelné zdůvodnění svých automatizovaných rozhodnutí.

"Black box" problém AI; potřeba vyvíjet vysvětlitelné AI modely (XAI); zvýšené nároky na dokumentaci rozhodovacích procesů.

Právo být zapomenut

Musí existovat mechanismy pro úplné a trvalé vymazání osobních dat z AI modelů.

Obtížnost "zapomenutí" dat z již trénovaných modelů; potřeba re-trénování nebo speciálních technik pro odstranění vlivu dat.

Zabezpečení dat

Robustní bezpečnostní opatření proti únikům dat, neoprávněnému přístupu a kybernetickým útokům.

Zvýšené riziko kybernetických útoků na AI systémy; nutnost implementace šifrování, kontroly přístupu a monitoringu.

Odpovědnost (Accountability)

Firmy musí prokazovat soulad s GDPR při používání AI; dokumentace procesů zpracování dat AI.

Povinnost provádět DPIA pro vysoce rizikové AI systémy; nutnost udržovat detailní auditní záznamy.

Privacy by Design

Integrace ochrany dat do návrhu AI systémů od počátku.

Vyžaduje změnu vývojových procesů; nutnost zapojení právníků a odborníků na ochranu dat do celého životního cyklu AI.

Proč ARROWS: Váš spolehlivý partner pro právní aspekty umělé inteligence

Advokáti z ARROWS ví, že v rychle se vyvíjejícím světě AI potřebujete partnera, který nejen rozumí právu, ale i technologii a vašemu byznysu. Jsme moderní firma, která pro klienty využívá umělou inteligenci a nejmodernější metody, abychom poskytovali efektivní a inovativní právní řešení. Zkušenosti z poskytování dlouhodobých služeb našim klientům, mezi něž patří více než 150 akciových společností, 250 s.r.o. a 51 obcí a krajů, hrají klíčovou roli v naší schopnosti poskytovat špičkové poradenství.

Důvěra, kterou do nás vkládají velké a zavedené subjekty, je silným dokladem naší prověřené schopnosti řešit komplexní právní záležitosti. Když k tomu přidáme vlastní aktivní využívání AI v našich interních procesech, stává se ARROWS nejen externím poradcem, ale i zasvěceným partnerem, který rozumí praktickým aspektům a výzvám implementace AI.

Tato kombinace hlubokých zkušeností a progresivního přístupu staví ARROWS do jedinečné pozice kvalifikovaného partnera pro firmy, které se pohybují na špičce právních otázek souvisejících s umělou inteligencí.

  • Komplexní expertiza: Právníci ARROWS danou problematiku běžně řeší v praxi a mají hluboké znalosti jak v oblasti AI regulace (EU AI Act, GDPR), tak v souvisejících oblastech, jako je duševní vlastnictví, kybernetická bezpečnost, korporátní právo a řešení sporů.
  • Mezinárodní dosah: Díky deset let budované síti ARROWS International zajišťujeme právní služby související s AI i mimo Českou republiku, což je klíčové pro globálně působící firmy.
  • Proaktivní přístup: Pomáháme klientům identifikovat a minimalizovat právní rizika spojená s AI ještě předtím, než nastanou, čímž šetříme jejich čas, peníze a chráníme jejich reputaci.
  • Klientsky orientované řešení: Nejde nám jen o dodržování předpisů, ale o nalezení praktických a efektivních řešení, která podporují obchodní cíle klientů a zajišťují jejich klid.
Naši experti na AI:

Nenechte se zaskočit: Kontaktujte ARROWS pro klidné a efektivní řešení.

V dynamickém světě umělé inteligence je právní klid nedocenitelný. Nenechte se zaskočit novými regulacemi, potenciálními pokutami nebo neočekávanými spory. Proaktivní právní poradenství zajistí důvěru v každém kroku vaší AI cesty a ochrání vaši firmu před ztrátou času a chaosem. Právníci ARROWS jsou připraveni vám pomoci.

Potřebujete posoudit právní rizika spojená s vašimi AI projekty? Chcete zajistit soulad s EU AI Act a GDPR? Řešíte otázky odpovědnosti nebo duševního vlastnictví AI? Kontaktujte nás ještě dnes pro úvodní konzultaci. Zjistěte, jak vám můžeme pomoci navigovat právní krajinou umělé inteligence s klidem a jistotou. Vaše investice do právní jistoty je investicí do budoucnosti vaší firmy.

Nechcete tenhle problém řešit sami? Advokátní kanceláři ARROWS věří více než 2000 klientů a jsme oceněni jako Právnická firma roku 2024. Podívejte se ZDE na naše reference a bude nám ctí pomoci vám při řešení vašeho problému. Poptávka je zdarma.

Přečtěte si naše články:

office@arws.cz 245 007 740
Zaujali jsme Vás?
Kontakt