Používání umělé inteligence při vývoji software a aplikací - právní otázky

Umělá inteligence při vývoji software a aplikací umí výrazně zrychlit práci vývojových týmů, ale současně otevírá nové právní otázky: kdo je autorem kódu, kdo nese odpovědnost za chyby a jak správně nastavit smlouvy, data a compliance. V článku od advokátní kanceláře ARROWS najdete praktický přehled rizik a doporučení, aby se AI nestala důvodem sporu, pokuty nebo ztráty know-how.

Proč je AI ve vývoji právně citlivější, než se zdá

Používání AI v IT týmech se často bere jako „jen další nástroj“. Jenže právní problém nevzniká tím, že někdo použije AI, ale tím, co se následně dostane do produkce, jak se to prodává zákazníkům a jak to firma umí doložit.

V praxi se nejčastěji řeší tyto situace:

• AI asistuje při psaní kódu a testů, ale firma neumí prokázat původ a licenci části výsledků.
• AI je přímo součástí produktu (doporučování, scoring, chatbot) a zákazník očekává kvalitu, vysvětlitelnost a odpovědnost.
• AI běží přes API třetí strany, ale firma prodává funkci „pod svým jménem“ a nese reputační i smluvní dopady výpadků.
• Do AI se posílají citlivá data (osobní údaje, obchodní tajemství, interní dokumenty) a vznikne bezpečnostní incident.

Právníci z ARROWS advokátní kanceláře tyto případy běžně řeší v rámci smluvního nastavení vývoje, IP ochrany, GDPR a krizových situací po incidentech. Pokud potřebujete rychle ověřit, jaké riziko ve vašem projektu reálně hrozí, napište na office@arws.cz.

Kdo je autorem AI-vygenerovaného kódu a co to znamená pro firmu

Otázka „kdo je autorem“ je u AI často sporná a v byznysu má velmi konkrétní dopady: jestli lze kód chránit, licencovat, převést, prodat investorovi nebo použít jako klíčové know-how firmy.

Autorské právo a originalita: co se typicky posuzuje

U software je důležité, že autorskoprávní ochrana se váže na originální vyjádření, nikoli na samotnou funkci nebo nápad. V praxi se proto řeší zejména:

• zda konkrétní část kódu dosahuje originality,
• zda nejde o běžné a technicky vynucené řešení,
• zda není výstup fakticky převzatý nebo nápadně podobný existujícímu kódu.

U AI vzniká problém v tom, že výstup může být „správný a funkční“, ale firma pak neumí rozumně doložit:

• kdo jej vytvořil,
• na základě jakých vstupů,
• zda je bezpečné jej komerčně používat.

Z pohledu vedení firmy je podstatné, že u sporu nebo due diligence se často neřeší „jak rychle to vzniklo“, ale jestli je k tomu čistý vlastnický a licenční režim.

Právníci z ARROWS advokátní kanceláře tuto oblast řeší denně – nejen u IT firem, ale i u firem, které software používají jako klíčový interní nástroj. Pro nastavení vlastnictví a licencí napište na office@arws.cz.

AI výstup jako „dílo“: co bývá v praxi největší slabina

Největší slabina bývá překvapivě jednoduchá: firma nemá upravené, kdo je autorem (zaměstnanec vs. dodavatel), a současně používá AI nástroje bez interních pravidel.

Pak se běžně stane, že:

• dodavatel tvrdí, že kód je jeho a klient má jen omezenou licenci,
• zaměstnanec odejde a firma nedokáže prokázat, co bylo vytvořeno v rámci pracovních úkolů,
• investor chce garance „čistého IP“ a transakce se komplikuje.

ARROWS advokátní kancelář umí nastavit převody práv, licenční model i vnitřní pravidla tak, aby firma měla právně uchopitelnou kontrolu nad výsledky vývoje. Pro posouzení konkrétní situace napište na office@arws.cz.

microFAQ – Právní tipy k autorství a vlastnictví kódu

1. Je firma automaticky vlastníkem kódu, když byl vyvinut pro ni?
   Ne vždy. Záleží na smlouvě s dodavatelem a na tom, zda došlo k převodu majetkových práv nebo jen k poskytnutí licence. ARROWS advokátní kancelář zkontroluje smlouvy a upraví vlastnický režim – napište na office@arws.cz.

2. Když vývojář použije AI, mění se tím vlastnictví výstupu?
   Může. Minimálně se zvyšuje riziko licenčních a autorskoprávních sporů a zhoršuje se dokazování původu. ARROWS advokátní kancelář nastaví pravidla a smluvní ošetření – napište na office@arws.cz.

3. Je bezpečné dávat AI do promptů části interního kódu?
   Bez interního režimu a smluv s providerem je to rizikové kvůli úniku obchodního tajemství a dat. ARROWS advokátní kancelář doporučí bezpečný postup – napište na office@arws.cz.

Odpovědnost za škodu: když AI něco pokazí, kdo to platí

Odpovědnost je pro firmy často důležitější než autorství, protože škoda vzniká rychle a bývá měřitelná: smluvní pokuty, reklamace, incidenty, ztráta zákazníků, regulatorní dopady.

U AI systémů se odpovědnost typicky láme v těchto bodech:

• zda AI dělá „doporučení“ nebo „rozhodnutí“,
• zda zákazník ví, jak systém funguje a jaké má limity,
• zda firma měla přiměřené testování, monitoring a kontrolu kvality,
• jak je nastavena smluvní odpovědnost vůči zákazníkům a dodavatelům.

Právníci z ARROWS advokátní kanceláře v této oblasti běžně upravují smluvní odpovědnost, SLA a procesy tak, aby odpovídaly realitě AI vývoje. Pokud řešíte reklamace nebo chcete preventivně upravit smlouvy, napište na office@arws.cz.

Typická chyba: „disclaimer to vyřeší“

Často se spoléhá na to, že do podmínek stačí napsat „AI může chybovat“. To je ale pouze část obrany.

V praxi je potřeba mít zároveň:

• jasně popsaný rozsah služby (co AI dělá a co nedělá),
• nastavený proces pro incidenty a chyby,
• logování a možnost dohledat, co se stalo,
• smluvní limity odpovědnosti a výjimky z nich (carve-outs).

Pokud je AI součástí produktu, je rozumné počítat s tím, že zákazník bude chtít:

• garance dostupnosti,
• reakční časy,
• odpovědnost za chybný výstup v klíčových procesech.

ARROWS advokátní kancelář umí nastavit smluvní a procesní rámec tak, aby byl obhajitelný, ale zároveň obchodně prodejný. Napište na office@arws.cz.

microFAQ – Právní tipy k odpovědnosti u AI funkcí

1. Odpovídá dodavatel AI modelu za škodu, když jeho model chyboval?
   Ne vždy. Často se odpovědnost přenáší na integrátora nebo poskytovatele služby zákazníkovi. ARROWS advokátní kancelář prověří smlouvy a nastaví odpovědnostní řetězec – napište na office@arws.cz.

2. Má smysl mít v produktu „human-in-the-loop“?
   Ano. Zapojení člověka do rozhodování může výrazně snížit odpovědnostní a regulatorní rizika, ale musí být skutečné, ne formální. ARROWS advokátní kancelář doporučí právně vhodný model – napište na office@arws.cz.

3. Jaké limity odpovědnosti jsou v B2B praxi obvyklé?
   Liší se podle odvětví a kritičnosti služby. Důležité je správně nastavit výjimky (např. úmysl, hrubá nedbalost, IP a únik dat). ARROWS advokátní kancelář nastaví vyvážené řešení – napište na office@arws.cz.

Smlouvy při AI vývoji: co musí být jinak než u běžného software

AI projekty se často rozpadnou ne kvůli technice, ale kvůli smlouvám a očekáváním. Klasické „dílo za cenu“ bez detailů nefunguje, protože AI vývoj je iterativní, závislý na datech a na třetích stranách.

Co by mělo být ve smlouvě vždy výslovně

1. Převod práv a licence - jasně řešit, kdo vlastní výstupy, včetně modelů, promptů, datasetů a dokumentace.
2. Zadání, scope a změnové řízení - AI vývoj je dynamický: bez change managementu roste riziko sporu o cenu a rozsah.
3. Odpovědnost za data a jejich kvalitu - pokud klient dodá špatná data, AI bude dávat špatné výstupy – a to musí být smluvně ošetřené.
4. SLA, dostupnost, fallback scénáře - API třetí strany může vypadnout. Firma musí vědět, co slíbí zákazníkovi a co si vyjedná s providerem.
5. Bezpečnost a důvěrnost -prompt logy a vstupy mohou obsahovat obchodní tajemství. Bez režimu mlčenlivosti vzniká reálný únik know-how.

Právníci z ARROWS advokátní kanceláře nastavují smlouvy tak, aby odpovídaly praxi vývoje a zároveň prošly procurementem velkých korporací. Pokud potřebujete upravit smlouvy pro AI vývoj nebo AI funkce v produktu, napište na office@arws.cz.

Interní směrnice pro AI: proč ji chce i investor

Interní AI pravidla nejsou „papír pro compliance“. U investorů a korporátních zákazníků se dnes běžně prověřuje:

• jak firma zabraňuje únikům dat do externích AI nástrojů,
• kdo smí používat které nástroje,
• jak se eviduje použití AI ve výstupech,
• jak se řeší audit a incidenty.

Směrnice má mít přímý dopad na praxi: co se smí vkládat do promptů, jak se ukládají logy, jak se schvalují releasy, jak se kontroluje open-source.

ARROWS advokátní kancelář umí dodat jak právní dokumentaci, tak procesní nastavení pro reálné fungování ve firmě. Pro návrh AI governance napište na office@arws.cz.

JUDr. Jakub Dohnal, Ph.D., LL.M.

advokát, řídící partner

• dohnal@arws.cz

Mgr. Petr Hanzel, LL.M.

advokát

• hanzel@arws.cz

GDPR a ochrana dat: AI často „nepozorovaně“ rozšiřuje riziko

GDPR se ve vývoji řeší nejen v databázi, ale i v běžných provozních stopách:

• chat logy s AI,
• bug reporty od zákazníků,
• transkripty hovorů,
• testovací data,
• monitoring a telemetrie.

Právní problém vzniká typicky ve chvíli, kdy se do AI dostane osobní údaj a není jasné:

• na jakém právním základě se zpracovává,
• kdo je správce a kdo zpracovatel,
• kde se data ukládají a kdo k nim má přístup,
• zda se data nepřenáší mimo EU.

Používání AI vypadá jednoduše, ale reálný svět má výjimky, návaznosti a procesní detaily, které laik často nevidí. Právníci z ARROWS advokátní kanceláře to řeší denně a díky tomu výrazně zkracují čas a snižují riziko chyb. Pokud potřebujete nastavit AI nástroje tak, aby byly bezpečné z pohledu GDPR, napište na office@arws.cz.

Mezinárodní prvek: AI vývoj často přesahuje hranice a tím roste složitost

AI projekty často spojují:

• českou firmu jako poskytovatele produktu,
• vývojový tým v jiné zemi,
• cloudovou infrastrukturu mimo EU,
• zákazníky ve více jurisdikcích.

To znamená, že se řeší:

• volba práva a soudní příslušnosti,
• přenosy dat a bezpečnost,
• vymáhání odpovědnosti vůči vendorům,
• rozdílné požadavky zákazníků (zejména korporací).

Pokud má projekt mezinárodní prvek, ARROWS advokátní kancelář umí využít deset let budovanou síť ARROWS International a rychle propojit právní řešení napříč státy. Pro konzultaci napište na office@arws.cz.

Proč se tuto agendu nevyplatí řešit svépomocí

AI v IT vypadá jako technické téma, ale právní dopady se běžně projeví až ve chvíli, kdy:

• zákazník reklamuje výstup,
• dojde k incidentu,
• probíhá due diligence při investici nebo prodeji firmy,
• vendor změní podmínky služby,
• vyvstane spor o vlastnictví kódu.

Každý z těchto momentů má vysoké náklady, protože se řeší pod tlakem. Přitom řada rizik se dá snížit včas: smlouvami, interními pravidly a kontrolními procesy.

Právníci z ARROWS advokátní kanceláře tuto agendu řeší denně a dokážou klientům ušetřit čas i minimalizovat riziko chyb. Navíc je ARROWS advokátní kancelář pojištěna na škodu až do 400 000 000 Kč, což je pro firmy důležitý bezpečnostní prvek. Pro nastavení AI právního rámce napište na office@arws.cz.

Executive shrnutí pro management

• AI ve vývoji není jen nástroj, ale právní riziko v IP, odpovědnosti, smlouvách a ochraně dat – problémy se obvykle ukážou až při incidentu nebo due diligence.
• Největší rizika jsou spory o autorství a licence, reklamace a škody z chybných AI výstupů, a únik dat nebo know-how přes prompty a logy.
• Bez smluvního nastavení (IP, SLA, odpovědnost, vendor management) se riziko často přenese na firmu, která produkt prodává zákazníkovi.
• Interní AI pravidla a kontrolní procesy nejsou formalita – dnes je chtějí korporátní zákazníci i investoři jako podmínku spolupráce.
• Svépomocné řešení bývá drahé v okamžiku problému; ARROWS advokátní kancelář nastaví rámec rychleji a bezpečněji, včetně krytí odpovědnosti díky pojištění až 400 000 000 Kč.

Závěrem

Používání umělé inteligence při vývoji software a aplikací přináší rychlost a inovace, ale zároveň otevírá sporné otázky autorství, vlastnictví kódu, odpovědnosti za chyby a ochrany dat. V praxi je důležité mít jasně nastavené smlouvy, procesy a pravidla používání AI, aby se problém neobjevil až ve chvíli reklamace, incidentu nebo investiční prověrky.

FAQ: Používání umělé inteligence při vývoji software a aplikací - právní otázky

1. Musí být použití AI ve vývoji uvedeno ve smlouvě se zákazníkem?
   Ve většině B2B případů je to vhodné, zejména pokud AI ovlivňuje výstupy, SLA nebo odpovědnost. Transparentní nastavení předejde sporům. Pokud řešíte podobný problém, kontaktujte ARROWS advokátní kancelář na office@arws.cz.

2. Jak snížit riziko, že AI výstup poruší cizí autorská práva?
   Pomáhá kombinace interních pravidel, kontroly licencí, revize kódu a smluvní ochrany (včetně odpovědnosti dodavatelů). Pokud řešíte podobný problém, kontaktujte ARROWS advokátní kancelář na office@arws.cz.

3. Kdo odpovídá, když AI funkce způsobí škodu zákazníkovi?
   Rozhoduje smluvní nastavení, popis služby, limity odpovědnosti a procesy kontroly. U klíčových systémů může být odpovědnost významná. P

4. Je možné do AI posílat interní dokumenty a části kódu?
   Bez nastavené smluvní ochrany a interních pravidel to může znamenat únik obchodního tajemství nebo osobních údajů. Doporučuje se režim minimalizace a kontrola providerů.

5. Co nejčastěji zkomplikuje investici do software firmy používající AI?
   Nejasné vlastnictví IP, chybějící evidence licencí, rizikové open-source a nepřipravené smlouvy se zákazníky i dodavateli. 

6. Má smysl mít interní AI směrnici i v menší firmě?
   Ano, protože chrání data a know-how, nastavuje pravidla pro vývoj a zjednodušuje jednání s většími zákazníky. Pokud řešíte podobný problém, kontaktujte ARROWS advokátní kancelář na office@arws.cz.

Upozornění: Informace obsažené v tomto článku mají pouze obecný informativní charakter a slouží k základní orientaci v problematice. Ačkoliv dbáme na maximální přesnost obsahu, právní předpisy a jejich výklad se v čase vyvíjejí. Pro ověření aktuálního znění předpisů a jejich aplikace na vaši konkrétní situaci je proto nezbytné kontaktovat přímo ARROWS advokátní kancelář (office@arws.cz). Neneseme žádnou odpovědnost za případné škody či komplikace vzniklé samostatným užitím informací z tohoto článku bez naší předchozí individuální právní konzultace a odborného posouzení. Každý případ vyžaduje řešení na míru, proto nás neváhejte oslovit.