Role člověka v rozhodovacím cyklu dronů („human-in-the-loop“)

Nasazení firemních dronů přináší revoluci v logistice i inspekcích, ale také komplexní právní rizika. Kdo nese odpovědnost, když autonomní systém selže? A jakou roli v tom hraje lidský dohled? V tomto článku získáte jasné odpovědi na otázky týkající se odpovědnosti, regulace EASA, pojištění a GDPR, které ochrání vaše podnikání před vysokými sankcemi.

Potřebujete s tématem poradit? Obraťte se na advokátní kancelář ARROWS na e-mail office@arws.cz nebo telefon +420 245 007 740. Váš dotaz rád zodpoví "JUDr. Jakub Dohnal, Ph.D.,LL.M.", expert na dané téma.

Drony v byznysu: Více než jen létající kamery

Rostoucí komerční využití bezpilotních systémů (UAS – Unmanned Aircraft Systems) mění pravidla hry. Drony dnes mapují terén, inspekují solární a větrné elektrárny, monitorují staveniště a doručují zboží. Nejde již o hračky, ale o sofistikované průmyslové nástroje.

S rostoucí automatizací a komplexností těchto systémů však přichází zásadní právní otázka. Pokud dron havaruje, poškodí majetek nebo někoho zraní, kdo nese odpovědnost? Je to pilot, provozovatel (vaše firma), nebo výrobce softwaru, který řídí autonomní let?

Nejistota v této oblasti je značná. Dokonce i vládní organizace, jako je americké ministerstvo obrany, historicky usilovaly o přesnou a funkční definici role lidského dohledu nad autonomními systémy. Pro firemní sektor to znamená jediné: Pokud odpovědnost jasně nedefinuje zákon, musí ji o to precizněji definovat vaše smlouvy a interní postupy.

Právníci v ARROWS se specializují na technologické právo a denně pomáhají firmám s nastavováním compliance a smluvních vztahů při zavádění nových technologií. Pro okamžité posouzení vaší situace nám napište na office@arws.cz.

Co přesně znamenají „Human-in-the-Loop“ a „Human-on-the-Loop“?

Pro určení odpovědnosti je klíčové pochopit míru automatizace. V praxi se používají především dva modely lidského dohledu:

„Human-in-the-Loop“ (HITL – Člověk v procesu)

Tento model vyžaduje přímé lidské zapojení do rozhodovacího cyklu. Systém (dron) nemůže učinit finální rozhodnutí bez aktivního schválení člověkem.

Příklad: Inspekční dron autonomně letí podél větrné turbíny. Identifikuje anomálii, která by mohla být prasklinou. Systém se zastaví, označí místo a čeká, až operátor na dálku potvrdí, že má pořídit detailní 3D sken. Pokud operátor nic neudělá, dron nepokračuje.

Výhodou je maximální kontrola a jasné přenesení odpovědnosti za každé klíčové rozhodnutí na operátora. Nevýhodou je pomalost a nižší efektivita ve velkém měřítku.

„Human-on-the-Loop“ (HOTL – Člověk nad procesem)

V tomto přístupu funguje dron plně autonomně a činí vlastní rozhodnutí. Člověk (supervizor) monitoruje jeho činnost v reálném čase a má možnost kdykoli zasáhnout a rozhodnutí zvrátit.

Příklad: Roj dronů autonomně skenuje tisíce položek ve skladu. Supervizor na monitoru sleduje jejich dráhy a celkový stav operace. Nezasahuje do každého skenu, ale pokud systém zahlásí anomálii (např. kolizní kurz, nečitelný kód), převezme řízení.

Volba mezi HITL a HOTL není jen technickým, ale především strategickým právním rozhodnutím. Ve scénáři HITL je odpovědnost za špatné rozhodnutí téměř vždy na člověku (operátorovi).

Ve scénáři HOTL vzniká nová, komplexní odpovědnost. Pokud supervizor nestihne zasáhnout, odpovídá on (že nezasáhl)? Odpovídá firma (že špatně navrhla dohledový proces a pilota přetížila)? Nebo odpovídá výrobce (že AI nedala supervizorovi dostatek času na zásah)? Zde hraje roli i riziko tzv. „automation complacency“ (automatizační samolibosti), kdy se operátor stane na systém příliš spoléhajícím a ztratí ostražitost.

Správné právní ukotvení těchto modelů ve vašich interních směrnicích a smlouvách s dodavateli je proto zásadní. Potřebujete právní pomoc s nastavením odpovědnosti za automatizované systémy? Kontaktujte nás na office@arws.cz.

FAQ – Právní tipy k automatizaci a odpovědnosti

1. Co když dron funguje zcela autonomně, bez jakéhokoli dohledu (Human-out-of-the-Loop)?

Právně je to nejrizikovější varianta. V EU je takový provoz (mimo velmi specifické případy) v podstatě vyloučen standardní regulací. Odpovědnost by v případě selhání téměř jistě padala na výrobce (produktová odpovědnost) a provozovatele (že nasadil nebezpečný systém). Pokud řešíte nasazení plně autonomních systémů, kontaktujte nás na office@arws.cz.

2. Kdo odpovídá, když pilot (supervizor) v režimu HOTL nestihne včas zasáhnout?

Zde se láme chleba. Bude se zkoumat, zda systém poskytl dostatečné varování, zda byl pilot řádně vyškolen a zda nebyl přetížen (riziko „automation complacency“). Právě pro tyto případy musí mít firma robustní interní směrnice. Naši právníci jsou připraveni vám pomoci s jejich přípravou – napište na office@arws.cz.

Firma jako „Provozovatel“ vs. Zaměstnanec jako „Pilot“: Kdo má jaké povinnosti?

Mnoho firem se mylně domnívá, že veškerou odpovědnost nese certifikovaný pilot. Evropská regulace EASA, implementovaná v ČR Úřadem pro civilní letectví (ÚCL), však jasně rozděluje odpovědnost mezi dvě role.

Povinnosti Provozovatele (Firmy)

Provozovatel je právnická nebo fyzická osoba, která drony vlastní nebo provozuje. Je odpovědný za systém jako celek.

• Registrace: Firma se musí registrovat jako provozovatel u ÚCL. Registrační číslo pak platí pro celou její flotilu dronů.
• Označení: Firma musí své registrační číslo viditelně umístit na všechny drony, které provozuje.
• Pojištění: Firma musí sjednat (a zaplatit) povinné pojištění odpovědnosti za škodu, pokud je to pro danou kategorii provozu vyžadováno.

Povinnosti Pilota (Zaměstnance)

Pilot je fyzická osoba, která dron v daný okamžik řídí. Je odpovědný za bezpečné provedení konkrétního letu.

• Licence: Pilot musí mít platný "pilotní průkaz" (doklad o absolvování online zkoušky A1/A3 nebo složitější zkoušky A2).
• Provedení letu: Pilot je osobně odpovědný za bezpečné provedení letu – musí zkontrolovat počasí, udržovat vizuální kontakt s dronem (VLOS) a respektovat bezletové zóny.

Tato duální odpovědnost vytváří kritickou mezeru v pracovním právu. Co se stane, když váš zaměstnanec-pilot poruší pravidla (např. přelétne nad shromážděním lidí) a firma jako provozovatel dostane pokutu 100 000 Kč?

Základem pro ochranu firmy jsou proto precizně vyhotovené interní směrnice pro piloty a správně nastavené pracovněprávní smlouvy. Ty musí jasně definovat odpovědnost pilota za dodržování pravidel a mechanismy, jak po něm (v mezích zákoníku práce) vymáhat škodu způsobenou jeho pochybením. Náš tým v ARROWS je připraven vám s přípravou kompletní dokumentace pomoci. Spojte se s námi na office@arws.cz.

Pojištění odpovědnosti: Kdy je povinné a kolik stojí?

Pojištění odpovědnosti za škody způsobené provozem dronu není volitelný doplněk. Pro většinu komerčních provozů je povinné. Právní základ této povinnosti najdeme v §54d zákona č. 49/1997 Sb., o civilním letectví, a limity plnění stanoví vyhláška č. 108/1997 Sb..

Limity plnění se liší podle kategorie provozu:

• Kategorie 'OPEN' (Otevřená):

• Podkategorie A1: Pojištění není povinné.
• Podkategorie A2: Povinné (limit min. 1 000 000 Kč).
• Podkategorie A3: Povinné pro drony s hmotností nad 4 kg (limit min. 1 000 000 Kč).

• Kategorie 'SPECIFIC' (Specifická):

• Zde je pojištění vždy povinné a limity jsou výrazně vyšší, odstupňované podle hmotnosti dronu:
• Do 0,91 kg: 2 000 000 Kč
• 0,91 kg – 7 kg: 5 000 000 Kč
• 7 kg – 20 kg: 10 000 000 Kč

• Nad 20 kg: Zde platí přímo nařízení EU (ES) č. 785/2004, které vyžaduje krytí v řádech desítek milionů korun.

Pozor na častou past: Mnoho firem sjedná levnější pojištění pro kategorii 'Open' (např. 1 milion Kč). Následně však provede let, který svými parametry (např. let mimo přímou viditelnost, tzv. BVLOS) spadá již do kategorie 'Specific'.

Pokud v tu chvíli dron havaruje, pojišťovna plnění s největší pravděpodobností odmítne. Důvod? Provoz byl v jiné kategorii, než na kterou byla sjednána smlouva. Firma je tak rázem bez pojištění, přestože ho "má" zaplacené, a čelí plné odpovědnosti za škodu.

Provozní rizika a sankce

Rizika a sankce	Jak pomáhá ARROWS
Provoz bez registrace provozovatele (firmy) u ÚCL. Pokuta až 50 000 Kč a potenciální zákaz činnosti.	Právní konzultace a zastupování u rejstříků. Zajistíme vaši registraci a plnění všech povinností u ÚCL. Chcete mít jistotu? Napište na office@arws.cz.
Chybějící nebo nedostatečné povinné pojištění. (např. záměna kategorií Open/Specific). Plná odpovědnost firmy za veškeré škody v řádech milionů Kč.	Právní analýza a poradenství. Provedeme analýzu vašeho byznys plánu a určíme, jaké pojištění skutečně potřebujete. Kontaktujte nás na office@arws.cz.
Nelegální let (např. v zakázané zóně, nad lidmi). Pokuty v řádech statisíců Kč, zabavení dronu, trestní odpovědnost v případě zranění.	Příprava interních směrnic a školení pro piloty. Připravíme pro vás provozní manuály a zajistíme odborná školení pro vaše zaměstnance. Spojte se s námi na office@arws.cz.
Zaměstnanec (pilot) nemá platnou licenci. Pokuta pro pilota i pro firmu (provozovatele) za nedostatečné zajištění odborné způsobilosti.	Revize pracovněprávní dokumentace. Nastavíme vaše interní procesy a smlouvy tak, aby byla odpovědnost za školení a platnost licencí jasně ukotvena. Získejte právní řešení na míru na office@arws.cz.

Kategorie 'Specific' a SORA: Kdy je lidský dohled nutností pro povolení

Pokud váš provoz nesplňuje jednoduché podmínky kategorie 'Open' (např. chcete létat ve městě, v blízkosti lidí, nebo mimo přímou viditelnost – BVLOS), musíte u ÚCL žádat o povolení k provozu v kategorii 'Specific'.

K získání tohoto povolení musíte provést komplexní hodnocení rizik metodikou SORA (Specific Operations Risk Assessment).

Zjednodušeně řečeno, SORA hodnotí dvě hlavní rizika: riziko pro lidi na zemi (Ground Risk Class - GRC) a riziko pro ostatní letadla ve vzduchu (Air Risk Class - ARC). Kombinací těchto rizik se určí výsledná úroveň integrity provozu SAIL (Specific Assurance and Integrity Level).

Právě zde se vrací do hry koncept lidského dohledu. Implementace systému "Human-in-the-Loop" (HITL) je jedním z nejsilnějších zmírňujících opatření (mitigations), které můžete v žádosti SORA uvést. Prokazujete tím regulátorovi (ÚCL), že žádné autonomní rozhodnutí neproběhne bez lidského schválení, čímž snižujete celkové riziko (SAIL).

Na koho se můžete obrátit?

Pokud naopak chcete použít efektivnější model HOTL, musíte v žádosti SORA velmi detailně popsat, jak jste technicky a procesně vyřešili riziko selhání supervizora, včetně již zmíněné „automation complacency“.

Sestavení žádosti SORA je komplexní právně-technický proces. Náš tým v ARROWS vám pomůže připravit veškerou dokumentaci a provozní manuály tak, aby vaše žádost o povolení 'Specific' na ÚCL prošla hladce. Pro konzultaci nám napište na office@arws.cz.

Drony, kamery a GDPR: Skryté riziko za miliony

Téměř každý komerční dron je vybaven kamerou. Jakmile tato kamera snímá prostor, kde se mohou objevit lidé, jejich obličeje, registrační značky aut nebo detaily obydlí, stává se vaše firma správcem osobních údajů a plně podléhá nařízení GDPR.

Z toho plynou zásadní povinnosti:

• Mít právní základ: Pro komerční provoz je to většinou "oprávněný zájem" (např. ochrana majetku, inspekce stavby). Tento zájem ale musíte být schopni obhájit a doložit tzv. balančním testem.
• Minimalizovat sběr dat: Musíte snímat jen to, co je pro daný účel nezbytně nutné. Doporučení ÚOOÚ například důrazně varuje před pořizováním zvukového záznamu, který je téměř vždy považován za nepřiměřený.
• Omezit dobu uložení: Záznamy nelze skladovat věčně. Pokud neprokážete opak, měly by být mazány ve velmi krátké lhůtě, například do 72 hodin.
• Informovat veřejnost: Musíte transparentně informovat o tom, že monitorujete (např. cedulemi v areálu, informací na webu).

Povinné posouzení vlivu (DPIA)

Pro systematické monitorování veřejně přístupných míst (např. ostraha areálu, dlouhodobé monitorování staveniště) je vypracování DPIA (Data Protection Impact Assessment – Posouzení vlivu na ochranu osobních údajů) s vysokou pravděpodobností povinné.

Zanedbání DPIA je samo o sobě vážným porušením GDPR. Existují případy, kdy byly organizace postiženy jen za to, že před zahájením provozu dronů toto posouzení vlivu neprovedly, bez ohledu na to, zda vůbec došlo k nějakému úniku dat.

Past při změně účelu

Další obrovské riziko spočívá ve změně účelu. Firma může dronem létat za účelem 1 (např. technická inspekce střechy), při kterém je sběr osobních údajů jen náhodný. Pak se ale vedení rozhodne pořízený záznam použít k účelu 2 (např. kontrola zaměstnanců na stavbě, zda dodržují BOZP nebo nekouří).

Tato změna účelu je nelegální, pokud pro ni firma nemá nový právní základ a nesplnila informační povinnost vůči zaměstnancům. To je masivní riziko pro spory se zaměstnanci nebo pokuty od Úřadu pro ochranu osobních údajů.

Rizika plynoucí z GDPR u dronů jsou často vyšší než ta letecká. ARROWS vám poskytne kompletní právní servis v oblasti GDPR: připravíme vám interní směrnice pro nakládání s daty, zpracujeme DPIA a ochráníme vás před pokutami. Napište nám na office@arws.cz.

FAQ – Právní tipy k GDPR a dronům

1. Co když omylem natočím sousední pozemek nebo cizí osoby?

To je tzv. náhodný (kolaterální) sběr dat. Vaší povinností je taková data minimalizovat (např. směřováním kamery jen na svůj majetek) a pokud už je zaznamenáte, neprodleně je anonymizovat (rozmazat) nebo bezpečně smazat. Pro detailní nastavení procesů nás kontaktujte na office@arws.cz.

2. Musím mít na dronu cedulku s informacemi o GDPR?

Přímo na dronu je to nepraktické, ale musíte splnit informační povinnost. To se řeší např. cedulemi na hranici monitorovaného areálu, informacemi na vašem webu a tím, že pilot u sebe nese informační leták pro případné dotazy veřejnosti. Potřebujete poradit s nastavením? Napište na office@arws.cz.

GDPR a smluvní rizika

Rizika a sankce	Jak pomáhá ARROWS
Sběr záznamů bez právního základu nebo souhlasu. Hrozí pokuta od ÚOOÚ (až 4 % z celosvětového obratu) a žaloby na ochranu osobnosti.	Příprava GDPR dokumentace. Identifikujeme právní základ, nastavíme účel a připravíme balanční testy, které vás ochrání. Kontaktujte nás na office@arws.cz.
Chybějící DPIA (Posouzení vlivu) u rizikového monitorování. Pokuta od ÚOOÚ jen za samotné neprovedení DPIA předem.	Kompletní zpracování DPIA. Náš tým provede analýzu rizik a připraví kompletní DPIA (posouzení vlivu), které vyžaduje zákon. Chcete mít jistotu? Napište na office@arws.cz.
Nevýhodná smlouva s dodavatelem dronu nebo softwaru. Ztráta kontroly nad daty, drahá údržba, nemožnost změnit dodavatele (tzv. vendor lock-in).	Příprava a revize smluv. Zajistíme, že smlouvy o nákupu či službách chrání vás, ne jen dodavatele. Potřebujete revidovat smlouvu? Napište na office@arws.cz.
Použití dat k jinému účelu, než byl původní. (např. kontrola zaměstnanců). Neplatnost právního základu, riziko pracovněprávních sporů.	Vyhotovení interních směrnic. Nastavíme jasná pravidla, co se se sebranými daty smí a nesmí dělat, a ochráníme vás před spory. Spojte se s námi na office@arws.cz.

Mezinárodní provoz a budoucnost v U-Space

Právo dronů se rychle vyvíjí. Přestože základní pravidla EASA jsou harmonizovaná v celé EU, provoz v zahraničí má svá specifika. Každá země si sama definuje bezletové zóny (Geo-Zones) a může mít dodatečné národní požadavky. Například Polsko vyžaduje registraci každého letu ve speciální mobilní aplikaci DroneRadar.

Současně Evropa směřuje k zavedení U-Space – jednotného digitálního vzdušného prostoru pro drony. V tomto systému budou drony automatizovaně komunikovat mezi sebou a s řízením provozu. To ještě více posílí potřebu jasného právního vymezení odpovědnosti za autonomní rozhodnutí.

Pro naše klienty řešíme případy s mezinárodním prvkem prakticky denně. Díky naší deset let budované mezinárodní síti ARROWS International vám dokážeme okamžitě zajistit právní posouzení a povolení i v ostatních zemích EU i mimo ni.

Naše kancelář byla oceněna jako nejinovativnější právní firma, protože chápeme, jak propojit právo s moderní technologií a byznysem. Chystáte se s drony do zahraničí? Napište nám na office@arws.cz.

Proč řešit komplexní právo dronů s ARROWS?

Jak vidíte, nasazení dronů se dotýká leteckého práva, GDPR, pracovního práva, smluvního práva i odpovědnosti za vady. Je téměř nemožné, aby to firma zvládla interně bez chyb a pokryla všechna rizika.

V ARROWS máme s poradenstvím pro firmy bohaté zkušenosti. V našem portfoliu je více než 150 akciových společností a 250 s.r.o., kterým poskytujeme dlouhodobé právní služby. Zakládáme si na rychlosti a vysoké kvalitě.

Navíc nejsme jen právníci. Pro naše klienty aktivně vyhledáváme a propojujeme obchodní a investiční příležitosti. Rádi si poslechneme i váš byznysový nápad.

Náš tým v ARROWS je připraven vám poskytnout kompletní právní podporu "na klíč" – od úvodní analýzy rizik, přes získání licencí u ÚCL, přípravu SORA dokumentace, nastavení GDPR compliance (včetně DPIA) až po revize smluv s dodavateli.

Neváhejte se obrátit na naši kancelář – office@arws.cz a získejte partnera, který rozumí vašemu podnikání.

FAQ – Nejčastější právní dotazy k provozu firemních dronů

1. Jaký je hlavní právní rozdíl mezi "human-in-the-loop" a "human-on-the-loop"?

"Human-in-the-loop" (HITL) znamená, že stroj nemůže provést akci bez vašeho aktivního schválení. "Human-on-the-loop" (HOTL) znamená, že stroj jedná sám, ale vy ho sledujete a můžete ho zastavit. Volba ovlivňuje, zda v případě chyby odpovídáte za špatný příkaz (HITL), nebo za nedostatečný dohled (HOTL). Pokud řešíte nastavení odpovědnosti za AI, kontaktujte nás na office@arws.cz.

2. Kdo je právně odpovědný za dron – firma, nebo zaměstnanec-pilot?

Oba, ale každý za něco jiného. Firma (jako "provozovatel") odpovídá za registraci, pojištění a celkový stav dronu. Zaměstnanec (jako "pilot") odpovídá za provedení konkrétního letu v souladu s pravidly. Pro nastavení interních směrnic nás kontaktujte na office@arws.cz.

3. Kdy je povinné mít dron pojištěný a v jaké výši?

Pro komerční provoz téměř vždy. V kategorii 'Open' A2 nebo A3 (nad 4kg) je limit 1 milion Kč. Ve 'Specific' kategorii jsou limity vyšší, např. 5 milionů Kč pro drony 1-7 kg. Pozor na správnou kategorii, jinak je pojištění neplatné. Pro právní analýzu vaší kategorie nám napište na office@arws.cz.

4. Co je to SORA a týká se mě, pokud létám jen nad svým areálem?

SORA (Specific Operations Risk Assessment) je analýza rizik nutná pro povolení v kategorii 'Specific'. Pokud váš areál sousedí s obydlenou oblastí nebo jste blízko letiště, je velmi pravděpodobné, že do 'Specific' spadáte a SORA potřebujete. S přípravou dokumentace SORA vám pomůžeme, napište na office@arws.cz.

5. Musím řešit GDPR, i když dronem jen kontroluji střechy a komíny?

Ano. I při technické inspekci hrozí "náhodný" sběr osobních údajů (sousedé, kolemjdoucí). Musíte mít procesy pro jejich minimalizaci, zabezpečení a mazání. Pokud byste záznam chtěli použít i k jinému účelu (např. kontrola zaměstnanců), je to velmi rizikové. Pokud řešíte podobný problém, kontaktujte nás na office@arws.cz.

6. Hrozí mi pokuta, když nemám DPIA (posouzení vlivu na GDPR)?

Ano. Pokud provádíte systematické monitorování (např. ostraha areálu, dlouhodobé sledování staveniště), je DPIA téměř jistě povinné. Úřady mohou udělit pokutu jen za to, že DPIA nebylo vypracováno předem, bez ohledu na to, zda došlo k úniku dat. S přípravou DPIA máme zkušenosti, napište na office@arws.cz.

Nechcete tenhle problém řešit sami? Advokátní kanceláři ARROWS věří více než 2000 klientů a jsme oceněni jako Právnická firma roku 2024. Podívejte se ZDE na naše reference a bude nám ctí pomoci vám při řešení vašeho problému. Poptávka je zdarma.