Byla jsem na skvělé přednášce profesora Smejkala na téma trestní odpovědnosti za AI a musím říct – žádné sci-fi, ale tvrdá realita! Umělá inteligence už dnes zasahuje do života natolik, že otázka „Kdo za ni nese odpovědnost?“ začíná být pěkně zapeklitá.
Pojďme se podívat na highlighty, které mě zaujaly a moje postřehy, které si odnáším:
Kdo odpovídá za škodu způsobenou AI?
Na první pohled to vypadá jasně: Za AI odpovídá vždy konkrétní osoba. Jenže co když je těch osob víc? Co když škoda nevznikne hned, ale až po nějaké době?
Například – firma vyvine AI systém, někdo ho nainstaluje, jiný ho spravuje, a nakonec ještě jiný využívá a nedodrží návod. Pak se něco pokazí… Kdo za to může?
Dva hlavní typy právní odpovědnosti za AI
1️⃣ Objektivní odpovědnost (občanský zákoník, zákon na ochranu spotřebitele).
Stačí prokázat jednání, škodu a příčinnou souvislost. Zavinění se neprokazuje. Funguje dobře pro majetkovou újmu, umožňuje rychlé odškodnění poškozeného.
2️⃣ Trestní odpovědnost (trestní zákoník)
Zde je třeba prokázat jednání, škodu, příčinnou souvislost + zavinění. Týká se závažných následků – smrti, újmy na zdraví, ohrožení bezpečnosti lidí. Hrozí pokuty, zákaz činnosti i vězení.
A tady začíná problém…
Jak může vzniknout trestní odpovědnost za AI?
Existují tři základní scénáře. Závada je způsobena:
1) AI jako nástrojem člověka → trestně odpovědný je daný člověk.
2) okolnostmi na člověku a AI nezávislými → není to trestný čin, ale stejně se bude dál zkoumat, zda tu nebylo předchozí, zpravidla nedbalostní jednání.
3) jednáním samotné bez způsobení nebo zavinění člověkem → jak ale dokázat, že nešlo o chybu systému nebo špatné nastavení?
Nepodařilo se prokázat trestněprávní odpovědnost daného člověka? Pozor na přesmyčku do trestní odpovědnosti právnických osob.
Firmy musí dávat pozor – pokud zanedbají analýzu rizik, testování stroje, který následně způsobil škodu na zdraví, je možné kvalifikovat delikt jako organizační selhání. Nelze vyloučit ale i obvinění konkrétní fyzické osoby (viz judikát 8 Tdo 124/2005 obecné ohrožení z nedbalosti je předsedy představenstva naplněno, pokud vědomě rezignuje na provádění kontrol v provozu).
Co s tím? Stačí nám stávající zákony?
Podle profesora Smejkala ano. Říká:
„Když vznikal internet, taky jsme nemuseli psát úplně nový trestní zákoník – našli jsme způsob, jak existující paragrafy aplikovat na online prostředí.“
Nevymýšlejme nové zákony, ale soustředně se na proces. Problém bude totiž s dokazováním, tam nás čeká pořádný kus práce. Najít nové metody kriminalistiky, aby bylo možné rozpoznat manipulaci s důkazy nebo dokonce vytváření falešných či neexistujících stop. Email, hlas, fotka, video, informace na sociálních sítích – jak poznat že jsou pravé a nikoli upravené?
Co trestní odpovědnost a AI Act? Jaké to má důsledky pro obchod?
AI Act zavádí přísné regulace a široký prostor pro interpretaci, což může vývojáře odradit od působení v EU. Když jsem slyšela profesora mluvit o právní nejistotě a dvojím výkladu pravidel, napadlo mě, že firmy raději zamíří tam, kde se nebudou muset bát, že „se do něčeho namočí“. A pokud EU dál zpřísní požadavky, může začít ztrácet dech oproti USA nebo Asii.
Závěr: AI trestně odpovědná nebude, ale lidi a firmy ano
✔️ Je nesmysl přiznat AI právní subjektivitu. Za současného stavu techniky za AI ponese odpovědnost konkrétní člověk nebo firma.
✔️ Není potřeba psát nové zákony, klíčové je naučit se efektivně aplikovat ty stávající.
✔️ Největší problém bude dokazování – jak odhalit deepfake video, manipulaci s důkazy a falešné digitální stopy.
A otázka do budoucna? Bude se Evropa přeregulovávat až k úniku firem jinam? To se brzy dozvíme…