Co přinese nové nařízení EU o umělé inteligenci (EU AI ACT) pro e-shopy a e-commerce?

Pokusili jsme se alespoň ve stručnosti shrnout to nejpodstatnější, co by mělo v souvislosti s EU AI nařízením zajímat online podnikatele, e-shopaře a další kolegy z e-commerce brandže.

Jednodušší či sofistikovanější prvky umělé inteligence se již staly v mnoha oblastech podnikání samozřejmostí a nejinak je to mu v oblasti e-commerce. EU AI Act zavádí specificky pro e-shopové podnikatele důraz na transparentnost AI systémů používaných pro personalizované reklamy a doporučení produktů. E-shopy musí zajistit, aby bylo zřejmé, když jsou zákazníkům prezentovány obsah nebo produkty na základě automatizovaného rozhodování. To zahrnuje informování uživatelů o tom, že jsou cílem AI řízeného obsahu, a poskytnutí možností pro zákazníky, jak ovlivnit, jaká data o nich jsou shromažďována a používána. E-shopové platformy by také měly být připraveny na dodržování přísnějších pravidel ochrany údajů a zvýšenou odpovědnost za škody způsobené rozhodnutími založenými na AI.

Hlavní body nařízení o umělé inteligenci pro e-shopové podnikatele

• Transparentnost AI: Musí být zřejmé, když je obsah nebo produkty personalizovány pomocí AI
• Informovanost uživatelů: Zákazníci musí být informováni o použití AI pro personalizaci a mít možnost ovlivnit, jaká data o nich jsou shromažďována
• Dodržování pravidel ochrany údajů: E-shopy se musí řídit přísnějšími pravidly ochrany údajů v souvislosti s AI
• Odpovědnost za škody: Zvýšená odpovědnost za potenciální škody způsobené rozhodnutími založenými na A.

To jsou hlavní aspekty, které by mohly být pro e-shopy nejdůležitější na základní úrovni. EU AI Act je ale komplexní legislativa, která pokrývá širokou škálu aplikací a pravidel. Zahrnuje dále detailní pravidla týkající se klasifikace rizik povinností pro vývojáře a provozovatele AI auditů, záznamů, transparentnosti a způsobu, jakým jsou data zpracovávána. V kontextu e-commerce by mohla být relevantní i pravidla pro AI systémy, které jsou používány pro profilování zákazníků, automatizované rozhodování, které má právní účinky pro jednotlivce, nebo AI aplikace v oblasti bezpečnosti produktů a služeb.

E-shopaři a další e-commerce provozovatelé by měli prioritně sledovat pravidla související s transparentností a zodpovědností AI systémů, zejména v oblastech personalizace a automatizovaného rozhodování. Bude důležité implementovat systémy, které umožňují uživatelům pochopit, jak jsou jejich data používána, a nabídnout možnosti pro správu těchto dat. Dále by měli být připraveni na dodržování přísnějších pravidel ochrany osobních údajů a zajistit, že jejich systémy jsou navrženy a provozovány eticky a transparentně.

E-commerce platformy budou muset zavést i odpovídající kontrolní mechanismy a postupy pro auditování.Příprava na možné právní otázky související s automatizovaným rozhodováním nebo profilováním bude důležitá. E-shopy by měly být připraveny demonstrovat soulad s AI nařízením tím, že budou schopny prokázat, jak jejich AI systémy přispívají k pozitivním výsledkům pro uživatele a jak jsou minimalizována jakákoli rizika. 

Koho se EU AI nařízení obecně týká? 

EU AI Act se vztahuje na všechny poskytovatele a uživatele AI systémů v EU, stejně jako na ty mimo EU, pokud jejich systémy ovlivňují občany EU. Zahrnuje široké spektrum odvětví od zdravotnictví po finance a v neposlední řadě i e-commerce.

Jaká práva a povinnosti vyplývají z EU AI nařízení pro uživatele?

EU AI Act zavádí práva a povinnosti i pro uživatele AI systémů. Uživatelé mají především právo na transparentnost v tom, jak jsou AI systémy používány, a na ochranu svých osobních údajů. Mají také možnost vyžádat si revizi rozhodnutí založených na AI, pokud tato rozhodnutí mají významný dopad na jejich životy.

U koho uživatelé tato práva mohou uplatnit?

Uživatelé mohou svá práva uplatnit u poskytovatelů AI systémů, uživatelů těchto systémů, nebo přímo u národních dozorových orgánů, které jsou odpovědné za dohled nad dodržováním EU AI Act v jednotlivých členských státech. V případě stížností nebo potřeby domáhat se svých práv bude uživatelům doporučeno obrátit se na příslušný dozorový orgán ve své zemi. V České republice je hlavním orgánem pro dohled nad dodržováním pravidel v oblasti ochrany osobních údajů a potenciálně i nad aplikací pravidel souvisejících s EU AI Act Úřad pro ochranu osobních údajů (ÚOOÚ).