EP podpořili zákaz AI aplikací, které umožňují vytvářet falešné sexuální snímky

Zjednodušení podpořilo 569 europoslanců, 45 jich bylo proti a 23 se zdrželo hlasování. Nyní mohou začít jednání Evropského parlamentu s Radou EU, která zastupuje členské státy o konečné podobě legislativy. Návrhy podpořilo celkem 18 českých europoslanců, proti byli jen dva – nezařazení Kateřina Konečná a Ondřej Dostál ze Stačilo!

Europarlament dnes schválil svou pozici k takzvanému AI omnibusu, tedy zjednodušujícímu digitálnímu balíčku. Návrh mimo jiné odkládá použitelnost určitých pravidel pro vysoce rizikové systémy umělé inteligence. Odklad má zajistit, že budou připraveny pokyny a normy, které společnostem pomohou s jejich zaváděním do praxe.

Pro vysoce rizikové AI systémy výslovně uvedené v nařízení (včetně těch, které zahrnují biometrii, a těch používaných v kritické infrastruktuře, vzdělávání, zaměstnanosti, základních službách, vymáhání práva, justici a správě hranic), navrhují europoslanci odklad na 2. prosince 2027.

Pro systémy umělé inteligence, na které se vztahují odvětvové právní předpisy EU o bezpečnosti a dozoru nad trhem, navrhují europoslanci 2. srpen 2028.

Akt o umělé inteligenci vstoupil v platnost 1. srpna 2024, jeho účinnost ale nabíhá postupně v několika vlnách. Původně měla většina povinností pro AI systémy s vysokým rizikem začít plně platit od počátku letošního srpna.

Europoslanci chtějí rovněž zavést nový zákaz systémů, které používají umělou inteligenci k vytváření nebo manipulaci se sexuálně explicitními nebo intimními obrázky, jež se podobají identifikovatelné skutečné osobě, a to bez jejího souhlasu. Zákaz souvisí se skandálem, kdy chatbot s umělou inteligencí Grok na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí.

„Vydírání nebo kyberšikana na základě vygenerovaných nahých fotek roste závratným tempem. Poskytovatelé těchto nástrojů dávají od zodpovědnosti ruce pryč, ale to podle mého návrhu už nebude možné,“ uvedla pirátská europoslankyně Markéta Gregorová z frakce Zelených. Nová pravidla podle ní stanovují, že poskytovatelé systémů generujících obrazový nebo video obsah musí přijmout veškerá opatření, aby podobnému zneužití zabránili. „Není možné, aby kvůli technologickému pokroku zůstali děti i dospělí bez ochrany. Pokud někdo vyvíjí nástroje, které dokážou generovat realistické obrázky nebo videa, musí zároveň nést odpovědnost za to, že nebudou zneužívány k ponižování, vydírání nebo šikaně lidí,“ dodala europoslankyně.

‚;
} else {
let zoneId = ‚78406‘;
zoneId = (zoneType === ‚autonaelektrinu‘) ? ‚230106‘ : zoneId;
div.innerHTML = “;
}
}