Aktualizace: 14.03.2024 12:47
Praha – V současné době dokáže umělá inteligence (AI) napodobit mluvu člověka tak, že téměř nelze poznat rozdíl. V případě obrazu a videa to ještě dokonalé není, ale v blízké době to technologie dožene. V rozhovoru, který ČTK zaslala Akademie věd ČR (AV ČR), to uvedla Barbara Zitová z Ústavu teorie informace a automatizace AV ČR. Ve středu europoslanci schválili nová pravidla pro fungování umělé inteligence.
„Technologie AI se rychle posouvá kupředu, neboť se zvedá výpočetní síla, experti sbírají větší množství dat a hlavně tím, jak je ta oblast stále zajímavější, tak ten výzkum začíná dělat více lidí,“ uvedla Zitová.
Vytvořit takzvaný deep fake je podle vědkyně možné vytvořit velice rychle. Stačí většinou dvě minuty toho daného člověka. Anglický termín složený ze slov deep (hluboký) a fake (podvrh) se používá k označení pokročile padělaných videí, zvuků či snímků, které jsou často jen obtížně rozeznatelné od skutečnosti.
Podle odbornice v dnešní době softwary nabízí jakousi ochranu v podobě souhlasu konkrétního člověka, ale určitě se najdou softwary, u kterých se to dá obejít. „U audia stačí i minutový záznam a z mnou zkoušené aplikace vím, že tam ani žádné omezení a potřeba souhlasu není,“ dodala Zitová.
Vytvořit deep fake podle Zitové dokáže i laik. „Technologie je dostupná široké veřejnosti. Některé firmy své služby začínají zpoplatňovat, avšak to neodradí ty, kteří se takovým podvrhem pokouší něčeho dosáhnout,“ řekla vědkyně.
Ověřit si identitu člověka na druhé straně telefonu lze nějakou informací, kterou znají pouze dotyční či nějakým heslem. Další možností je přemýšlet nad obsahem sdělení a v nejlepším případě zavolat danému člověku zpátky. „Je reálné, že budeme mít na mobilech aplikaci, která bude ověřovat, jestli je na druhé straně umělá inteligence nebo člověk,“ zmínila Zitová. Banky by podle ní měly odstoupit od ověřování identity hlasem.
Nejčastěji se deep fake objevuje v médiích, politice. V současné době je i hrozbou před volbami, míní expertka. „Umělou inteligenci nemůžeme zakázat, nějak omezit ano, ale tou hlavni ochranou je vzdělávání v této oblasti a osvěta od médií,“ uvedla Zitová.
Europoslanci ve středu schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.
„Nová pravidla, které přijali europoslanci, mohou zavést v praxi určitá omezení v jakých oblastech se to bude nasazovat a používat a za jakých podmínek. Dodavatelé budou muset mít potvrzení, zdroje dat a podobně. Ale zároveň je tam prvek toho, že v okamžiku, když s vámi bude mluvit umělá inteligence, tak musí lidé vědět, že mluví s ní a ne s reálným člověkem,“ řekla Zitová.
