Aktualizace: 3.07.2024 12:23
Praha – Jazykové modely založené na umělé inteligenci (AI) je možné zneužít pro rychlé šíření propagandy, ovlivňování veřejného prostoru či zahlcení informačního prostředí. Ve své výroční zprávě za rok 2023 to uvedlo Vojenské zpravodajství (VZ). Využívat tento typ umělé inteligence lze podle tajné služby také na automatizované kyberútoky či masivní působení na sociálních sítích s cílem polarizovat společnost.
Vytváření vysoce kvalitních a realistických obrázků a videí pak podle VZ umožňuje například tvorbu pornografického materiálu cíleného na konkrétní politické osobnosti s cílem vydírání či ovlivnění voleb. „Audiovizuální technologie generativní AI pak umožňují například tvorbu propagandistických videí sdílených skrze sociální sítě,“ uvádí zpravodajci. V případě generování zvuků lze pak zrekonstruovat hlas vybraného mluvčího a zneužít ho například pro spear-phishingové útoky, kdy jsou terčem konkrétní instituce nebo osoby.
Kombinace těchto technologií podle VZ umožňuje tvorbu realistických tzv. deepfake videí. „Takový pokus byl zaznamenán na začátku ruské invaze na území Ukrajinu, kdy byl šířen deepfake prezidenta (Volodymyra) Zelenského vyzývající ozbrojené síly Ukrajiny ke složení zbraní,“ píše VZ. Kvůli nízké kvalitě videa nebyl útok úspěšný. „To však nasvědčuje spíše nepřipravenosti Ruské federace na konflikt než nízké kvalitě generativních technologií,“ dodává VZ.
Minulý rok znamenal podle VZ významný mezník ve využití potenciálu umělé inteligence, na jejímž praktickém využití ve své činnosti tajná služba intenzivně pracuje. Významnou roli může hrát umělá inteligence například při automatickém vyhodnocování satelitních snímků a dalších dat. Hodit se může také u výcviku pilotů, při tvorbě scénářů pro válečné hry či při plánování logistiky. „V budoucnu lze také očekávat, že AI bude možné využívat pro podporu velení, zejména na taktické úrovni,“ stojí ve výroční zprávě.
Na využití AI pro vojenské účely podle VZ pracují zbrojařské společnosti. Vidět ho lze například u malých sebevražedných dronů na Ukrajině, kde umělá inteligence detekuje vojenské cíle. „V budoucnu (…) bude možné používat roje těchto malých drnů s dostatečně pokročilými AI technologiemi k eliminaci konkrétních cílů (osob) s velice nízkými náklady,“ konstatuje VZ. V případě širší dostupnosti technologie však hrozí využití pro teroristické účely, varuje.
Vznik a rozvoj umělé inteligence a s tím spojené ekonomiky dává podle VZ příležitost státům, které se včas a dostatečně zapojí, aby zvýšily svou ekonomickou sílu a pozici na mezinárodním poli. „Na druhou stranu hrozí, v případě nedostatečné konkurence způsobené malým množstvím silných, aktivních hráčů, koncentrace schopností u několika málo států,“ doplňuje VZ. Pokud nebudou světoví aktéři dost aktivní, hrozí masivní koncentrace této ekonomiky mezi dvě či tři velmoci, což povede i k posílení jejich vojenské a zpravodajské síly.
Technologické posuny podle VZ ale neznamenají, že je na místě rezignovat na konvenční způsob vedení válek. „Schopnost zajištění obrany klasickými zbraněmi a zbraňovými systémy proto nadále zůstává předpokladem obranyschopnosti země,“ stojí ve výroční zprávě VZ.
