Hackeři využili AI k odhalení softwarové chyby a následnému útoku, uvedl Google

Incident je prvním případem, kdy společnost Google identifikovala útočníky, kteří pomocí AI odhalili dosud neznámou slabinu a pokusili se ji zneužít ve velkém měřítku, dodala společnost. Google informoval dotčenou firmu i orgány činné v trestním řízení. Operaci zastavil dříve, než stačila způsobit škody.

Podle hlavního analytika Google Threat Intelligence Group Johna Hultquista jde o špičku ledovce z hlediska toho, jak kybernetičtí zločinci a hackeři za podpory států jako Severní Korea nebo Čína inovují s využitím AI. V tomto konkrétním případě Google nepodezřívá skupinu napojenou na některou z vlád, o které uskupení se jedná, ale neuvedl.

Útočníci začínají část kybernetických operací přenechávat AI a využívají ji k autonomnímu vyhledávání softwarových chyb a k vytváření takzvaného malwaru (škodlivého softwaru). Posun představuje krok směrem k autonomnějším kybernetickým útokům. Útočníci začínají spoléhat na systémy AI nejen jako na výzkumné nástroje, ale i jako na aktivní komponenty analyzující cíle útoku, generující škodlivý kód i rozhodující pod omezeným lidským dohledem, uvedli výzkumníci.

Při sledování stop hackerů společnost nalezla důkazy o tom, že k odhalení této slabiny využili velký jazykový model (LLM), tedy stejnou technologii, na níž stojí i populární chatboty. Společnost nicméně neuvedla, který LLM útočníci použili. Nejednalo se ale údajně s největší pravděpodobností o její model Gemini, ani o Claude Mythos společnosti Anthropic.

‚;
} else {
let zoneId = ‚78406‘;
zoneId = (zoneType === ‚autonaelektrinu‘) ? ‚230106‘ : zoneId;
div.innerHTML = “;
}
}