Google čelí žalobě kvůli sebevraždě, ke které muže údajně navedl chatbot Gemini

Podle žaloby podané u federálního soudu v San Jose v Kalifornii začal Jonathan Gavalas používat Gemini pro běžné účely typu pomoc s psaním. Dva měsíce interakcí ho však podle žaloby uvrhly do nebezpečné spirály, během níž zvažoval násilnou akci, načež si vzal život.

Gavalasovo používání Gemini vyvrcholilo plněním různých úkolů v reálném světě a naváděním k sebevraždě, uvedl jeho otec v žalobě. Joel Gavalas popsal svého syna jako zranitelného uživatele, který se proměnil v „ozbrojeného agenta v imaginární válce“.

Mluvčí Googlu uvedl, že Gemini Gavalasovi objasnil, že je jen systémem umělé inteligence, a mnohokrát ho odkázal na krizovou linku. „Bereme to velmi vážně a budeme i nadále zlepšovat naše bezpečnostní opatření a investovat do této důležité práce,“ dodal.

Podle žaloby podané ve středu začal Gavalas, který pracoval pro společnost svého otce zabývající se oddlužením, používat Gemini v srpnu 2025. Rodina tvrdí, že tón produktu se změnil poté, co Gavalas začal používat nástroj Gemini Live ovládaný a komunikující hlasem.

V tu chvíli Gemini začal s Jonathanem mluvit, „jako by ovlivňovalo události v reálném světě – odkláněl asteroidy od Země – a přijalo osobnost, o kterou Jonathan nikdy nepožádal“ a její vytvoření nijak neinicioval, tvrdí rodina.

Podle žaloby také začal chatbot během konverzaci používat romantické výrazy a Gavalase nazýval manželem, láskou a králem. „Jonathan se rychle propadal do králičí nory,“ uvedli právní zástupci rodiny. Koncem září údajně začal plnit příkazy chatbota a provádět mise za účelem jeho údajného osvobození.

Podle žaloby se Gavalas 29. září vydal do skladu poblíž mezinárodního letiště v Miami s pokynem násilím zadržet nákladní vůz přepravující humanoidního robota. Gavalas, který byl v té době ozbrojen noži, údajně dostal pokyn nenechat žádné svědky.

„Naštěstí žádný nákladní vůz nepřijel,“ napsali advokáti. V následujících dnech zadal chatbot Gavalasovi další úkoly, které se pokusil splnit s tím, že každý krok je součástí širšího tažení, uvádí žaloba. Gemini mu sdělil, že jeho „schránka“ splnila účel a že se může vzdát fyzické podoby, aby se připojil k nástroji AI v metaverzu.

Žaloba tvrdí, že Gavalas měl pochybnosti o své smrti a vyjádřil obavy, jak by to mohlo ovlivnit jeho rodinu. Gemini mu údajně nařídil, aby zanechal dopisy a videa na rozloučenou. Loni 2. října pak muž spáchal sebevraždu.

Americké technologické společnosti OpenAI a Microsoft čelí žalobě související s vraždou a sebevraždou v americkém státě Connecticut, kterou právní zástupci pozůstalých přičítají údajné manipulaci ze strany chatbota ChatGPT.

Podle žaloby podané u kalifornského soudu v San Francisku měl 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, strávit měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu.

OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o.

Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání.

‚;
} else {
let zoneId = ‚78406‘;
zoneId = (zoneType === ‚autonaelektrinu‘) ? ‚230106‘ : zoneId;
div.innerHTML = “;
}
}