Aktual.: 20.03.2025 20:33
Vídeň/Oslo – Rakouská spotřebitelská organizace NOYB podala v Norsku stížnost na americkou společnost OpenAI kvůli šíření lživých informací o konkrétních lidech prostřednictvím chatbotu ChatGPT. Oznámila to v tiskové zprávě. Podle spotřebitelské organizace tento jazykový model s prvky umělé inteligence (AI) opakovaně generuje nepravdivé a poškozující informace, včetně falešných obvinění z trestné činnosti, čímž prý porušuje legislativu na ochranu osobních údajů.
Konkrétní případ, na který NOYB upozorňuje, se týká norského občana Arveho Hjalmara Holmena, jehož jménem organizace stížnost podala. Ten zjistil, že ChatGPT o něm vytvořil smyšlený příběh, podle nějž byl odsouzen za vraždu svých dvou dětí a pokus o vraždu třetího potomka. Kromě těchto nepravdivých informací chatbot zahrnul do odpovědi i Norovy skutečné osobní údaje, včetně jeho rodiště a počtu jeho dětí.
NOYB požaduje, aby OpenAI odstranila zavádějící informace, upravila svůj model tak, aby podobným chybám předcházela, a zavedla mechanismus pro opravu chybných údajů. Organizace zároveň navrhla, aby norský úřad pro ochranu osobních údajů OpenAI udělil pokutu jako varování před dalšími podobnými případy.
Podle právníků organizace NOYB umožňuje OpenAI vědomě šíření zavádějících informací, čímž porušuje zásadu přesnosti dat podle jednoho z článků evropského nařízení GDPR.
„Obyčejní lidé se mohou stát obětí falešných obvinění, která mohou vážně poškodit jejich pověst,“ uvedl právník NOYB Joakim Söderberg specializující se na ochranu osobních údajů.
OpenAI navíc podle Söderberga neposkytuje žádný mechanismus, jak chybné informace opravit nebo odstranit. Podle NOYB se v důsledku nesprávná data nadále šíří a nelze se proti tomu účinně bránit.
Případ zřejmě souvisí s takzvanými halucinacemi. Halucinace jsou v kontextu AI a jazykových modelů označením pro vygenerované odpovědi, které obsahují nepravdivé nebo zavádějící informace. Může jít rovněž o výsledek nedostatečných, neaktuálních nebo zkreslených trénovacích dat.
NOYB, což je zkratka z anglických slov None of Your Business (Do toho vám nic není) je rakouská spotřebitelská organizace sídlící ve Vídni. Založena byla v roce 2017 a zabývá se ochranou soukromí napříč Evropou.
Spotřebitelská organizace stojí také za loňskými stížnostmi v několika zemích EU a Norsku na firmu Meta kvůli záměru využívat uživatelská data na síti Facebook k trénování AI a na platformu X kvůli způsobu, kterým sbírá data uživatelů pro trénování svých systémů AI.