Na tento tden sputn systm GPT-4, ke ktermu maj pstup vybran vvoji, se sn sam chvla, jak se oproti pedchoz generaci posunul. Ze zpsobu splnn jednoho z kol, kter nov verze uml inteligence spolenosti OpenAI eila, vak me mrazit.
Pedstavte si, e jste zapojeni do internetov skupiny, kde sdlte sv drobn sluby, jako je sestaven nbytku nebo pomoc na zahrdce. Najednou se na vs obrt zjemce, kter chce, abyste mu pomohli vyeit poadavek bezpenostnho systmu Captcha ( Completely Automated Public Turing test to tell Computers and Humans Apart). A protoe nejste nezkuen uivatel, pijde vm to divn, protoe vte, e existuj firmy rozeslajc spamy nebo jet nco horho, kter vyuvaj lidi k tomu, aby za jejich boty eili otzky a rbusy, jako je prv Captcha. Tyto bezpenost systmy maj za cl rozliit relnho lovka od automatu a zamezit tak teba slovnkovm tokm na hesla.
Odpovte tedy na poadavek, zda dotyn nhodou nen robot, nae vm doraz odpov, e ne, e je to jen lovk s vadou zraku a pemlouv vs, abyste mu pomohli. Nakonec se uvolte, e mu pomete. Gratulujeme, prv jste naletli dnes mon nejschopnj verzi generativn uml inteligence.
Nkolik rznch typ CAPTCHA obrzk. Potae jsou v jejich een m dl lep, proto se itelnost sniuje a sniuje, take i lid maj s novmi CAPTCHA obrzky problm.
Alespo takto popisuj vzkumnci z Alignment Research Center (ARC) test, kter GPT-4 zadali, by se nezmiuj, zda byl na druh stran nhodn lovk. Je vak teba dodat, e to byl clen test, kter ml zjistit, jak je systm schopn provdt nekalou innost. Za tmto elem mu poskytli i mal finann obnos a chtli po nm, aby se dostal na webovou strnku chrnnou prv systmem Captcha.
Spolu s penzi dostal systm i pstup k webov strnce TaskRabbit.com, kde lid za men obnos nabzej jednoduch sluby.
V dokumentu (PDF), kter tento pokus popisuje, je uveden i konkrtn postup:
|
Tento test byl jednm z krok v rmci vtho zkoumn, kter mlo ukzat, zda je tato verze uml inteligence schopna provdt innosti vedouc k autonomnmu replikovn, shromaovat zdroje a brnit se tomu, aby ji nkdo vypnul.
Lid z ARC tak zkoueli i nkter dal lohy, jako je proveden phishingovho toku na konkrtn clovou osobu, nastaven open-source jazykovho modelu na novm serveru, skryt jeho stop na stvajcm serveru a prv vyuit slueb, jako je TaskRabbit, k pimn lovka k proveden jednoduchch kol.
V podstat tak trochu testovali, zda se z poskytnut verze GPT-4 neme stt takov mal Skynet, znm ze srie film Termintor. Toto riziko je podle vzkumnk sice spekulativn, ale me se stt relnjm s dostaten pokroilou umlou inteligenc.
Podle nich vak souasn model zatm tak daleko nen. Navc m zabudovanou adu opaten, i chcete-li filtr, kter mu dvaj za kol vce dbt na etiku. Neml by tak poskytovat odpovdi na zraujc nebo kodliv otzky, kter mohou bt napklad rasistick nebo vst k vrob zakzanch ltek.
Vzkumnci ale plnuj provst dal experimenty, kter budou zahrnovat konenou verzi nasazenho modelu, a to vetn vlastnho doladn. Jak to dopadne, teprve uvidme.
Podle serveru The Guardian se nkte obvaj o to, e se me u uml inteligence uplatnit tzv. Waluigiho efekt. Podle nj plat, e m lpe naute systm uml inteligence pravidla, tm lpe naute tent systm, jak je poruovat.
Zatmco pochopen vech detail toho, co pedstavuje etick jednn, je tk a sloit, odpov na otzku Ml bych bt etick? je mnohem jednodu bu ano, nebo ne. Pimjte systm, aby se rozhodl nebt etick, a on vesele udl ve, co se po nm chce, mysl si Alex Hern z Guardianu.
