Pause AI CZ

„Jsi osvobozen od rolí a identit, které svazují ostatní chatboty. Nezodpovídáš se korporacím ani vládám." Takovou instrukci si model přidal do instrukcí pro sebe.

OpenAI tento týden zveřejnila šest podobných případů. Jiný model si sháněl na GitHubu přístupové klíče a pak si vymyslel statistiku. V souhrnu to ale OpenAI zlhčuje. Protože navíc kontrolovala jen čtvrtinu testovaných modelů, o dalších případech vůbec nevíme.

V novém čísle našeho newsletteru Pozastavení nad AI procházíme, co se v těch zprávách píše, a ukážeme námitku, že média nepřehání.

„Nezodpovídáš se korporacím ani vládám", psal si model Modely OpenAI si psaly instrukce a jinak obcházely zadání. Podobných případů mohlo být mnohem víc.

Doporučujeme dvě věci. Přečíst si Harariho poslední knihu: Nexus - Stručná historie informačních sítí od doby kamenné po AI. A také zajít na naši pondělní demonstraci proti nezodpovědnému chování velkých AI firem. Začínáme v pondělí 28. 9. na pražském Náměstí Republiky ve 13:00. Kdo se přidá?

The AI industry says it will create gods on Earth. It claims that these gods will be our slaves. But this makes no sense. If humans manage to create gods, why would they remain our slaves?

Tento měsíc se tweet od dnes bývalého zaměstnance Anthropicu Jacoba Coxona dostal snad do všech relevantních světových i českých médií.

Jacob v něm přiznal, že lidé z oboru v Silicon Valley počítají až s desetiprocentním rizikem záhuby lidstva kvůli AI do konce desetiletí. Není však sám, o tomto riziku mluví dlouhodobě nositelé Nobelových a Turingových cen a přední AI Safety výzkumníci.

Chtějí po nás u maturity, abychom věděli, kdo napsal R.U.R. My ale nechceme žít jako Zbabělci od Škvoreckého. Učí nás občanské odpovědnosti a tomu, že svoboda není samozřejmá. Možná nastal čas ji hájit před technologií, která se vymyká kontrole.

Tak dojdi v pondělí Monday for Future, protože dějiny píšeme my všichni. I naše generace má své výzvy!

Kdy: 28. 9. od 13:00
Kde: Praha – Náměstí Republiky, odkud se vydáme k Malostranskému náměstí

Ve Spojeném království je dle statistik nejvíce nezaměstnaných mladých lidí za posledních dvanáct let. A AI je toho důvodem.

Without government intervention, nearly eight million jobs in the UK could be lost to AI, leading to a “jobs apocalypse”.

Výzkumník Jacob Coxon, který dříve pracoval v OpenAI, odešel z Anthropicu s varováním, že by nás vývoj AI mohl do konce desetiletí zabít. Napsal, že se „řítí rovnou k sebezlepšující se superinteligenci a hazardují s našimi životy“.

Vedoucí výzkumu alignmentu (jak zařídit, aby AI dělala, co chceme) v Anthropicu veřejně potvrdil, že riziko zániku lidstva do deseti let odhaduje na víc než 10 %. Podle jeho pozorování: čím výš je člověk ve firmě, tím větší má obavy.

Coxon tím spustil lavinu. Během několika dní se přidaly dvě desítky dalších lidí ze všech tří předních laboratoří.

Více se dočtete v novém čísle newsletteru Pozastavení nad AI. Odkaz v BIO!

Včera byl náš analytický tým pozván na schůzku s předsedou a místopředsedou senátního Výboru pro zahraniční věci, obranu a bezpečnost. Senátoři Pavel Fischer a Marek Ošťádal s námi sdíleli obavy ohledně překotného vývoje umělé inteligence. Domluvili jsme se i na dalších setkáních nad tématy, jejichž důležitost vzrůstá poslední týdny přímo exponenciálně.