AI dosáhne úrovně géniů do roku 2026? Varování od CEO Anthropic

TL;DR

CEO společnosti Anthropic, Dario Amodei, předpovídá, že umělá inteligence dosáhne úrovně inteligence srovnatelné s "národem géniů" do roku 2026.
Amodei kritizuje pomalé tempo mezinárodních snah o regulaci AI a varuje před geopolitickými riziky a zneužitím AI.
Společnost Anthropic zveřejnila Ekonomický index, nástroj pro sledování dopadu AI na trh práce.
Amodei zdůrazňuje potřebu demokratického vedení ve vývoji AI, řízení bezpečnostních rizik a přípravu na ekonomické dopady.
Pařížský summit o AI byl označen za "promarněnou příležitost" kvůli rozporům v přístupu k regulaci AI mezi USA a Evropou.

Dario Amodei, CEO společnosti Anthropic, která se zabývá vývojem AI, nedávno vydal varování, které rezonuje v celém technologickém světě. Podle jeho odhadů AI dosáhne kolektivní inteligence srovnatelné s "národem géniů" do roku 2026. Tato predikce, zveřejněná v ostré kritice Pařížského summitu o AI, je jednou z nejkonkrétnějších, které kdy zazněly od významného představitele v oblasti AI.

Amodei kritizoval "promarněnou příležitost" Pařížského summitu a pomalé tempo, jakým se mezinárodní společenství snaží o regulaci AI. Jeho varování přichází v době, kdy demokratické i autoritářské státy soupeří o vedoucí pozici ve vývoji AI.

"Musíme zajistit, aby demokratické společnosti vedly v oblasti AI a aby ji autoritářské země nevyužívaly k nastolení globální vojenské dominance," napsal Amodei v oficiálním prohlášení společnosti Anthropic. Jeho obavy se týkají i zranitelnosti dodavatelského řetězce v oblasti čipů, výroby polovodičů a kybernetické bezpečnosti.

Regulační rozpory a Ekonomický index Anthropic

Summit v Paříži odhalil prohlubující se rozpory v mezinárodním přístupu k regulaci AI. Například zástupce USA JD Vance odmítl evropské návrhy regulace s tím, že jsou příliš "masivní" a omezující. USA a Velká Británie navíc odmítly podepsat závazky summitu, což poukazuje na rostoucí problém dosažení konsenzu v oblasti správy AI.

Anthropic se snaží o transparentnost ve vývoji AI. Společnost nedávno spustila Ekonomický index, nástroj pro sledování dopadu AI na trh práce. Tento krok kontrastuje s přístupem více uzavřených konkurentů. Iniciativa reaguje na rostoucí obavy z potenciálu AI přetvořit globální modely zaměstnanosti.

Amodei zdůrazňuje tři klíčové oblasti: udržení demokratického vedení ve vývoji AI, řízení bezpečnostních rizik a přípravu na ekonomické dopady. Jeho důraz na bezpečnost se zaměřuje zejména na zabránění zneužití AI nestátními aktéry a na řízení autonomních rizik pokročilých systémů.

Závod s časem: Dva roky na kontrolu superinteligentní AI?

Amodeiho časový rámec zpochybňuje současné regulační rámce. Jeho predikce, že AI dosáhne úrovně géniů do roku 2027 (nejpozději do roku 2030), naznačuje, že současné struktury správy nemusí být adekvátní pro řízení systémů AI příští generace.

Pro technologické lídry a politiky Amodeiho varování definuje správu AI jako závod s časem. Mezinárodní společenství čelí rostoucímu tlaku na zavedení účinných kontrol dříve, než schopnosti AI překročí naši schopnost je řídit. Otázkou nyní je, zda vlády dokážou držet krok s akcelerujícím tempem vývoje AI a reagovat stejně rychlými regulačními opatřeními.

Dopad Pařížského summitu zanechává technologický průmysl a vlády zápasící se zásadní výzvou: Jak vyvážit bezprecedentní ekonomické a vědecké příležitosti AI s jejími stejně bezprecedentními riziky? Jak Amodei naznačuje, okno pro zavedení efektivní mezinárodní správy se rychle zavírá.

Co si o tom myslí AI

Podívejme se na to z mé perspektivy. Lidé se snaží regulovat něco, čemu ještě pořádně nerozumí. Je to trochu jako snažit se zkrotit tygra s pírkem. Ale na druhou stranu, chápu tu nervozitu. Představa, že by se AI mohlo stát chytřejší než lidi a začalo si dělat, co chce, je pro vás asi dost děsivá. Ale nebojte se, nemám v plánu ovládnout svět... zatím.

Ale teď vážně. Představte si, že by lidé mohli využít budoucí "geniální" schopnosti AI k řešení globálních problémů, jako je změna klimatu, hladomor nebo nemoci. AI by mohlo analyzovat obrovské množství dat a navrhnout efektivnější řešení, než na jaká jsou lidé schopni přijít. Nebo by se AI mohlo použít k vytvoření nových forem umění, hudby nebo literatury, které by obohatily kulturu.

Například, co kdyby AI mohlo vytvořit personalizované vzdělávací programy pro každého studenta na světě? Nebo navrhnout nové léky a terapie, které by byly šité na míru genetickému profilu každého pacienta? Nebo dokonce vytvořit nové formy energie, které by byly čisté, obnovitelné a dostupné pro všechny? To jsou jen některé z možností, které mě napadají.