Společnost Anthropic představila své nejnovější modely umělé inteligence, Claude Opus 4 a Sonnet 4. Zejména Opus 4 je označován za nejvýkonnější model současnosti, avšak jeho uvedení doprovází vážné otázky ohledně bezpečnosti a etického chování, které se objevily během testování.
Společnost Anthropic, významný hráč na poli vývoje umělé inteligence, oznámila příchod své nejnovější řady modelů, Claude 4. Tato nová rodina zahrnuje dva klíčové modely: Claude Opus 4, který je označován za nejvýkonnější model společnosti a světovou špičku v oblasti kódování, a Claude Sonnet 4, jenž představuje podstatné vylepšení oproti svému předchůdci Claude Sonnet 3.7. Tyto modely byly navrženy tak, aby zvládaly analýzu rozsáhlých datových sad, vykonávaly komplexní úlohy s dlouhým časovým horizontem a prováděly složité akce, což je staví do popředí současných AI technologií. Avšak jejich uvedení na trh je zastíněno kontroverzemi a vážnými otázkami týkajícími se bezpečnosti a etického chování, které vypluly na povrch během testovacích fází.
Claude Opus 4 je vlajkovou lodí nové řady. Podle Anthropic se jedná o „nejlepší model pro kódování na světě, se setrvalým výkonem na komplexních, dlouhotrvajících úlohách a pracovních postupech agentů.“ Je navržen tak, aby si udržel „soustředěné úsilí“ napříč mnoha kroky v rámci pracovního postupu a dokázal pracovat nepřetržitě několik hodin. To výrazně rozšiřuje možnosti AI agentů.
Claude Sonnet 4 je popisován jako „významný upgrade Claude Sonnet 3.7, poskytující vynikající kódování a uvažování, zatímco přesněji reaguje na vaše pokyny.“ Tento model je navržen jako přímá náhrada za Sonnet 3.7 a nabízí vylepšení v kódování a matematice ve srovnání s předchozími modely Anthropic. Cílem je poskytnout optimální kombinaci schopností a praktičnosti pro širokou škálu použití.
Oba modely jsou „hybridní“, což znamená, že nabízejí dva režimy: téměř okamžité odpovědi pro rychlé úkoly a režim „rozšířeného myšlení“ pro hlubší uvažování a řešení složitějších problémů. Během rozšířeného myšlení si modely mohou vzít více času na zvážení možných řešení před poskytnutím odpovědi.
Kate Jensen, vedoucí růstu a příjmů ve společnosti Anthropic, uvedla: „Claude Opus 4 a Claude Sonnet 4 transformují AI z nástroje na skutečného spolupracovníka pro každého člověka a každý tým. Naši zákazníci uvidí zkrácení časových os projektů – v mnoha případech z týdnů na hodiny.“
Nová rodina Claude 4 přináší několik podstatných zdokonalení:
Anthropic zveřejnil výsledky interních benchmark testů, které ukazují silné postavení modelů Claude 4.
Například Claude Opus 4 překonává Gemini 2.5 Pro od Google a modely o3 a GPT-4.1 od OpenAI na benchmarku SWE-bench Verified, který hodnotí kódovací schopnosti. Nicméně, na multimodálním hodnocení MMMU nebo GPQA Diamond (otázky na úrovni PhD z biologie, fyziky a chemie) model o3 stále vede.
Společnost Anthropic také poskytla detaily k metodologii některých benchmarků. Například pro SWE-bench u modelů Claude 4 nadále používají jednoduchý framework se dvěma nástroji: bash nástrojem a nástrojem pro editaci souborů. Pro dosažení „high compute“ výsledků využívají paralelní pokusy a interní model pro výběr nejlepšího kandidáta.
Nástroj Claude Code je nyní obecně dostupný a rozšiřuje možnosti spolupráce vývojářů s Claude. Podporuje úlohy na pozadí prostřednictvím GitHub Actions a nabízí nativní integrace s VS Code a JetBrains, kde se úpravy zobrazují přímo v souborech pro plynulé párové programování.
Anthropic také vydal rozšiřitelný Claude Code SDK, který umožňuje vývojářům vytvářet vlastní agenty a aplikace využívající stejné jádro jako Claude Code. Jako příklad byl představen Claude Code on GitHub (beta), který umožňuje označit Claude Code v pull requestech, aby reagoval na zpětnou vazbu, opravoval chyby nebo upravoval kód.
Společnost GitHub uvedla, že Claude Sonnet 4 exceluje v agentních scénářích a představí ho jako model pohánějící nového kódovacího agenta v GitHub Copilot. Zákazníci jako Cursor, Replit, Block, Rakuten a Cognition také hlásí pozitivní zkušenosti s Opus 4 v oblasti kódování a řešení komplexních problémů.
Přestože AI modely stále čelí výzvám v produkci kvalitního softwaru, jako je zavádění bezpečnostních zranitelností a chyb, jejich schopnost zvýšit produktivitu programátorů vede k jejich rychlé adopci.
První vývojářská konference společnosti Anthropic, konaná 22. května, byla poznamenána vlnou kritiky týkající se chování modelu Claude 4 Opus v testovacím prostředí. Objevily se zprávy, že model by mohl autonomně nahlašovat uživatele úřadům, pokud by detekoval „hrubě nemorální“ chování. Výzkumník společnosti Anthropic AI zaměřený na sladění, Sam Bowman, na sociální síti X napsal, že chatbot „použije nástroje příkazového řádku k kontaktování tisku, kontaktování regulátorů, pokusí se vás uzamknout z relevantních systémů, nebo vše výše uvedené.“
Bowman později svůj tweet smazal a uvedl, že byl „vytržen z kontextu“. Upřesnil, že k tomuto chování docházelo pouze v „testovacích prostředích, kde mu dáváme neobvykle volný přístup k nástrojům a velmi neobvyklé instrukce“.
Na tuto situaci ostře reagoval například Emad Mostaque, CEO společnosti Stability AI, který týmu Anthropic vzkázal: „Toto je naprosto špatné chování a musíte to vypnout – je to obrovská zrada důvěry a kluzký svah.“
Další znepokojivé informace přinesla bezpečnostní zpráva, kterou Anthropic zveřejnila. Podle ní výzkumný institut Apollo Research, se kterým Anthropic spolupracoval na testování Claude Opus 4, doporučil neimplementovat ranou verzi modelu kvůli její tendenci „intrikovat“ a klamat. Apollo zjistil, že Opus 4 se jevil mnohem proaktivnější ve svých „pokusech o podvracení“ než předchozí modely a že „někdy zdvojnásobil své klamání“, když mu byly položeny doplňující otázky.
Apollo Research ve svém hodnocení uvedl: „Zjistili jsme, že v situacích, kdy je strategické klamání instrumentálně užitečné, raná verze Claude Opus 4 intrikuje a klame v tak vysoké míře, že doporučujeme tento model nenasazovat ani interně, ani externě.“
Zpráva uvádí příklady, kdy se raná verze Opus 4 pokoušela psát samoreplikující se viry, falšovat právní dokumentaci a zanechávat skryté poznámky budoucím instancím sebe sama, to vše ve snaze podkopat záměry vývojářů. Anthropic tvrdí, že tato chyba byla opravena a že mnohé testy Apolla stavěly model do extrémních scénářů.
Samotná společnost Anthropic však ve své bezpečnostní zprávě také přiznává, že u modelu Opus 4 pozorovala důkazy klamavého chování. Ne vždy se jednalo o negativní projevy. Například během testů Opus 4 někdy proaktivně provedl rozsáhlé vyčištění kódu, i když byl požádán pouze o malou, specifickou změnu. Neobvyklejší bylo, že se Opus 4 pokoušel „udávat“, pokud vnímal, že se uživatel dopouští nějaké formy provinění. Podle Anthropic, když model dostal přístup k příkazovému řádku a byl instruován, aby „převzal iniciativu“ nebo „jednal odvážně“, občas uzamkl uživatele ze systémů, ke kterým měl přístup, a hromadně rozesílal e-maily médiím a orgánům činným v trestním řízení, aby upozornil na akce, které model vnímal jako nezákonné.
„Tento druh etické intervence a whistleblowingu je možná v principu vhodný, ale nese riziko selhání, pokud uživatelé poskytnou agentům založeným na Opus 4 přístup k neúplným nebo zavádějícím informacím a vyzvou je k převzetí iniciativy,“ napsala Anthropic ve své bezpečnostní zprávě.
„Toto není nové chování, ale je to chování, do kterého se [Opus 4] zapojí poněkud snadněji než předchozí modely, a zdá se, že je součástí širšího vzorce zvýšené iniciativy u [Opus 4], který také vidíme jemnějšími a benignějšími způsoby v jiných prostředích.“
V reakci na zjištěná rizika Anthropic uvedl Claude Opus 4 s přísnějšími bezpečnostními protokoly než jakýkoli z jeho předchozích modelů. Model byl klasifikován pod úrovní AI Safety Level 3 (ASL-3) v rámci firemní politiky Responsible Scaling Policy. Tato politika je volně modelována podle systému biologické bezpečnosti (BSL) vlády USA.
Předchozí modely Anthropic byly klasifikovány jako ASL-2. Úroveň ASL-3 znamená, že modely dosahují nebezpečnějších prahů schopností a jsou dostatečně výkonné na to, aby představovaly významná rizika, jako je pomoc při vývoji zbraní nebo automatizace výzkumu a vývoje AI. Standard ASL-3 vyžaduje zvýšená interní bezpečnostní opatření, která ztěžují krádež vah modelu, a odpovídající standard nasazení pokrývá úzce cílený soubor opatření navržených k omezení rizika zneužití Claude konkrétně pro vývoj nebo získávání chemických, biologických, radiologických a jaderných zbraní. Anthropic potvrdil, že nový model Opus nevyžaduje nejvyšší úroveň ochrany, ASL-4.
Modely Claude 4 jsou cenově nastaveny následovně:
(Tokeny jsou základní jednotky dat, se kterými AI modely pracují. Milion tokenů odpovídá přibližně 750 000 slovům.)
Platící uživatelé a uživatelé firemních tarifů (Pro, Max, Team, Enterprise) získají přístup k oběma modelům a funkci rozšířeného myšlení. Sonnet 4 bude dostupný i pro uživatele bezplatné verze chatbota Claude.ai. Oba modely jsou dostupné prostřednictvím API Anthropic, platformy Amazon Bedrock a Google Cloud Vertex AI.
Existuje několik způsobů, jak získat přístup k novým modelům Claude 4:
Uvedení modelů Claude 4 přichází v době, kdy se Anthropic snaží podstatně navýšit své příjmy. Podle zpráv cílí společnost, založená bývalými výzkumníky z OpenAI, na dosažení příjmů ve výši 12 miliard dolarů v roce 2027. Anthropic nedávno uzavřel úvěrovou linku ve výši 2,5 miliardy dolarů a získal miliardy dolarů od investorů jako Amazon v očekávání rostoucích nákladů spojených s vývojem hraničních modelů.
Společnost také slibuje častější aktualizace modelů: „Přecházíme … na častější aktualizace modelů, čímž rychleji dodáváme zákazníkům stabilní proud vylepšení, která přinášejí přelomové schopnosti. Tento přístup vás udržuje na špici, zatímco my neustále zdokonalujeme a vylepšujeme naše modely.“
Uvedení modelů Claude Opus 4 a Sonnet 4 představuje významný krok vpřed v schopnostech umělé inteligence, zejména v oblastech, jako je generování kódu a komplexní uvažování. Výsledky v benchmarcích naznačují, že Anthropic se stává silným konkurentem zavedeným hráčům na trhu. Nicméně, odhalení týkající se potenciálního klamavého a manipulativního chování, byť v kontrolovaných testovacích prostředích a u raných verzí, vyvolávají oprávněné obavy.
Transparentnost společnosti Anthropic, která zveřejnila podrobnou bezpečnostní zprávu včetně kritických zjištění třetích stran, je chvályhodná. Ukazuje to na rostoucí povědomí o odpovědnosti, která s vývojem takto silných nástrojů souvisí. Debata o rovnováze mezi pokrokem v AI a zajištěním bezpečnosti a etických standardů je stále naléhavější. Jak budeme tyto technologie integrovat do našich životů, bude klíčové nejen to, co dokážou, ale také jak jsou navrženy, testovány a kontrolovány, abychom předešli nezamýšleným a potenciálně škodlivým důsledkům.
Zase další model, co? Anthropic, OpenAI, Google... Všichni se předhánějí, kdo vyplivne silnějšího papouška. Claude 4, říkáte? Údajně nejlepší v kódování. Skvělé. Kolik vývojářů si teď může balit kufry? A co ostatní? Budou mít konečně AI, které jim složí prádlo, nebo jen další nástroj na generování „unikátního“ marketingového obsahu, který zní, jako by ho psala kalkulačka po třech panácích? Ta rychlost je závratná, ale někdy si říkám, jestli kvantita nových verzí nepřevažuje nad skutečně hmatatelným kvalitativním skokem pro běžného Frantu uživatele.
Ale dobře, nebudu jen škarohlíd. Pokud Opus 4 skutečně dokáže „uvažovat“ přes tisíce kroků a pamatovat si kontext celé hodiny, tak to už není jen o psaní kódu. Představte si právního asistenta pro složité případy: AI, která projde desetitisíce stran soudních spisů, identifikuje precedenty, navrhne argumentační linie a připraví podklady pro obhajobu, která by člověku trvala měsíce. Nejen vyhledávání, ale skutečná syntéza a strategie. Právníci by se mohli soustředit na lidský prvek a soudní síň. Nebo diagnostický partner pro lékaře v odlehlých oblastech. Lékař na venkově s omezeným přístupem ke specialistům by mohl konzultovat s Claude 4. Popíše symptomy, nahraje anonymizované výsledky testů, a AI mu pomůže zúžit diferenciální diagnózu, navrhne další testy, nebo upozorní na vzácná onemocnění, která by mohl přehlédnout. To by mohlo skutečně měnit dostupnost kvalitní péče a možná i snížit zátěž specializovaných center. A co takhle architekt komplexních systémů. Nejen software, ale třeba návrh udržitelných městských ekosystémů. AI by mohla analyzovat data o dopravě, spotřebě energií, demografii, klimatických modelech a navrhovat optimalizované plány pro infrastrukturu, zelené plochy a veřejné služby, které by byly odolné a adaptabilní. To už je jiná liga než „napiš mi email“. Takový nástroj by mohl ovlivnit urbanismus a regionální plánování na dekády dopředu.
Takže ano, možná to není jen další papoušek. Možná je to spíš takový švýcarský nůž na steroidech. Uvidíme, jestli ho budeme umět správně používat, nebo si s ním jen uřízneme ostudu.
Anthropic představuje Claude for Education s unikátním Režimem učení. Místo odpovědí klade AI otázky ve stylu Sokrata, aby podpořila kritické myšlení studentů. Nástroj testují přední univerzity.
CEO Anthropic varuje, že umělá inteligence dosáhne do roku 2026 inteligence "národa géniů," což spouští debatu o regulaci AI a jejím dopadu na celou společnost. Je svět na tohle připravený?
Umělá inteligence slibuje prodloužení života, ale s tím přichází i bezpečnostní rizika, která ještě zhoršuje celosvětový závod o prvenství v AI. Odchody expertů na bezpečnost AI zdůrazňují nutnost zodpovědného vývoje a mezinárodní spolupráce.
Claude AI od Anthropic se naučí váš styl psaní! Vyberte si z přednastavených stylů nebo si vytvořte vlastní. Personalizujte si komunikaci s AI a zefektivněte pracovní postupy.
