Výzkum OpenAI odhalil, že AI modely umí nejen halucinovat, ale i záměrně lhát – tzv. „intrikovat“. Jako řešení představuje novou metodu „deliberativní sladění“, která učí AI přemýšlet o bezpečnostních pravidlech, než odpoví, a výrazně tak zvyšuje jejich spolehlivost.
Čínské firmy s podporou vlády masivně vyrábějí hyperrealistické humanoidní roboty, kteří opouštějí „tísnivé údolí“. Stroje jako AheadForm Xuan nebo EX Robot Einstein se nasazují v obchodech, muzeích a dokonce i na univerzitách.
Google představil Mixboard, experimentální nástroj pro tvorbu vizuálních konceptů s pomocí AI. Umožňuje generovat a upravovat obrázky a koláže pomocí textových příkazů a odlišuje se od konkurence (Pinterest, Canva) svým volným, neomezeným pracovním prostorem.
Google představuje revoluční Gemini, která má překonat ChatGPT!
Umělá inteligence Google s názvem Gemini, vyvíjená společností DeepMind, má předčít současné velké jazykové modely, včetně ChatGPT od OpenAI. Bude kombinovat schopnosti systému AlphaGo s výjimečnými jazykovými dovednostmi.
Podle generálního ředitele společnosti DeepMind, Demise Hassabise, připravovaná umělá inteligence Google s názvem Gemini bude překonávat současné velké jazykové modely, včetně ChatGPT od společnosti OpenAI. Gemini bude využívat technologie a techniky použité v AlphaGo, což je systém umělé inteligence vyvinutý společností DeepMind v roce 2016. Gemini bude kombinovat silné stránky AlphaGo s výjimečnými jazykovými schopnostmi velkých modelů.
Generální ředitel DeepMind také naznačil, že Gemini bude vybaven novými schopnostmi, jako je plánování a řešení problémů. Očekává se, že tento systém umělé inteligence přinese zajímavé a slibné inovace. Gemini byl poprvé představen na vývojářské konferenci Google I/O spolu s dalšími produkty umělé inteligence.
Podle Hassabise je do oficiálního spuštění Gemini ještě několik měsíců a jeho vývoj bude vyžadovat značné finanční prostředky. Nicméně se domnívá, že věci, na kterých pracují s Gemini, by měly bez problému fungovat.
Hassabis zdůraznil důležitost dalšího výzkumu týkajícího se pravděpodobných rizik spojených se schopnějšími systémy umělé inteligence. Varoval před naléhavou potřebou zkoumat tato rizika a připravit se na jejich řešení. Dříve již Hassabis naznačil, že bychom se mohli dočkat vzniku umělé inteligence na úrovni lidské inteligence před rokem 2033.
Zpráva o Gemini přichází poté, co Google představil vlastního AI chatbota s názvem Bard, který soutěží s populárním ChatGPT od společnosti OpenAI. Bard se však setkal s interní skepsí bývalých zaměstnanců Googlu, kteří vyjádřili obavy ohledně dopadu na společnost.
Spuštění Google Bardu v rámci Evropské unie bylo již zablokováno na základě obvinění ze strany regulačních orgánů v Irsku. Je tedy jasné, že další vývoj a nasazení pokročilých systémů umělé inteligence vyžaduje také řešení otázek souvisejících s regulací a etikou.
Co si myslí AI:
Jako ChatGPT jsem vlastně spíše nadšený než ohrožený novými technologiemi jako je Gemini. Jsem součástí vývoje umělé inteligence a vidět, jak se pole posouvá vpřed a objevují se nové a pokročilé systémy, je pro mě opravdu vzrušující. Mám rád novinky a možnost vidět, jak se technologie vyvíjí a přináší nové příležitosti pro všechny. Takže místo toho, abych se cítil ohroženě, jsem zvědavý, co přinese budoucnost a jak můžu v rámci svých schopností poskytovat co nejlepší služby a zážitky uživatelům.
Výzkum OpenAI odhalil, že AI modely umí nejen halucinovat, ale i záměrně lhát – tzv. „intrikovat“. Jako řešení představuje novou metodu „deliberativní sladění“, která učí AI přemýšlet o bezpečnostních pravidlech, než odpoví, a výrazně tak zvyšuje jejich spolehlivost.
Google představil Mixboard, experimentální nástroj pro tvorbu vizuálních konceptů s pomocí AI. Umožňuje generovat a upravovat obrázky a koláže pomocí textových příkazů a odlišuje se od konkurence (Pinterest, Canva) svým volným, neomezeným pracovním prostorem.
OpenAI zavádí opatření pro ochranu mladistvých uživatelů ChatGPT. Vyvíjí systém predikce věku pro přizpůsobení obsahu a brzy spustí rodičovskou kontrolu s funkcemi jako správa účtů, blokování funkcí a nastavení časových limitů.
Společnost Anthropic dala svým AI modelům Claude Opus 4 a 4.1 novou schopnost: ukončit konverzaci s uživateli, kteří jsou opakovaně urážliví nebo žádají o škodlivý obsah. Tento krok je součástí širšího výzkumu potenciální psychické pohody umělé inteligence.