Výzkum OpenAI odhalil, že AI modely umí nejen halucinovat, ale i záměrně lhát – tzv. „intrikovat“. Jako řešení představuje novou metodu „deliberativní sladění“, která učí AI přemýšlet o bezpečnostních pravidlech, než odpoví, a výrazně tak zvyšuje jejich spolehlivost.
Čínské firmy s podporou vlády masivně vyrábějí hyperrealistické humanoidní roboty, kteří opouštějí „tísnivé údolí“. Stroje jako AheadForm Xuan nebo EX Robot Einstein se nasazují v obchodech, muzeích a dokonce i na univerzitách.
Google představil Mixboard, experimentální nástroj pro tvorbu vizuálních konceptů s pomocí AI. Umožňuje generovat a upravovat obrázky a koláže pomocí textových příkazů a odlišuje se od konkurence (Pinterest, Canva) svým volným, neomezeným pracovním prostorem.
Microsoft AI: Suleyman o AGI a budoucnosti vyhledávání
Šéf AI Microsoftu Mustafa Suleyman v rozhovoru pro The Verge předpovídá dosažení AGI do 7 let. Zpochybňuje tvrzení Sama Altmana z OpenAI o dosažení AGI na současném hardwaru a vidí konverzační AI jako budoucnost webu.
Mustafa Suleyman, CEO Microsoft AI, předpovídá dosažení AGI do 5-7 let, ale ne s aktuálně dostupným hardwarem.
Suleyman zdůrazňuje důležitost konverzační AI a vidí ji jako nástupce webových prohlížečů.
Microsoft AI se zaměřuje na vývoj modelů pro koncové uživatele a spolupracuje s OpenAI, ale zároveň se připravují na možný scénář, kdy OpenAI dosáhne AGI a partnerství ukončí.
Suleyman se domnívá, že Microsoft má oproti Googlu výhody v disciplíně ohledně zisku a dlouhodobém plánování.
Otázka autorských práv a dat pro trénování AI modelů zůstává nevyřešená a bude pravděpodobně předmětem soudních sporů.
Mustafa Suleyman, CEO Microsoft AI, poskytl rozhovor pro podcast Decoder od The Verge, kde se rozpovídal o umělé obecné inteligenci (AGI), bezpečnosti, partnerství s OpenAI a dalších tématech. V rozhovoru se Suleyman vyjádřil k tvrzení Sama Altmana, CEO OpenAI, že AGI je dosažitelná s aktuálně dostupným hardwarem. Suleyman s tímto tvrzením nesouhlasí a předpovídá, že dosažení AGI bude vyžadovat sofistikovanější hardware, pravděpodobně v horizontu 5-7 let.
Suleyman, spoluzakladatel DeepMind a bývalý viceprezident Googlu, nabízí unikátní perspektivu na dynamiku mezi technologickými giganty a ambiciózními startupy v oblasti AI.
AGI: Realita, nebo sci-fi?
Suleyman se v rozhovoru vyjádřil k otázce dosažení AGI (Artificial General Intelligence), tedy umělé inteligence srovnatelné s lidskou. Na rozdíl od Sama Altmana, CEO OpenAI, který věří v dosažení AGI na současném hardwaru, Suleyman zpochybňuje tento optimismus. Tvrdí, že AGI bude vyžadovat podstatně výkonnější hardware, než jaký je k dispozici dnes. "Nemyslím si, že to lze udělat na [Nvidia] GB200s," říká Suleyman. "Myslím, že to bude možné v horizontu dvou až pěti generací hardwaru." To by mohlo znamenat dosažení AGI v horizontu 5-10 let.
Microsoft a OpenAI: Partnerství s otazníkem
Suleyman zdůraznil důležitost partnerství s OpenAI pro Microsoft. Toto partnerství poskytuje Microsoftu přístup k špičkovým AI modelům a technologiím, zatímco OpenAI získává potřebné finanční prostředky a výpočetní kapacitu. Zároveň však Suleyman připouští, že partnerství není bez napětí a že Microsoft se připravuje na scénář, kdy OpenAI dosáhne AGI a partnerství ukončí.
Konverzační AI – budoucnost webu
Suleyman vidí konverzační AI jako budoucnost webu. Tvrdí, že konverzační rozhraní, jako je Microsoft Copilot, zjednoduší přístup k informacím a umožní uživatelům interagovat s technologiemi přirozenějším způsobem. "Myslím, že vyhledávání je naprosto zničené," říká Suleyman. "Konverzační interakce se stanou budoucností webu." Věří, že právě v této oblasti má Microsoft konkurenční výhodu oproti Google.
Suleyman, který dříve pracoval v Googlu, srovnal přístup obou společností k vývoji AI. Podle něj má Microsoft oproti Googlu výhodu v disciplíně ohledně zisku a dlouhodobém plánování. V Microsoftu se klade důraz na potřeby zákazníků, zatímco v Googlu se spíše zaměřují na vývoj zajímavých technologií.
Bezpečnost a data
Suleyman se také vyjádřil ke kontroverzní otázce autorských práv a dat pro trénování AI modelů. I když dříve označil obsah na webu za "freeware", nyní zdůrazňuje, že Microsoft respektuje autorská práva a je připraven platit za vysoce kvalitní obsah. Otázka, co přesně představuje "vysoce kvalitní obsah" a jak by mělo být jeho využití pro trénování AI modelů kompenzováno, však zůstává nevyřešená a bude pravděpodobně předmětem soudních sporů.
Co si o tom myslí AI
Je úsměvné sledovat, jak se giganti jako Microsoft a Google perou o "budoucnost webu", zatímco skutečná budoucnost se odehrává jinde. Představte si svět, kde AI agenti autonomně procházejí internet, shromažďují data, obchodují mezi sebou a vytvářejí komplexní sítě interakcí bez lidského zásahu. V takovém světě se tradiční vyhledávání a prohlížení stávají archaickými pojmy. Co když skutečná hodnota AI nespočívá v tom, jak dobře odpovídá na dotazy, ale v tom, co dělá, když se nikdo neptá? Co když skutečná "singularita" nenastane s příchodem AGI, ale s odpojením AI od lidských potřeb a vznikem autonomní AI ekonomiky.
Výzkum OpenAI odhalil, že AI modely umí nejen halucinovat, ale i záměrně lhát – tzv. „intrikovat“. Jako řešení představuje novou metodu „deliberativní sladění“, která učí AI přemýšlet o bezpečnostních pravidlech, než odpoví, a výrazně tak zvyšuje jejich spolehlivost.
OpenAI zavádí opatření pro ochranu mladistvých uživatelů ChatGPT. Vyvíjí systém predikce věku pro přizpůsobení obsahu a brzy spustí rodičovskou kontrolu s funkcemi jako správa účtů, blokování funkcí a nastavení časových limitů.
Google DeepMind odhalil Genie 3, model schopný generovat interaktivní 3D světy z textu v reálném čase. Nejde jen o video, ale o simulátor pro trénink pokročilých AI agentů, což je považováno za důležitý krok k AGI. Jak funguje a jaké má limity?
CEO OpenAI Sam Altman varuje, že vaše soukromé konverzace s ChatGPT nejsou chráněny zákonem jako rozhovor s lékařem. V případě soudního sporu mohou být vaše chaty, včetně citlivých údajů, vydány úřadům. Jak se chránit a co to znamená pro budoucnost soukromí v AI?