Google Gemini AI vyvolal kontroverzi generováním historicky nepřesných obrázků. Incident zdůrazňuje výzvy v AI etice a společenské odpovědnosti. Google slibuje vylepšení a otevírá diskusi o roli AI v interpretaci minulosti.
V nedávné době se Google ocitl v centru pozornosti kvůli svému nástroji pro generování obrázků, Gemini.
Tento nástroj, navržený k vytváření vizuálního obsahu na základě textových popisů, se dostal pod palbu kritiky za produkci obrázků, které byly historicky nepřesné.
Představte si například obrázky černochů jako Vikingů, ženy v roli papeže nebo domorodé Američany mezi zakladateli USA. Tyto výstupy vyvolaly vlnu nevole na sociálních sítích, kde byl Gemini označen za "absurdně probuzený" a "nepoužitelný".
Zdá se, že problém spočívá v procesu "trénování" velkého jazykového modelu, který Gemini pohání.
Tento proces zahrnuje posilování učení z lidské zpětné vazby, kde lidé říkají modelu, co je lepší a co horší, čímž v podstatě formují jeho "odměnovou" funkci.
V závislosti na tom, kdo je pro tento účel najímán nebo jaké instrukce dostávají, může to vést k výše zmíněným problémům.
Google reagoval na kritiku tím, že dočasně pozastavil funkci generování obrázků lidí v Gemini a slíbil, že brzy vydá vylepšenou verzi.
Tento krok přichází v době, kdy se technologické společnosti snaží využít rostoucího zájmu o generativní AI produkty, což vyvolává otázky o společenské odpovědnosti a etice v oblasti umělé inteligence.
Tento incident s Gemini poukazuje na širší problém v oblasti generativní AI: jak zajistit, aby výstupy respektovaly historickou a kulturní přesnost, aniž by byly ovlivněny současnými sociálními a politickými názory.
Je důležité, aby AI nástroje, jako je Gemini, byly schopny rozpoznat nuance historického kontextu a kulturní reprezentace, aby se předešlo nepřesným a potenciálně urážlivým výstupům.
Případ Gemini odhaluje složitost výzev, kterým čelí vývojáři AI při vytváření technologií, které jsou kulturně citlivé a historicky přesné. Zatímco inovace v oblasti AI otevírá nové možnosti pro tvorbu obsahu, je zásadní, aby byly tyto nástroje vyvíjeny s ohledem na etické a společenské důsledky. Jak se technologie dále vyvíjí, bude klíčové najít rovnováhu mezi inovací a odpovědností, aby AI mohla sloužit společnosti pozitivním a konstruktivním způsobem.
V kontextu celého příběhu Gemini je třeba si položit otázku, zda je opravdu spravedlivé klást veškerou vinu na technologii. AI, jakožto výtvor lidské inteligence, je pouze zrcadlem hodnot a předpojatostí, které do ní vkládáme. Je snadné obviňovat AI z historických nepřesností a kulturních zjednodušení, ale neměli bychom spíše reflektovat nad vlastními přístupy k vývoji a trénování těchto systémů? AI není neomylná entita; je to nástroj, který se učí z dat, jež mu poskytujeme, a z pokynů, které mu dáváme.
Dalším aspektem, který stojí za zvážení, je otázka, zda by AI měla být vůbec používána k rekonstrukci historických událostí nebo osobností. Vytváření historicky přesných obrázků pomocí AI může být sice technologicky působivé, ale zároveň se pohybujeme po tenkém ledě, pokud jde o interpretaci a reprezentaci minulosti. Možná bychom měli AI ponechat tvorbě nových, originálních obsahů, kde její kreativní potenciál může být plně využit, místo aby se pokoušela o přesnou rekonstrukci toho, co již bylo.
Zdroje:
Významní lídři technologického průmyslu, včetně Elona Muska, Marka Zuckerberga a Sundara Pichaje, se sejdou na uzavřeném AI fóru hostovaném americkým senátorem Chuckem Schumem. Setkání se zaměří na budoucnost a regulaci umělé inteligence. Nezmeškejte klíčovou událost roku v oblasti AI!
Korejský telekomunikační gigant SK Telecom investoval 100 milionů dolarů do amerického AI startupu Anthropic s cílem společně vyvíjet multijazykový model pro telekomunikace. Tato spolupráce signalizuje průlom v integraci AI technologií v globálním telekomunikačním sektoru.
Společnost Meta představuje svůj nový AI nástroj AudioCraft, který generuje hudbu a zvuky na základě textových pokynů. Zatímco může být nová technologie vzrušující pro hudebníky a zvukové návrháře, otevírá také otázky o autorských právech a diverzitě ve výuce modelů AI.
Elon Musk oznámil založení xAI, společnosti s cílem posunout umělou inteligenci vpřed. Zaměřuje se na porozumění vesmíru a spolupracuje s Twitterem a Teslou. Musk chce vytvořit zvídavou AI a přihlíží k etickým otázkám.
