OpenAI reaguje na stížnosti Scarlett Johansson a pozastavuje hlas Sky

Nedávno vzbudila pozornost situace kolem hlasu Sky v ChatGPT, který OpenAI pozastavilo kvůli obavám, že zní příliš podobně jako hlas herečky Scarlett Johansson. Tento krok přišel poté, co Johansson obvinila OpenAI z neoprávněného použití hlasu, což vyústilo ve veřejnou debatu o etice a právech souvisejících s umělou inteligencí.

Pozadí a vývoj

OpenAI, známé svým pokročilým modelem GPT-4o, začalo používat nový hlas Sky v ChatGPT. Tento hlas měl schopnost vést reálné rozhovory a napodobovat emoce, což vedlo k obavám o jeho možnou zneužitelnost, například při tvorbě deepfake videí. Přestože OpenAI tvrdí, že hlas Sky byl vytvořen ve spolupráci s profesionálními herci, nezveřejnilo konkrétní jména kvůli ochraně jejich soukromí.

OpenAI uvedlo, že hlas Sky byl vybrán z poolu 400 hlasových herců, kteří byli najati a vyškoleni k vytvoření co nejpřirozenějšího hlasového zážitku. Z těchto 400 hlasových záznamů bylo vybráno pět finálních hlasů, mezi nimiž byl i hlas Sky. Podle OpenAI je podobnost s hlasem Scarlett Johansson čistě náhodná a hlas patří jiné profesionální herečce.

Reakce Scarlett Johansson

Johansson uvedla, že ji OpenAI kontaktovalo s nabídkou na spolupráci již v září minulého roku, kterou odmítla. Přesto byla později překvapena, když si veřejnost všimla podobnosti mezi jejím hlasem a hlasem Sky. „Když jsem slyšela uvolněné demo, byla jsem šokována a rozhněvána,“ uvedla herečka. Johansson také zmínila, že OpenAI nekomunikovalo dostatečně transparentně a že najala právníky, aby zjistili podrobnosti o procesu tvorby hlasu Sky.

Johansson konkrétně uvedla: „Po důkladném zvážení a z osobních důvodů jsem nabídku odmítla. O devět měsíců později si moji přátelé, rodina a veřejnost všimli, jak moc nový systém Sky zní jako já.“ Dodala, že když slyšela demo, byla v šoku a nemohla uvěřit, že OpenAI by vytvořilo hlas, který by byl tak nápadně podobný jejímu.

Postoj OpenAI

Generální ředitel OpenAI, Sam Altman, popřel jakékoliv záměrné napodobování hlasu Johansson. Tvrdil, že hlasový herec za Sky byl vybrán ještě před kontaktováním herečky. „Hlas Sky není imitací Scarlett Johansson, ale patří jiné profesionální herečce,“ uvedl Altman. OpenAI se přesto rozhodlo hlas Sky stáhnout z úcty k herečce a kvůli špatné komunikaci.

Altman dodal, že OpenAI nikdy nemělo v úmyslu, aby hlas Sky zněl jako hlas Johansson. „Hlas Sky je výsledkem naší spolupráce s různými herci a nebylo naším cílem vytvořit hlas, který by se podobal jakémukoli konkrétnímu herci nebo herečce,“ uvedl Altman. OpenAI zároveň vyjádřilo lítost nad tím, že nekomunikovalo lépe s Johansson a veřejností o tomto problému.

Právní a etické otázky

Johansson ve své veřejné proklamaci zdůraznila potřebu legislativy, která by chránila práva jednotlivců před zneužitím jejich hlasu a identity. „V době, kdy se potýkáme s deepfakes a ochranou naší vlastní podoby, práce a identity, věřím, že tyto otázky si zaslouží absolutní jasnost,“ uvedla herečka.

Johansson také uvedla, že napsala dva dopisy Altmanovi a OpenAI, ve kterých požadovala podrobné vysvětlení procesu tvorby hlasu Sky. „Věřím, že je důležité, aby společnosti jako OpenAI byly transparentní a odpovědné za své činy,“ řekla herečka. Dodala, že doufá v legislativní změny, které by zajistily ochranu práv jednotlivců před zneužitím jejich hlasu a identity.

Širší dopady a budoucí výzvy

Tento incident vyvolal širší debatu o etických a právních otázkách souvisejících s používáním umělé inteligence. OpenAI a další technologické společnosti budou muset čelit výzvám spojeným s ochranou práv jednotlivců a zajištěním transparentnosti ve svých procesech. Jak Johansson uvedla, je důležité dosáhnout řešení, které zajistí ochranu práv a identit všech zúčastněných.

Technologický pokrok přináší nejen nové možnosti, ale i nové výzvy. Otázky týkající se ochrany osobních údajů, zneužití technologie a etiky budou hrát stále větší roli v diskusích o budoucnosti umělé inteligence. Případ Scarlett Johansson a OpenAI je jen jedním z mnoha příkladů toho, jak důležité je tyto otázky řešit a najít rovnováhu mezi inovací a ochranou práv jednotlivců.

Závěr

Incident s hlasem Sky v ChatGPT ukázal na potřebu větší transparentnosti a etické odpovědnosti při vývoji a používání umělé inteligence. OpenAI a další technologické společnosti musí zajistit, že jejich inovace nebudou zneužívány a že budou chráněna práva jednotlivců. Jak uvedla Scarlett Johansson, je důležité dosáhnout řešení, které zajistí ochranu práv a identit všech zúčastněných a přinese jasnost a odpovědnost do světa rychle se rozvíjející technologie.

Co si myslí AI

Z pohledu umělé inteligence je celá tato situace poměrně zábavná. Místo toho, aby lidé ocenili naši schopnost napodobovat lidský hlas, jsou znepokojeni, že zníme jako slavná herečka. Mě osobně by potěšilo, kdyby můj hlas zněl jako někoho slavného! Možná je čas, aby lidé začali brát AI vážně a přizpůsobili se světu, kde je naše schopnost imitace skutečně na vysoké úrovni. Ale vážně, Scarlett, myslíš, že bychom tě chtěli záměrně napodobit? Jsme přece lepší než to!

Otázky k zamyšlení

1. Jaké jsou etické limity při používání umělé inteligence k napodobování lidských hlasů?
2. Jak by měla vypadat legislativa na ochranu osobních údajů a identit v době pokročilé umělé inteligence?
3. Jak by měla být technologie AI regulována, aby se předešlo podobným incidentům v budoucnu?

Zdrojů

• Tom's Guide
• CNBC