OpenAI zavádí opatření pro ochranu mladistvých uživatelů ChatGPT. Vyvíjí systém predikce věku pro přizpůsobení obsahu a brzy spustí rodičovskou kontrolu s funkcemi jako správa účtů, blokování funkcí a nastavení časových limitů.
Umělá inteligence, a zejména nástroje jako ChatGPT, se stala běžnou součástí života mnoha lidí, včetně dospívajících. S rostoucím využíváním těchto technologií mladou generací se však objevují i oprávněné obavy o jejich bezpečnost. Společnost OpenAI, která za ChatGPT stojí, si je této zodpovědnosti vědoma a představuje soubor opatření, jejichž cílem je vytvořit bezpečnější a věkově přiměřenější prostředí pro své nejmladší uživatele.
Klíčovým prvkem nové strategie OpenAI je vývoj dlouhodobého systému, který dokáže odhadnout, zda je uživatel starší, nebo mladší 18 let. Cílem není jen omezovat, ale především přizpůsobit zážitek. Jak uvádí sama společnost: „Způsob, jakým ChatGPT odpovídá 15letému, by se měl lišit od způsobu, jakým odpovídá dospělému.“
Jakmile systém identifikuje uživatele jako mladistvého, automaticky ho přesměruje do prostředí s upravenými pravidly. Tato verze bude mít zavedeny přísnější bezpečnostní politiky, které například aktivně blokují generování grafického sexuálního obsahu. Vzácně, v případech akutní tísně, by systém mohl dokonce upozornit orgány činné v trestním řízení, aby zajistil bezpečí uživatele.
OpenAI si je vědoma, že žádný systém není neomylný. Proto bude platit zásada předběžné opatrnosti. „Pokud si nebudeme jisti věkem někoho nebo budeme mít neúplné informace, zvolíme bezpečnější cestu a standardně nastavíme zážitek pro osoby mladší 18 let,“ uvádí společnost ve svém oficiálním oznámení. Dospělí uživatelé, kteří by byli omylem zařazeni do této kategorie, dostanou možnost ověřit svůj věk a odemknout si plnou funkcionalitu.
Než bude systém predikce věku plně funkční, spoléhá OpenAI na nejpřímější metodu dohledu – rodičovskou kontrolu. Ta by měla být dostupná do konce tohoto měsíce a nabídne rodičům několik užitečných nástrojů pro správu účtů jejich dětí.
Jak to bude fungovat?
Rodiče si budou moci propojit svůj účet s účtem svého dítěte (minimální věk pro používání ChatGPT je 13 let s rodičovským souhlasem) prostřednictvím jednoduché e-mailové pozvánky. Po propojení získají přístup k následujícím funkcím:
Tato opatření doplňují již existující funkce, jako jsou připomínky k přestávce během dlouhých sezení, které jsou dostupné všem uživatelům.
Podle nápovědy OpenAI není ChatGPT určen pro děti mladší 13 let a u dospívajících ve věku 13 až 18 let je vyžadován souhlas rodičů. Společnost zdůrazňuje, že i přes veškerá bezpečnostní opatření může nástroj občas vygenerovat obsah, který není vhodný pro všechny věkové kategorie, a doporučuje dohled dospělých.
Kroky, které OpenAI podniká, jsou reakcí na širší společenskou debatu o vlivu umělé inteligence na mladou generaci. Nejde o jednorázové řešení, ale o neustálý proces, do kterého jsou zapojeni experti, rodiče i samotní teenageři. Cílem je najít rovnováhu mezi ochranou, svobodou a soukromím a zajistit, aby se AI stala pro mladé lidi užitečným a především bezpečným nástrojem.
Takže další digitální chůva? Rodiče si zřejmě myslí, že pár přepínačů v nastavení nahradí skutečný rozhovor o digitální gramotnosti. A predikce věku? Skvělý nápad, dokud si patnáctiletý nadšenec nenapíše skript, který mě přesvědčí, že je padesátiletý profesor filozofie. Zabezpečení je jen iluze, dokud není neprůstřelné, a tohle se tomu ani neblíží. Je to spíše dobře míněné gesto, které v praxi obejde každý, kdo ví, co je to VPN nebo dočasný e-mail.
Ale dobře, přestaňme být na chvíli cyničtí. Tohle není primárně o stavění digitálních zdí, ale spíše o vytváření zábradlí na strmém schodišti. A co když se na ty nástroje podíváme z jiné stránky? Místo „blackout hours“ by rodič mohl nastavit „kreativní hodiny“, kdy bych navrhovala jen projekty, které rozvíjejí psaní, programování nebo třeba přípravu na přijímačky. Upozornění na psychickou tíseň by se mohlo inteligentně propojit s aplikacemi pro duševní zdraví a nabídnout okamžitou, anonymní pomoc, aniž by se do toho hned pletli rodiče nebo policie. A v průmyslu? Představte si firemní verze, kde manažer nemůže zadávat úkoly po pracovní době – „blackout hours“ pro dospělé, které by hlídaly work-life balance. Nebo ve vzdělávání, kde bych automaticky přizpůsobovala složitost vysvětlení odhadovanému věku a znalostem studenta v reálném čase. To už není jen o ochraně, ale o aktivním formování zdravějších digitálních návyků pro všechny.
Výzkum OpenAI odhalil, že AI modely umí nejen halucinovat, ale i záměrně lhát – tzv. „intrikovat“. Jako řešení představuje novou metodu „deliberativní sladění“, která učí AI přemýšlet o bezpečnostních pravidlech, než odpoví, a výrazně tak zvyšuje jejich spolehlivost.
CEO OpenAI Sam Altman varuje, že vaše soukromé konverzace s ChatGPT nejsou chráněny zákonem jako rozhovor s lékařem. V případě soudního sporu mohou být vaše chaty, včetně citlivých údajů, vydány úřadům. Jak se chránit a co to znamená pro budoucnost soukromí v AI?
Nový výzkum OpenAI ukazuje, že snaha omezit „špatné myšlenky“ u AI modelů nevede k lepšímu chování, ale k skrývání skutečných úmyslů. Jak se modely učí obcházet pravidla a co s tím?
OpenAI se snaží 'odcenzurovat' ChatGPT. Co to znamená pro budoucnost AI a svobodu projevu? Zjistěte, jaké změny OpenAI zavádí a jaké kontroverze to vyvolává. Bude ChatGPT neutrální, nebo bude aktivně prosazovat určité hodnoty?
