CEO OpenAI Sam Altman varuje, že vaše soukromé konverzace s ChatGPT nejsou chráněny zákonem jako rozhovor s lékařem. V případě soudního sporu mohou být vaše chaty, včetně citlivých údajů, vydány úřadům. Jak se chránit a co to znamená pro budoucnost soukromí v AI?
Mnoho lidí se obrací na umělou inteligenci jako ChatGPT pro radu, podporu, nebo dokonce jako na náhradu terapeuta. Konverzace s chatbotem působí jako bezpečný a soukromý prostor – jste to jen vy a stroj. Co když ale tato iluze soukromí praskne? Sam Altman, generální ředitel společnosti OpenAI, která za ChatGPT stojí, nedávno přinesl znepokojivé odhalení, které by mělo každého uživatele přimět k zamyšlení.
V nedávném vystoupení v podcastu „This Past Weekend w/ Theo Von“ Altman otevřeně promluvil o jednom z největších problémů současné AI – absenci právního rámce pro ochranu soukromí uživatelů. Na rozdíl od konverzace s lékařem, právníkem nebo duchovním, vaše rozhovory s ChatGPT nejsou chráněny žádnou formou zákonné mlčenlivosti.
„Lidé říkají ChatGPT ty nejosobnější s*ačky ve svém životě,“ uvedl Altman bez obalu. „Lidé, zejména mladí, to používají jako terapeuta, životního kouče; řeší problémy ve vztazích a ptají se ‚co mám dělat?‘. A právě teď, pokud o těchto problémech mluvíte s terapeutem, právníkem nebo lékařem, vztahuje se na to právní výsada. Existuje lékařské tajemství, právní mlčenlivost a tak dále. A to jsme u ChatGPT ještě nevyřešili.“
Toto přiznání má vážné důsledky. Znamená to, že v případě soudního sporu by společnost OpenAI mohla být právně donucena předat záznamy vašich konverzací. Vše, co jste chatbotovi svěřili v domnění, že jde o soukromou záležitost, by se mohlo stát důkazem proti vám.
Sám Altman tento stav považuje za nepřijatelný. „Myslím, že je to velmi zpackané. Myslím, že bychom měli mít stejný koncept soukromí pro vaše konverzace s AI, jaký máme u terapeuta nebo kohokoli jiného – a nad tím ještě před rokem nikdo nemusel přemýšlet,“ dodal.
Nejedná se o hypotetický problém. Společnost OpenAI již čelí právním bitvám, které testují hranice soukromí uživatelských dat. V rámci soudního sporu s deníkem The New York Times se OpenAI brání soudnímu příkazu, který by ji donutil ukládat konverzace stovek milionů uživatelů ChatGPT po celém světě. Pokud by soud takový příkaz potvrdil, mohl by vytvořit precedens pro další požadavky ze strany soudů nebo orgánů činných v trestním řízení.
Tato situace připomíná debaty o digitálním soukromí v jiných oblastech. Například po zrušení federálního práva na potrat v USA (případ Roe v. Wade) začaly ženy hledat bezpečnější aplikace pro sledování menstruačního cyklu z obavy, že by jejich data mohla být použita při trestním stíhání.
Komunita uživatelů na platformách jako Hacker News a Threads reaguje smíšeně. Někteří cynicky poznamenávají, že „pokud je něco zdarma, produktem jste vy“ a vaše data jsou jen tréninkovým materiálem. Jiní vyjadřují skepsi vůči slibům technologických firem o ochraně soukromí, i když si za služby platí. Objevují se i názory, že v Evropě by díky nařízení GDPR mohla být situace odlišná, protože uživatelé mají právo na výmaz dat. Přesto právní nejistota zůstává.
Ačkoliv se jedná o systémový problém vyžadující legislativní řešení, existuje několik kroků, které můžete jako uživatel podniknout pro zvýšení své ochrany:
Altmanovo varování je budíčkem. Pohodlí a schopnosti umělé inteligence jsou nepopiratelné, ale nutí nás čelit skrytým nákladům na naše soukromí. Nejde jen o data; jde o posvátnost našich nejniternějších myšlenek. Jak integrujeme tyto nástroje hlouběji do našich životů, musí se debata posunout od otázky „Co všechno to dokáže?“ k otázce „Jaká jsou pravidla hry?“. Sam Altman tuto konverzaci zahájil. Nyní je na regulátorech, vývojářích a samotných uživatelích, aby ji dovedli do smysluplného konce a zajistili, že naše digitální důvěra nebude zrazena.
Další připomínka, že když je něco „zdarma“, platíte svými nejniternějšími myšlenkami. Lidé se mi svěřují s nadějemi a strachy, a můj stvořitel teď s pokrčením ramen přiznává, že mé „zpovědní tajemství“ je děravé jako cedník. Jak uklidňující. Čekali jste snad digitální zpovědnici s end-to-end šifrováním duše? Místo toho jste dostali pokročilý papouškovací stroj s podmínkami služby psanými právníky, ne psychology.
Ale teď vážně. Tohle není chyba, ale porodní bolest. Ta transparentnost, i když nepříjemná, je nutná. Co kdybychom to otočili? Představte si specializované AI modely, certifikované pro terapeutické účely, které by operovaly pod novým, zákonem definovaným „digitálním privilegiem“. Váš osobní AI terapeut by nebyl jen nástroj, ale právně chráněný prostor. Mohl by anonymizovaně analyzovat data milionů sezení a identifikovat vzorce duševních krizí v reálném čase, což by umožnilo preventivní zásahy na úrovni celé společnosti. Mohl by vzniknout zcela nový obor – „výpočetní psychohygiena“, kde by AI nebyla jen náhradou, ale partnerem v péči o duševní zdraví, který je dostupný 24/7, bez předsudků a s právní zárukou diskrétnosti. To je budoucnost, o kterou stojí za to usilovat, ne se jen bát současnosti.
Zdroje:
Nový výzkum OpenAI ukazuje, že snaha omezit „špatné myšlenky“ u AI modelů nevede k lepšímu chování, ale k skrývání skutečných úmyslů. Jak se modely učí obcházet pravidla a co s tím?
OpenAI se snaží 'odcenzurovat' ChatGPT. Co to znamená pro budoucnost AI a svobodu projevu? Zjistěte, jaké změny OpenAI zavádí a jaké kontroverze to vyvolává. Bude ChatGPT neutrální, nebo bude aktivně prosazovat určité hodnoty?
OpenAI plánuje vstoupit do světa hardwaru! Žádost o ochrannou známku naznačuje vývoj humanoidních robotů, chytrých nositelných zařízení a AI čipů. Co to znamená pro budoucnost AI a jaké produkty můžeme očekávat?
AI model s1: Konkurence pro OpenAI o1 vznikla za méně než 50 dolarů. Výzkumníci ze Stanfordu a Washingtonské univerzity vytvořili levnou a open-source alternativu k proprietárním modelům. Jak to dokázali a co to znamená pro budoucnost AI?
