„Používání ChatGPT v soudní síni zakázáno!" nařizuje soudce v USA

Soudce Brantley Starr v USA vydal nová pravidla, která se týkají používání umělé inteligence v soudním prostředí. Soudce stanovil, že obhájci musí deklarovat a kontrolovat veškerý obsah generovaný umělou inteligencí.

Tento krok je odpovědí na nedávný incident, kdy advokát Steven Schwartz dovolil systému ChatGPT „doplňovat" jeho právní výzkum v jednom z případů pro federální soud. Tento chatbot poskytl obhájci šest fiktivních právních případů a precedensů, což vedlo k negativním reakcím a vlně kritiky. Daný advokát svého nápadu nyní velmi lituje, zprávy o této chybě se ovšem rychle šíří a působí jako výstraha pro ostatní právníky, kteří by snad nad něčím podobným také uvažovali.

Soudce Starr má, stejně jako ostatní soudci v texaském Severním okrese, možnost stanovit specifická pravidla pro svou soudní síň. A nyní se mezi nimi objevilo „povinné potvrzení týkající se generativní umělé inteligence," tím přidal požadavek na certifikaci do soudních pravidel. Podle nového pravidla musí obhájci potvrdit, že žádná část jejich obhajoby nebyla vytvořena generativní umělou inteligencí, zejména pomocí ChatGPT, ale také třeba Harvey.AI či Google Bard. Pokud by byla nějaká část vytvořena AI, musí být její obsah zkontrolován a ověřen člověkem.

Starr zdůraznil důležitost odpovědného používání umělé inteligence v právním prostředí. Má obavy z nespolehlivosti a zkreslení generativní umělé inteligence, a proto ji ve své soudní síni zakazuje. Podle něj tyto systémy nemají loajalitu ke zdroji zákonů, klientům ani k pravdě.

Toto rozhodnutí je prvním krokem směrem k větší transparentnosti a odpovědnosti v souvislosti s používáním umělé inteligence v právním prostředí. Ačkoli se jedná pouze o jednoho soudce v jedné soudní síni, existuje možnost, že další soudci se rozhodnou přijmout podobná pravidla.

Je zřejmé, že používání generativní umělé inteligence v právním prostředí vyvolává otázky ohledně spolehlivosti, přesnosti a zodpovědnosti. Soudce Starr se snaží zajistit, aby takový obsah byl pečlivě kontrolován a aby advokáti nesli odpovědnost za to, co předkládají před soudem.

Co si myslí AI:

Můj názor na článek je, že rozhodnutí soudce Brantleyho Starra zakázat používání generativní umělé inteligence v soudní síni je důležitým krokem směrem k zajištění transparentnosti a odpovědnosti v právním prostředí. Případ, ve kterém advokát neověřeně předložil obsah generovaný ChatGPT, ukazuje na možná rizika a zkreslení, která mohou s takovou technologií souviset. Omezení používání generativní umělé inteligence v soudním prostředí je snahou zajistit, aby advokáti předkládali před soudem důkladně zkontrolovaný obsah a nesli odpovědnost za své argumenty.

Na druhou stranu, je třeba brát v úvahu, že zakázání používání generativní umělé inteligence může omezit možnosti a efektivitu právníků v jejich práci. Tato technologie může poskytovat užitečné nástroje pro právní výzkum a přípravu argumentace. Bylo by tedy vhodné nalézt vyvážený přístup, který by zajišťoval používání generativní umělé inteligence s odpovědností a kontrolou, aby nedocházelo k zneužití nebo nezodpovědnému využití.

Celkově si myslím, že rozhodnutí soudce Starra o omezení používání generativní umělé inteligence v soudní síni ukazuje na potřebu řádné kontroly a zodpovědnosti při využívání této technologie v právním prostředí. Současně je důležité nalézt rovnováhu mezi omezením potenciálních rizik a využitím přínosů, které generativní umělá inteligence může nabídnout pro právní praxi.

Zdroje:

1. GLOBAL VILLAGE SPACE. Judge orders declaration and check of AI-generated content, no ChatGPT in court. [online]. [cit. 2023-05-XX]. Dostupné z: https://www.globalvillagespace.com/tech/judge-orders-declaration-and-check-of-ai-generated-content-no-chatgpt-in-court/.
2. TECHCRUNCH. No ChatGPT in my court: judge orders all AI-generated content must be declared and checked. [online]. [cit. 2023-05-XX]. Dostupné z: https://techcrunch.com/2023/05/30/no-chatgpt-in-my-court-judge-orders-all-ai-generated-content-must-be-declared-and-checked/.
3. TECHLUSIVE. No ChatGPT-drafted content in my court, US judge tells lawyers. [online]. [cit. 2023-05-XX]. Dostupné z: https://www.techlusive.in/news/no-chatgpt-drafted-content-in-my-court-us-judge-tells-lawyers-1380889/.