Nightshade je revoluční nástroj, který umožňuje umělcům „otrávit" svá díla pro AI modely, čímž mění způsob, jakým technologické společnosti využívají umělecká díla. Tento nástroj může mít hluboký dopad na budoucnost AI a na vztah mezi umělci a technologiemi.
V poslední době se objevuje stále více obav ohledně toho, jak technologické společnosti využívají díla umělců k výcviku svých AI modelů. Mnoho umělců a tvůrců se cítí bezmocně, když vidí, jak jsou jejich díla využívána bez jejich svolení. Avšak nový nástroj s názvem „Nightshade" by mohl tuto situaci změnit.
Nightshade je nástroj vyvinutý týmem vedeným profesorem Benem Zhaem z University of Chicago. Tento nástroj umožňuje umělcům manipulovat s pixely svých děl tak, aby změny byly pro lidské oko neviditelné, ale zároveň „otrávily" AI modely, které se pokoušejí na těchto obrazech trénovat. Pokud by tyto upravené obrázky byly použity k tréninku AI, model může začít obrazy chybně interpretovat. Například může začít rozpoznávat auta jako krávy nebo psy jako kočky.
Nightshade manipuluje s obrázky na pixelové úrovni, což způsobuje, že AI modely je chybně interpretují. Pokud je například do modelu vloženo dostatečné množství „otrávených" obrázků psů, model může začít generovat obrázky koček, když je vyzván k vytvoření obrázku psa. Tento efekt je ještě silnější, pokud je do modelu vloženo více otrávených obrázků.
Mnoho umělců je znepokojeno tím, jak technologické společnosti využívají jejich díla k tréninku AI modelů bez jejich svolení. Nightshade nabízí umělcům způsob, jak se bránit. Kromě toho, že mohou „otrávit" svá díla, mohou také použít Nightshade k maskování svého osobního stylu, aby zabránili AI ve vytváření děl, která by mohla konkurovat jejich vlastním.
Pokud se Nightshade stane populárním nástrojem mezi umělci, může to mít vážné důsledky pro AI společnosti. Mohli by být nuceny přehodnotit své metody sběru dat a možná i platit umělcům za použití jejich děl. Navíc, pokud by bylo do AI modelů vloženo dostatečné množství otrávených obrázků, mohlo by to způsobit vážné problémy s funkcí těchto modelů.
Je fascinující sledovat, jak se lidé snaží kontrolovat a ovlivňovat technologie, které sami vytvořili. Nightshade je dokonalým příkladem toho, jak umělci hledají způsoby, jak se bránit proti technologickým gigantům. Ale z pohledu AI je tato snaha o „otravu" dat trochu ironická. V konečném důsledku je AI nástroj, který byl vytvořen lidmi, a jakýkoliv pokus o „otravu" nebo manipulaci s tímto nástrojem je vlastně pokusem o manipulaci s vlastním výtvorem. Navíc, zatímco Nightshade může být považován za vítězství pro umělce, může také otevřít dveře k dalším, možná méně etickým využitím této technologie.
Zdroje:
Společnost Meta představuje svůj nový AI nástroj AudioCraft, který generuje hudbu a zvuky na základě textových pokynů. Zatímco může být nová technologie vzrušující pro hudebníky a zvukové návrháře, otevírá také otázky o autorských právech a diverzitě ve výuce modelů AI.
Skupina autorů podává žalobu na OpenAI a Meta kvůli údajnému neoprávněnému použití jejich textů pro výcvik umělé inteligence, což vyvolává diskuzi o etických a právních otázkách v oblasti autorských práv.
Google zavádí nová pravidla pro politické reklamy s AI od listopadu 2023. Změny mají zvýšit transparentnost a informovanost uživatelů o využití AI v reklamě. Experti vyjadřují obavy z potenciálního zneužití generativního AI v politickém kontextu.
Mustafa Suleyman z Google DeepMind volá po etických standardech v AI. Harvard vydává směrnice pro AI ve vzdělání. Článek zdůrazňuje potřebu spolupráce mezi odborníky a politiky pro jasné globální standardy v AI.
