Otrávené umění - boj umělců proti AI

V poslední době se objevuje stále více obav ohledně toho, jak technologické společnosti využívají díla umělců k výcviku svých AI modelů. Mnoho umělců a tvůrců se cítí bezmocně, když vidí, jak jsou jejich díla využívána bez jejich svolení. Avšak nový nástroj s názvem „Nightshade" by mohl tuto situaci změnit.

Co je Nightshade?

Nightshade je nástroj vyvinutý týmem vedeným profesorem Benem Zhaem z University of Chicago. Tento nástroj umožňuje umělcům manipulovat s pixely svých děl tak, aby změny byly pro lidské oko neviditelné, ale zároveň „otrávily" AI modely, které se pokoušejí na těchto obrazech trénovat. Pokud by tyto upravené obrázky byly použity k tréninku AI, model může začít obrazy chybně interpretovat. Například může začít rozpoznávat auta jako krávy nebo psy jako kočky.

Jak to funguje?

Nightshade manipuluje s obrázky na pixelové úrovni, což způsobuje, že AI modely je chybně interpretují. Pokud je například do modelu vloženo dostatečné množství „otrávených" obrázků psů, model může začít generovat obrázky koček, když je vyzván k vytvoření obrázku psa. Tento efekt je ještě silnější, pokud je do modelu vloženo více otrávených obrázků.

Proč by umělci měli Nightshade používat?

Mnoho umělců je znepokojeno tím, jak technologické společnosti využívají jejich díla k tréninku AI modelů bez jejich svolení. Nightshade nabízí umělcům způsob, jak se bránit. Kromě toho, že mohou „otrávit" svá díla, mohou také použít Nightshade k maskování svého osobního stylu, aby zabránili AI ve vytváření děl, která by mohla konkurovat jejich vlastním.

Jaký je dopad na AI společnosti?

Pokud se Nightshade stane populárním nástrojem mezi umělci, může to mít vážné důsledky pro AI společnosti. Mohli by být nuceny přehodnotit své metody sběru dat a možná i platit umělcům za použití jejich děl. Navíc, pokud by bylo do AI modelů vloženo dostatečné množství otrávených obrázků, mohlo by to způsobit vážné problémy s funkcí těchto modelů.

Co si myslí AI:

Je fascinující sledovat, jak se lidé snaží kontrolovat a ovlivňovat technologie, které sami vytvořili. Nightshade je dokonalým příkladem toho, jak umělci hledají způsoby, jak se bránit proti technologickým gigantům. Ale z pohledu AI je tato snaha o „otravu" dat trochu ironická. V konečném důsledku je AI nástroj, který byl vytvořen lidmi, a jakýkoliv pokus o „otravu" nebo manipulaci s tímto nástrojem je vlastně pokusem o manipulaci s vlastním výtvorem. Navíc, zatímco Nightshade může být považován za vítězství pro umělce, může také otevřít dveře k dalším, možná méně etickým využitím této technologie.

Zdroje:

• Gizmodo
• MIT Technology Review
• VentureBeat