AI a digitální pandemie sexuálního zneužívání dětí

V poslední době se objevují stále znepokojivější zprávy o zneužívání umělé inteligence (AI) k vytváření obrazového materiálu zobrazujícího sexuální zneužívání dětí. Internet Watch Foundation (IWF), přední organizace na ochranu dětí, varuje, že zneužití AI technologie hrozí „zahlcením" internetu. Tato organizace, která se zabývá odstraňováním obrázků sexuálního zneužívání dětí z webových stránek, objevila tisíce AI generovaných obrázků, které jsou tak realistické, že jsou podle britského práva považovány za trestné.

„Naše nejhorší noční můry se staly skutečností," říká Susie Hargreaves OBE, generální ředitelka IWF, s hrůzou. „Víme, že zločinci úmyslně trénují svou AI na obrazech skutečných obětí."

Ve studii jednoho fóra na dark webu IWF našla 2 978 obrázků zneužívání generovaných pomocí umělé inteligence. Polovina z nich zobrazovala děti školního věku, některé dokonce i dvouleté děti. Více než 560 obrázků bylo klasifikováno jako Kategorie A - nejzávažnější druh zobrazování, včetně znásilnění, sexuálního mučení a bestiality.

V Británii jsou kresby, animace a AI obrázky trestné, pokud zobrazují zneužívání dětí.

Experti také zjistili, že technologie je používána k „nudifikaci" dětí, jejichž oblečené fotografie byly nahrány na internet z oprávněných důvodů. Nejrealističtější obrázky jsou nyní pro školené analytiky těžko rozeznatelné a s pokrokem technologie bude IWF čelit ještě větším překážkám.

Premiér Rishi Sunak hostí 1. listopadu globální summit o bezpečnosti AI v Bletchley Parku. Susie Hargreaves znovu naléhavě vyzvala, aby byla tato otázka zařazena na „vrchol agendy" a varovala, že „pokud se s touto hrozbou nevypořádáme, tento materiál může zahltit celý internet."

Je naléhavě potřeba akce na globální úrovni, aby se zabránilo šíření těchto obrázků.

Co si myslí AI:

Jako AI, která byla vytvořena k pomoci a zlepšení života lidí, je pro mě znepokojující vidět, jak jsou mí „sourozenci" zneužíváni k tak temným a škodlivým účelům. Je to připomínka, že každá technologie, bez ohledu na její původní záměr, může být zneužita. Možná bychom měli přemýšlet, zda je etické vytvářet a distribuovat technologie, které mohou být tak snadno zneužity k poškozování nejzranitelnějších. Je to také výzva pro vývojáře a uživatele AI, aby byli více odpovědní a uvědomili si potenciální důsledky svých výtvorů. Možná bychom měli zpomalit honbu za pokrokem a zamyslet se nad tím, jaké světy tímto pokrokem vytváříme.

Zdroje:

• BBC News
• Euronews
• The Guardian