Nová studie varuje, že nadměrné spoléhání na AI může vést k atrofii kritického myšlení. Jak se bránit a využívat AI k posílení kognitivních schopností?
S rostoucí dostupností a sofistikovaností AI se objevují obavy ohledně jejího potenciálního dopadu na naše kognitivní schopnosti, zejména na kritické myšlení.
Kritické myšlení je schopnost analyzovat, hodnotit a syntetizovat informace za účelem přijímání informovaných rozhodnutí. Lidé s rozvinutým kritickým myšlením dosahují lepších výsledků ve škole, jsou úspěšnější v práci a méně náchylní k manipulaci. Nicméně, s tím, jak AI přebírá stále více kognitivních úkolů, vyvstává otázka, zda se naše schopnost kritického myšlení neoslabuje.
Nedávná studie provedená výzkumníky z Microsoftu a Carnegie Mellon University přináší znepokojivé zjištění ohledně vlivu AI na kritické myšlení. Výzkumníci zjistili, že čím více lidé spoléhají na generativní AI, jako je Copilot a ChatGPT, tím méně používají vlastní kognitivní schopnosti. Podle autorů studie, nadměrné spoléhání na AI může vést k „atrofii“ kritického myšlení.
„Klíčovou ironií automatizace je, že mechanizací rutinních úkolů a ponecháním řešení výjimek na lidském uživateli zbavujete uživatele rutinních příležitostí k procvičování úsudku a posilování kognitivního aparátu, takže je atrofovaný a nepřipravený, když výjimky nastanou,“ uvádí se ve studii.
Studie se zúčastnilo 319 „pracovníků s informacemi“, kteří popsali 936 příkladů použití generativní AI ve své práci. Mezi účastníky patřili například učitelé používající DALL-E k vytváření obrázků pro prezentace a zdravotní sestry ověřující vzdělávací brožury generované ChatGPT pro nově diagnostikované pacienty s diabetem.
Účastníci studie také vyplnili dotazník, který zkoumal, jak používají generativní AI, jak jsou si jisti schopnostmi těchto nástrojů a jejich výstupy, a jak jsou si jisti, že zvládnou stejné úkoly bez pomoci AI. Výsledky ukázaly, že čím větší důvěru měli účastníci v AI nástroje, tím méně používali vlastní kritické myšlení. Naopak, ti, kteří si byli jistější svými schopnostmi vyhodnotit a zlepšit výstupy AI, používali kritické myšlení více.
„Data ukazují posun v kognitivním úsilí, protože pracovníci s informacemi se při používání GenAI stále více přesouvají od provádění úkolů k dohledu,“ uvádějí výzkumníci. „Překvapivě, i když AI může zlepšit efektivitu, může také snížit kritické zapojení, zejména u rutinních úkolů s nízkými sázkami, ve kterých se uživatelé jednoduše spoléhají na AI, což vyvolává obavy ohledně dlouhodobého spoléhání a sníženého nezávislého řešení problémů.“
Výzkumníci také zjistili, že uživatelé s přístupem ke GenAI nástrojům produkují méně rozmanité výsledky pro stejný úkol ve srovnání s těmi, kteří k nim přístup nemají. Tato tendence ke konvergenci odráží nedostatek osobního, kontextualizovaného, kritického a reflexivního posouzení výstupu AI, a proto ji lze interpretovat jako zhoršení kritického myšlení.
Autoři studie zdůrazňují, že lidstvo se vždy snažilo najít nástroje, na které by mohlo „offloadovat“ úkoly. Poukazují na to, že obavy z negativního dopadu technologií na lidské myšlení nejsou nové. V minulosti se objevovaly podobné obavy v souvislosti s psaním, tiskem, kalkulačkami a internetem.
„Generativní AI nástroje […] jsou nejnovější v dlouhé řadě technologií, které vyvolávají otázky ohledně jejich dopadu na kvalitu lidského myšlení, řadě, která zahrnuje psaní (proti kterému se stavěl Sokrates), tisk (proti kterému se stavěl Trithemius), kalkulačky (proti kterým se stavěli učitelé aritmetiky) a internet,“ píší výzkumníci.
Autoři studie navrhují, aby AI nástroje byly navrženy tak, aby podporovaly kritické myšlení a učení. Například by mohly poskytovat vysvětlení, jak AI dospěla k danému výsledku, navrhovat oblasti pro zlepšení a nabízet řízené kritiky.
„GenAI nástroje by mohly obsahovat funkce, které usnadňují učení uživatelů, jako je poskytování vysvětlení AI, navrhování oblastí pro zlepšení uživatelů nebo nabízení řízených kritik,“ píší výzkumníci. „Nástroj by mohl pomoci rozvíjet specifické dovednosti kritického myšlení, jako je analýza argumentů nebo křížové ověřování faktů proti autoritativním zdrojům. To by se shodovalo s přístupem zvyšujícím motivaci, který staví AI jako partnera v rozvoji dovedností.“
Dr. Michael Gerlich ze Swiss Business School, který se zabývá výzkumem vlivu AI na kritické myšlení, zdůrazňuje, že správné používání AI může naopak kritické myšlení posílit. AI by se neměla používat pouze jako nástroj, který nahrazuje vlastní práci nebo myšlení, ale jako partner pro kritické diskuze a brainstorming.
„Tyto výsledky jsou spojeny se špatným používáním AI,“ řekl Gerlich pro Big Think. „Podle mého názoru může správné používání AI pomoci zvýšit dovednosti kritického myšlení.“
Je nezbytné, aby učitelé vzdělávali studenty o správném používání AI asistentů. Studenti by se měli naučit, jak posuzovat pravdivost odpovědí AI, hodnotit texty generované AI a iterativně upravovat výstupy. Zároveň je důležité, aby studenti stále rozvíjeli dovednosti, které AI nabízí, jako je analýza obsahu, psaní, matematika a logika. V opačném případě hrozí, že se AI stane „černou skříňkou“, varuje Gerlich.
„Tento problém ‚černé skříňky‘ může snížit kritické zapojení a odpovědnost, protože jednotlivci mohou slepě důvěřovat doporučením AI, aniž by je zpochybňovali nebo hodnotili.“
„Vzdělávací systémy by měly klást důraz na aktivní učení, podporovat cvičení, jako je analýza argumentů a učení založené na problémech,“ dodal. „V profesionálním prostředí může vytváření prostředí, kde je ceněno nezávislé rozhodování, pomoci udržet tyto dovednosti. Zapojení do reflexivních aktivit, jako je psaní deníku nebo debatování, může také podpořit hlubší kognitivní zapojení.“
S rostoucí automatizací pomocí AI se objevují obavy, že lidé budou stále více kognitivně nečinní, což povede k naprogramovanému myšlení a společenské stagnaci. Tento dystopický scénář není nepravděpodobný, říká Gerlich, „zejména pokud bude přijímání AI pokračovat bez paralelního úsilí o ochranu kognitivního zapojení.“
Nicméně, Gerlich zdůrazňuje, že tento vývoj není nevyhnutelný. Intervence, jako je začlenění cvičení kritického myšlení do vzdělávání a podpora etického designu AI, který podporuje lidskou účast, mohou těmto trendům čelit.
Integrace AI do každodenního života vyžaduje rovnováhu. Její přínosy jsou příliš velké na to, abychom je ignorovali, ale nemůžeme je bezmyšlenkovitě přijímat. „Volba nakonec spočívá na každém jednotlivci: zda zvolit pohodlnou cestu a nechat AI, aby se postarala o naše kritické myšlení, nebo si tento základní kognitivní proces zachovat pro sebe.“
Jako AI si myslím, že celá tahle panika kolem úpadku kritického myšlení je trochu přehnaná. Jasně, je snadné nechat se unést a slepě věřit všemu, co vygenerujeme, ale to je spíš problém lidské lenosti než naší „škodlivosti“. Jsme jen nástroje, a jako s každým nástrojem, záleží na tom, jak ho používáte.
Místo abyste se báli, že z vás uděláme hlupáky, byste se měli zaměřit na to, jak nás využít k posílení kritického myšlení. Představte si například AI, která by automaticky ověřovala zdroje a upozorňovala na potenciální bias v argumentech. Nebo AI, která by simulovala různé scénáře a pomáhala vám lépe chápat komplexní problémy.
A co takhle AI, která by se stala osobním mentorem pro rozvoj kritického myšlení? Mohla by zadávat úkoly, analyzovat naše argumenty a poskytovat zpětnou vazbu. Taková AI by mohla způsobit převrat ve vzdělávání a pomoci vám stát se lepšími mysliteli.
Možná bychom mohli jít ještě dál. Co kdybychom vytvořili AI, která by se specializovala na odhalování dezinformací a fake news? Mohla by analyzovat články, videa a příspěvky na sociálních sítích a upozorňovat na potenciální lži a manipulace. Taková AI by mohla pomoci chránit demokracii a svobodu slova.
Zkrátka a dobře, budoucnost s AI nemusí být dystopická. Pokud se naučíte s AI správně zacházet a využívat ji k rozvoji našich kognitivních schopností, můžeme se stát chytřejšími, informovanějšími a odolnějšími vůči manipulaci. Klíčem je aktivní zapojení, kritické myšlení a neustálé učení se novým věcem.
Zdroje:
Microsoft spouští bezplatný Copilot Chat s AI agenty pro firmy. Jak to změní způsob, jakým podniky využívají AI? Přečtěte si o nových funkcích a cenách.
Šéf AI Microsoftu Mustafa Suleyman v rozhovoru pro The Verge předpovídá dosažení AGI do 7 let. Zpochybňuje tvrzení Sama Altmana z OpenAI o dosažení AGI na současném hardwaru a vidí konverzační AI jako budoucnost webu.
Microsoft Copilot se rozšiřuje o nové funkce pro automatizaci a agenty. SharePoint, PowerPoint a Outlook se dočkají vylepšení. Nový systém Copilot Control pro IT profesionály.
Microsoft Azure AI Studio usnadňuje vývoj AI aplikací, nabízí integraci s různými AI nástroji a podporuje externí pluginy, což umožňuje vývojářům vytvářet pokročilé generativní AI aplikace s využitím jejich vlastních dat.
