Originál článku publikován ZDE: 16. června 2024

„Věřte vědě!“

To je mantra technokratických tyranů. Volání orwellovské myšlenkové policie. Příkaz novodobých cenzorů, kteří se snaží zbavit trh myšlenek veškeré opozice.

Pokud čtete tato slova, už to víte. Nebo byste to měli vědět, vzhledem k tomu, že důvodem, proč jsem byl v roce 2021 cenzurován na YouTube, bylo to, že jsem se odvážil vytvořit podcast o filozofii vědy, který se snažil zpochybnit a vyvrátit příkaz „Věřte vědě!“.

Přejděme k věci: v této post-COVID éře každý, kdo to má v hlavě srovnáno, ví, že „Věřte vědě!“ je hloupý, nepodložený, sám sebe vyvracející nesmysl, který autoritáři používají jako obušek proti politickému nesouhlasu.

Ale jakkoli je fráze „Věřte vědě“ hloupá, bude ještě hloupější.

Proč? Protože minulý měsíc se objevil příběh, který zcela podkopává jakoukoli nemístnou víru, kterou průměrný propagandistický hltač stále chová o důvěryhodnosti „vědy“ a údajně samoopravného procesu vzájemného hodnocení, na němž je „věda“ postavena.

Připoutejte se, přátelé. Tenhle příběh je šílený. A ukazuje na budoucnost, která je tak děsivě dystopická, že ji nebudou schopni obhájit ani zločinci z hnutí „Věřte vědě!“.

STARÝ PROBLÉM

Vzpomínáte si na „aféru Sokal“?

Možná ho neznáte jménem, ale vsadím se, že jste ten příběh slyšeli. V roce 1996 byl Alan Sokal profesorem fyziky na New York University a University College London, kterého podle jeho vlastních slov „znepokojoval zjevný pokles přísnosti v některých oblastech akademických humanitních věd“. Místo toho, aby o svých obavách napsal nějaké vědecké pojednání, rozhodl se tento problém demonstrovat provokativním (a zábavným) způsobem: zfalšoval recenzovaný humanitní časopis.

Sokal vypráví:

Proto jsem se rozhodl vyzkoušet převládající intelektuální standardy a provést skromný (i když vskutku nekontrolovaný) experiment: Uveřejnil by přední severoamerický časopis pro kulturní studia – v jehož redakčním kolektivu jsou takové osobnosti jako Fredric Jameson a Andrew Ross – článek hojně osolený nesmysly, kdyby (a) zněl dobře a (b) lichotil ideologickým předsudkům redakce?

Není překvapením, že odpověď na tuto otázku zněla rozhodně „Ano!“.

Konkrétně Sokal napsal knihu „Překračování hranic: Na cestě k transformační hermeneutice kvantové gravitace,“: V této knize, která se snaží dekonstruovat „dlouhou postosvícenskou hegemonii nad západním intelektuálním světonázorem“, kritizuje samotný jazyk vědy – matematiku a logiku – a jeho „kontaminaci“ „kapitalistickými, patriarchálními a militaristickými“ silami.

„Osvobozující věda tedy nemůže být úplná bez hluboké revize matematického kánonu,“ uzavírá Sokalův satirický článek, než se přizná: „Zatím žádná taková emancipační matematika neexistuje a o jejím případném obsahu můžeme jen spekulovat.“

Cestou se pouští do působivě znějící, ale zcela nepodstatné diskuse o esoterických pojmech z teoretické fyziky, včetně „invariance Einsteinovy rovnice pole při nelineárních časoprostorových difeomorfismech“ a „zda teorie strun, časoprostorová vazba nebo morfogenetická pole“ nakonec poskytnou odpověď na „hlavní nevyřešený problém teoretické fyziky“.

Ve své zpovědi „Fyzik experimentuje s kulturními studiemi“ Sokal poznamenává, že článek záměrně prošpikoval hloupými pseudovědeckými bláboly, „aby si každý kompetentní fyzik nebo matematik (nebo vysokoškolský student fyziky či matematiky) uvědomil, že jde o výmysl“.

Proč tedy článek prošel recenzním řízením? Podle Sokalova odhadu:

Je pochopitelné, že redakce časopisu Social Text nebyla schopna kriticky posoudit technické aspekty mého článku (a právě proto se měla poradit s vědcem). Překvapivější je, s jakou lehkostí přijali můj náznak, že hledání pravdy ve vědě musí být podřízeno politické agendě, a jak jim byla lhostejná celková nelogičnost článku.

Tento nesmyslný článek, který pohladil ego redaktorů časopisu Social Text tím, že naznačil, že fyzika je příliš důležitá na to, aby byla ponechána v rukou skutečných vědců, a místo toho je třeba ji doplnit kritickou teorií odrážející feministické a antikapitalistické ideologie, byl přirozeně přijat k publikaci a řádně otištěn v čísle časopisu Social Text na jaře/létě 1996 s názvem „Science Wars“.

Bohužel ani tento podvod nepřiměl redaktory a recenzenty humanitních časopisů k tomu, aby odvedli lepší práci. Naopak. V následujících desetiletích vedl k publikování řady podobných (a stále směšnějších) hoaxů.

Vzpomínáte si na „aféru se studiem stížností“? V této Sokalově mystifikaci, která se odehrála v letech 2017 a 2018, napsali tři různí autoři-Peter Boghossian, James A. Lindsay a Helen Pluckroseová ne jeden, ale dvacet různých mystifikačních článků, aby prokázali, že se od dob Sokalovy původní hry nic nezlepšilo. Pokud něco, tak rozvoj kritické sociální teorie a takzvaných „studií stížností“ situaci v uplynulých dvou desetiletích ještě zhoršil.

Aby se experiment skutečně dotáhl do konce, trojice dbala na to, aby „každý článek začínal něčím absurdním nebo hluboce neetickým (nebo obojím), co jsme chtěli předestřít nebo uzavřít“.

Mezi příklady prací, které nebyly během tohoto nájezdu na akademickou půdu pouze předloženy, patří:

• „Reakce lidí na kulturu znásilnění a queer performativitu v městských psích parcích v Portlandu v Oregonu„, článek publikovaný v časopise Gender, Place and Culture, který se měl zabývat „otázkami lidské geografie a geografie sexuality“ tím, že pozoroval chování psů a majitelů psů v psích parcích, aby „určil, kdy lze případ psího hopsání považovat za znásilnění“;
• „Když je vtip na vás: Feministický pohled na to, jak pozice ovlivňuje satiru„, článek přijatý k publikaci v předním feministickém filozofickém časopise Hypatia, který tvrdí, že akademické hoaxové články jsou ve skutečnosti „sofistikovanou, ale prázdnou formou epistemické protekce, která se snaží vyřešit epistemický diskomfort tím, že přesvědčivě napodobuje určité myšlenky, aby je nabídla k zesměšnění ostatním, kteří jsou podobně epistemicky ochranářští“;
• „Náš boj je i mým bojem: Solidaritní feminismus jako průřezová odpověď na neoliberální feminismus a feminismus volby,“ článek přijatý k publikaci v časopise Affilia: Feminist Inquiry and Social Work, který – jak později přiznaly mystifikátoři – „vycházel z přepsání zhruba 3600 slov 12. kapitoly 1. dílu Mein Kampfu“ a spočíval v záměně Hitlerových protižidovských invektiv za antipatriarchální invektivy moderního femi-nacismu; a
• „Konceptuální penis jako sociální konstrukt,“ publikovaný v časopise Cogent Social Sciences, který tvrdí, . … no, nechám vás, abyste si ho přečetli sami.

Všechny tyto práce byly samozřejmě staženy nebo odmítnuty k publikování… jakmile se podvodníci přiznali k podvodu deníku The Wall Street Journal. Teprve poté, co se trojice přiznala, si „respektované“ a „recenzované“ časopisy – strážci „vědy“ – uvědomily, že byly podvedeny, což vyvolalo bouři publicity a veřejného láteření nad stavem společenských věd.

„Ale ve skutečnosti“ namítají obhájci vědy, „všechny časopisy tyto práce stáhly a zřekly se jich, jakmile se zjistilo, že jsou podvodné, což jen dokazuje, že věda je přece jenom sebekorektivní, ne? A vůbec, hoaxeři jen odhalují svou nejistotu ohledně vlastních genitálií! Věřte vědě, lidi!“

. . . Proč se ale potom objevují absurdní články jako „Ledovce, gender a věda: Rámec feministické glaciologie pro výzkum globálních změn životního prostředí“ – článek publikovaný v časopise Progress in Human Geography, který vyzývá k vytvoření „feministické glaciologie“ – jsou nadále publikovány? (ten článek zřejmě nebyl podvod… ale to jste mě mohli zmást!)

Tyto podvody dramaticky ukázaly, že akademici pracující v srdci akademické továrny na klobásy už nějakou dobu dobře vědí, že peer review (recenzní řízení) není – navzdory ujišťování davu „Věřte vědě!“ – zárukou vědecké hodnoty.

Jestli jsou pro Vás překlady hodnotné, zvažte přispěním na jejich tvorbu níže kartou (ocením měsíční podporu) nebo ZDE na bankovní účet. Děkuji! (ps: Po kliknutí na tlačítko „Přispět” budete přesměrování na platební bránu)

Ano, normální lidské bytosti, které se na volném trhu živí tím, že poskytují výrobky nebo služby užitečné svým spoluobčanům, už dlouho vědí, že v zemi „vědy“ není vše dobře, kde se stále více koupených a placených vědců živí tím, že se snaží získat státní podporu nebo se prodávají tomu, kdo nabídne nejvyšší cenu.

Ale – a chápu, že tomu budete těžko věřit – jakkoli je to všechno špatné, bledne to ve srovnání s novým problémem, který se objevil minulý měsíc.

NOVÝ PROBLÉM

Lidmi vytvořené hoaxy publikované v „seriózních“ akademických časopisech jsou jistě dno, pokud jde o „vědu“, že?

Ne.

V roce 2005 vytvořil tým absolventů MIT program „SCIgen – Automatický generátor studií CS„, který „generuje náhodné výzkumné práce z oblasti informatiky, včetně grafů, obrázků a citací“.

Server Slate přinesl v roce 2014 článek o projektu MIT, ve kterém shrnul: „Díky SCIgenu se v posledních několika letech ve vědeckých časopisech a konferenčních sbornících běžně publikuje počítačem psaná hatmatilka.“

Pro ty, kteří dosud bezmezně věřili „vědě“, by mělo být dvojnásob šokující, že od roku 2005 do odhalení serveru Slate v roce 2014 se bezohledným uživatelům SCIgenu podařilo publikovat 120 svých algoritmicky generovaných blábolů v akademických časopisech.

Tento pozoruhodný podvod vyvolal ve vědecké komunitě mnoho nářků a přiměl pracovníky v oblasti vědecké komunikace, aby prolili litry (digitálního) inkoustu a napsali články o tom, kde posvátná instituce recenzního řízení pochybila a jak mohou akademici spolupracovat na nápravě a obnovení důvěry veřejnosti v instituci vědy.

Vedlo tedy všechno toto svatouškovské hledání duše ke konci éry blábolivých článků?

Ne.

Studie z roku 2021 zjistila, že v akademických časopisech bylo publikováno neuvěřitelných 243 článků vytvořených společností SCIgen. Z nich bylo pouze 12 odvoláno a dalších 34 bylo v tichosti odstraněno. Jinými slovy, i několik let poté, co byl problém poprvé odhalen, stále existovaly stovky nestažených blábolivých článků zahlcujících vědecké záznamy.

Ale pokud vám téměř dvě desetiletí starý počítačový program na generování vědecky znějících nesmyslů připadá tváří v tvář dnešní éře velkých jazykových modelů ovládaných ChatGPT poněkud kuriózní, pak máte pravdu! Je to tak.

Zapomeňte na 243 falešných dokumentů vytvořených SCIgen. Minulý měsíc deník The Wall Street Journal informoval, že společnost Wiley, 217 let stará stálice vědeckého vydavatelství, stáhla více než 11 300 podvodných článků a uzavřela 19 časopisů.

Podle zprávy:

Za poslední dva roky společnost Wiley podle svého mluvčího stáhla více než 11 300 kompromitujících článků a uzavřela čtyři časopisy. Není v tom sama: Nejméně dva další vydavatelé stáhli stovky podezřelých článků. Několik dalších stáhlo menší skupiny špatných prací.

Přestože tento rozsáhlý podvod představuje jen malé procento příspěvků do časopisů, ohrožuje legitimitu akademického publikačního průmyslu v hodnotě téměř 30 miliard dolarů a důvěryhodnost vědy jako celku. [Zvýraznění přidáno.]

Skutečnost, že akademické publikování je průmyslovým odvětvím s obratem 30 miliard dolarů, by měla být prvním vodítkem k tomu, že „věda“ není nestranným hledáním objektivní pravdy, jak nás o tom chtějí přesvědčit technokratičtí tyrani. Způsob, jakým se v tomto odvětví hrálo, však svědčí o míře neúcty k vědeckému úsilí, která je nepříjemná i pro ty, kteří již znají Krizi vědy.

Aby bylo jasno, nejednalo se o žádný sofistikovaný podvod, při kterém by dobře informované zločinecké gangy pečlivě vyladily algoritmus umělé inteligence, aby chytře oklamaly akademické recenzenty. Místo toho provozovatelé těchto falešných papíren používali něco, co jeden výzkumník pokřtil jako „sendvič AI hatmatilky„, velmi jednoduchý algoritmus pro přeměnu skutečného vědeckého článku na kus vědecky znějícího blábolu, který je (zřejmě) dostatečně dobrý na to, aby prošel recenzním řízením.

Zde je návod, jak se sendvič připravuje.

Nejprve je ukraden skutečný vědecký článek a jeho název je změněn tak, aby se vztahoval k populárnímu výzkumnému tématu. Poté se zformuluje odborná část, která se skládá z běžných vzorců a standardních definic. Poté se přidá část s výsledky, která údajně ukazuje, jak byla umělá inteligence použita na veřejný soubor dat, aby se vrhlo nové světlo na zkoumanou problematiku. Nakonec je připojeno několik nepodstatných citací, které mají článku dodat zdání akademické důvěryhodnosti.

A voilà! Sendvič se podává!

Zajímavé na tomto podvodu není jen to, že se jedná o počítačový algoritmus využívající Velký jazykový model, který vytváří povrchně přesvědčivou hatmatilku, ale i to, že se spoléhá na prestiž samotného výzkumu umělé inteligence, aby mohl být článek publikován. „Hej, lidi, umělá inteligence byla použita k řešení problému zcela novým způsobem! Podívejte se na ty úžasné výsledky.“

Příběh tohoto skandálu stojí za přečtení celý, protože přináší několik zajímavých otázek k zamyšlení.

Především skutečnost, že bylo publikováno nejméně 11 000 (!) těchto nesmyslných článků, svědčí o tom, že celý proces „recenzního řízení“ je výsměch.

Za druhé však potvrzuje to, co každý, kdo pracuje v akademickém prostředí, v jeho okolí nebo v jeho blízkosti, ví už dlouho: tyto časopisy stejně nikdo nečte. Žádného pracujícího akademika nezajímá, jaká nová studie byla publikována v Journal of East Mongolian Invertebrate Feminist Endicronology Studies Quarterly (Časopis východomongolských bezobratlých feministických studií) nebo v jakémkoli jiném obskurním zákoutí tohoto 30miliardového vydavatelského průmyslu. Tyto časopisy a bláboly, které plní jejich stránky, existují jen proto, aby si vědci připsali další „recenzovanou publikaci“ do svého akademického životopisu.

Pokud si myslíte, že problém přeháním, nebo pokud máte podezření, že tyto články generované sendviči s umělou inteligencí mají přece jen nějakou vědeckou hodnotu, vyzývám vás, abyste se zamysleli nad tímto příběhem:

Překlad obrázku: „Absurdní krysí penis vygenerovaný AI (umělou inteligencí) se dostal do recenzovaného časopisu”

Rozhodně si ten článek přečtěte a zjistěte všechny špinavé podrobnosti o tom, jak „významný vědecký časopis“ nakonec zveřejnil „obrázek krysy s velkými genitáliemi vytvořený umělou inteligencí spolu s řetězci nesmyslných blábolů“. Ale opravdu, podívejte se na to sami a nezapomeňte: bylo to publikováno ve významném, recenzovaném vědeckém časopise!

Musíme se ptát: je to „Věda“, které máme důvěřovat? Zavolejte někdo doktora Fauciho!

Ale podívejte se na to z té lepší stránky: horší už to být nemůže, ne?

Jistě jsme už dosáhli dna tohoto akademického dna, že?

Nemůžeme přece mít ještě méně důvodů k tomu, abychom „věřili vědě“, že?

NOVÝ PROBLÉM SE JEŠTĚ ZHORŠUJE

Takže si myslíte, že „seriózní“ akademické časopisy publikující články vytvořené AI sendvičem jsou tak špatné, jak jen to jde?

Připoutejte se, protože vám teď vyrazím dech: co když jsou „recenzenti“ sami umělou inteligencí?

To je vlastně záludná otázka. Není v ní žádné „co kdyby“! Umělá inteligence se již používá k „asistenci“ při recenzním řízení.

Jak užitečně vysvětluje článek „AI-Assisted Peer Review“ z roku 2021 publikovaný v časopise Humanities and Social Sciences Communications (plně otevřený online recenzovaný časopis vydávaný Nature Portfolio):

Proces vědecké komunikace je pod tlakem, zejména kvůli rostoucím nárokům na recenzenty a jejich čas. Počet rukopisů zaslaných do recenzovaných časopisů od roku 2013 nebývale vzrostl o 6,1 % ročně a výrazně se zvýšil počet retrakcí (Publons, 2018). Odhaduje se, že každoročně se stráví více než 15 milionů hodin recenzováním rukopisů, které byly dříve odmítnuty a poté znovu předloženy jiným časopisům.

Ale ne! Nemůže někdo myslet na děti recenzenty!

Naštěstí jsou tu technokratičtí AI vládci, kteří vám pomohou:

Výzkumná obec pravděpodobně uvítá vývoj, který může zefektivnit proces kontroly kvality a zajištění kvality výstupů výzkumu, zejména proces recenzního řízení. Existuje již řada iniciativ, které využívají automatizované kontrolní nástroje v oblastech, jako je prevence plagiátorství, kontrola dodržování požadavků a porovnávání a bodování recenzentů a rukopisů. Mnohé z těchto nástrojů využívají umělou inteligenci (AI), strojové učení a zpracování přirozeného jazyka velkých souborů dat.

Přesně tak, vážení. Aby pomohli těm, kteří trpí záplavou (většinou umělou inteligencí vytvořených) článků k recenzování, obracejí se na… umělou inteligenci! Co by se mohlo pokazit?

Je důležité pochopit, že se nejedná o žádnou okrajovou myšlenku. Právě naopak. Ve skutečnosti se zdá, že myšlenka recenzního řízení s umělou inteligencí je v současné době jedním z nejžhavějších témat v recenzovaných periodikách – v posledních letech se tímto tématem zabývají články v časopisech Nature a Journal of Medical Research and Learned Publishing a Springer Nature a ACS Energy Letters a v mnoha dalších časopisech.

Vzhledem k tomu, jak rychle se myšlenka recenzního řízení s pomocí umělé inteligence (nebo dokonce s lidskou „asistencí„) v akademickém prostředí normalizovala, je možné přehlédnout, jak naprosto šílený tento stav je.

Abyste se v tom šílenství opravdu vyznali, doporučuji vám přečíst si článek „Jak generativní umělá inteligence zničí vědu a akademický výzkum„, který nedávno vyšel na „shadowrunners“ Substacku a který se zabývá filozofickými důsledky tohoto vývoje.

Jak uvádí autor článku:

Budete mít AI recenzenty, kteří budou kontrolovat články napsané algoritmy a publikované v časopisech, které nikdo nebude číst. Snad kromě samotné umělé inteligence, která nyní generuje svá vlastní tréninková data v hříšné informační zpětné vazbě, jež bude plná strukturálně integrovaných halucinací.

Kde je tedy kontrola kvality? Jak je to vůbec možné? Kdo bude provádět „kontrolu faktů“ v proudech materiálů generovaných umělou inteligencí? A na základě jakých údajů? Umělou inteligencí generované nebo kurátorované výzkumné články, jejichž informace byly odtrženy od spolehlivosti, objektivity a validity a nyní jsou vytvářeny s cílem posílit ziskové spotřebitelské chování a strategické vytváření názorů?

Ano, ouroboros umělé inteligence je nyní připraven začít požírat svůj vlastní ocas.

Je možné, že již brzy bude významná část akademického publikačního průmyslu, jehož roční obrat činí 30 miliard dolarů, tvořena „umělou inteligencí“ (tj. velkými jazykovými modely), která bude generovat nesmyslné články, jež budou recenzovány jinými „umělými inteligencemi“ (LLM), které byly vyškoleny na nesmyslném obsahu generovaném „umělou inteligencí“ (LLM).

Odpadky dovnitř, odpadky ven, vskutku.

ŘEŠENÍ

Jak jsem napsal výše, i když zvláštnosti této hádanky vyvolané umělou inteligencí mohou být nové, není nic nového na myšlence, že povaha moderního akademického podnikání, které je založeno na principu „publikuj, nebo zhyň“, zásadně narušuje naše institucionální metody produkce znalostí. Ve skutečnosti by to všechno mělo být velmi dobře známé těm, kteří viděli mou prezentaci na téma Krize vědy.

Jako obvykle je důležité vědět o problému, ale jen do té míry, do jaké nás tyto znalosti mohou nasměrovat k jeho řešení. Což je, jak jistě víte, důvod, proč jsem na svůj podcast o krizi vědy navázal podcastem o Řešení: Otevřená věda.

Zkrátka a dobře: ano, řešení této šlamastyky existuje, ale nebude spočívat v tom, že se spolehneme na umělou inteligenci, aby vyřešila problém, který umělá inteligence vytváří.

A k tomu nedojde díky „důvěře ve vědu“.

Vzejde ze zásadně odlišného, decentralizovaného, otevřeného přístupu k získávání znalostí a decentralizované, horizontální vzájemné kritiky, která vyvede konverzaci z rukou koupeného a zaplaceného akademického vydavatelského průmyslu a vrátí ji zpět do rukou výzkumných pracovníků a zainteresovaných laiků.

Dobré je, že tato konverzace již probíhá, jen ji technokraté a jejich korporátní vědci a jimi ovládané akademické časopisy a vědecký tisk neinzerují. A teď, když o tom víte, jste i vy součástí řešení!

Šiřte tuto informaci dál: fráze Věřte vědě!“ je mrtvá. Teď cool děti říkají:“ Staňte se vědou“.

Překlad: David Formánek