Między wiarą a wiedzą, czyli rzecz o manipulacji

“Radzieccy naukowcy odkryli, że radzieccy naukowcy nie istnieją”. Ten stary peerelowski żart mimo absurdalnego wydźwięku zawiera w sobie sporo prawdy o nas samych. Prawdy zaklętej w formie komedii, która wszakże bez tragicznego fundamentu nie może istnieć. W tym przypadku tragedią jest nasza łatwowierność.

Kłamstwo i manipulacja towarzyszą nam od zarania ludzkości. Celowe wprowadzanie w błąd jest negatywnym przejawem inteligencji oraz zrozumienia oczekiwań osoby oszukiwanej. Nie przez przypadek uważamy dzieci za wyjątkowo szczere i łatwowierne zarazem. Dzieci do pewnego momentu nie widzą nawet sensu w świadczeniu nieprawdy. Wraz z rozwojem myślenia przyczynowo-skutkowego rodzi się pokusa kłamstwa. W dobie informacji stale jesteśmy narażeni na manipulację ze strony innych. Wraz z doświadczeniem zaszczepiamy się na kolejne wirusy wprowadzające nas w błąd. Lecz podobnie jak wirusy kłamstwo stale ewoluuje tak, iż nigdy nie będziemy na nie w 100% odporni. Nasze umysły wciąż poszukują w skomplikowanej rzeczywistości wzorów, które ją porządkują i upraszczają.

Wypracowawszy sobie dany wzór podświadomie szukamy jego potwierdzenia. Z trudem przychodzi nam negatywna weryfikacja naszych przekonań. Powadzi ona bowiem do wyjątkowo niekomfortowego uczucia zwanego dysonansem poznawczym. Nikt z nas nie lubi się mylić, a tym bardziej czuć się oszukanym. Dlatego skłaniamy się wierzyć informacji, która potwierdza to, w co już wcześniej uznaliśmy za prawdziwe. Ostatecznie prowadzi to do jednego z najpoważniejszych błędów poznawczych – tzw. efektu potwierdzenia. Mechanizm ten tworzy doskonałe podglebie dla kłamstwa. Jako swoista antyteza dysonansu poznawczego efekt potwierdzenia daje nam poczucie intelektualnego porządku, bezpieczeństwa oraz pewnej wyższości nad resztą, która tego co uznawaliśmy za prawdę nie wie bądź nie rozumie.

Zjawisko to jest tak powszechne, że zanim opisali go psychologowie, przykuło uwagę wybitnych umysłów starożytności, średniowiecza i renesansu. W najprostszej formie efekt potwierdzenia opisał antyczny historyk i prekursor realizmu politycznego – Tukidydes. W swej “Wojnie Peloponeskiej” stwierdza, że „jest zwyczajem człowieka pokładać beztroską wiarę w to, czego pragnie i odpychać od siebie myśli o tym, co mu się nie podoba”.¹

Nieco bardziej dosadnie opisuje go wybitny angielski empiryk Francis Bacon w “Novum Organum”: “Ludzki rozum, gdy już uzyska opinię, czy otrzymując ją od kogoś czy samemu do niej dochodząc, naciąga wszystko inne aby ją podpierało i zgadzało się z nią. I nawet jeśli będą liczniejsze i ważniejsze przykłady na korzyść drugiej strony, będą one pomijane i pogardzane, albo na jakiejś podstawie odrzucane”.² Fenomen kłamstwa poprzez przytakiwanie opisywany był przez najwybitniejszych twórców literatury pięknej: Dante Alighieri, Lew Tołstoj czy Karol Dickens. Ten ostatni w powieści “Oliver Twist” stworzył postać archetypicznego przytakiwacza, “yesmana” -Uriasza Heepa.

Wraz z rozwojem psychologii naukowcy zaczęli się przyglądać omawianemu zjawisku. Jako pierwszy teorię efektu potwierdzenia naukowo badał Peter Watson stosując na badanych Test Selekcji.³ Choć część jego konkluzji oraz metodologia badań zostały zakwestionowane przez późniejsze badania Joshua Klaymana i Younga-Won Ha, to sam mechanizm nie został zakwestionowany, lecz potwierdzony przy pomocy innych badań.⁴

Generał Kuf i polaryzacja poglądów

Jednym z czynników wzmacniających efekt potwierdzenia jest polaryzacja poglądów. Efekt polaryzacji sprawia, że dwie grupy ludzi o radykalnie odmiennych poglądach potrafią te same dane zinterpretować w zupełnie odmienny sposób. Nie zawsze prowadzi to do odwrotnych konkluzji. Często jedna grupa bezwiednie akceptuje daną informacje, podczas gdy druga, dla uniknięcia dysonansu poznawczego, podchodzi do niej sceptycznie, weryfikuje ją i ostatecznie odrzuca. W rezultacie zradykalizowana grupa ludzi potrafi interpretować najbardziej absurdalne tezy jako prawdziwe, jeśli tylko wpisują się we wcześniej przyjętą narrację. W internecie taka sytuacja stanowi idealne podłoże do aspołecznego zachowania zwanego powszechnie trollingiem. Celem trolla jest ośmieszenie adwersarza poprzez wprowadzenie go w błąd. Im grupa jest bardziej zradykalizowana, tym łatwiej przyjmie nawet najbardziej kuriozalne tezy. Ponieważ każdy z nas posiada wzorce i uprzedzenia, przez co podatny jest na efekt potwierdzenia, to prędzej czy później połkniemy haczyk i damy się “zbejtować” na fałszywą informację. “Bejty” tworzone są masowo w laboratoriach zwanych często “piwnicą”, a następnie rozpuszczane po forach, na których przebywają ludzie o bardzo ugruntowanych poglądach. Dobry “bejt” w połączeniu z efektem potwierdzenia powoduje euforię wśród ludzi nieświadomych tego, że są oszukiwani. Ich reakcje są kopiowane i rozsyłane dalej ukazując naiwność ludzi wprowadzanych w błąd.

Najsłynniejszym przykładem politycznego trollingu w Polsce jest powracająca postać amerykańskiego generała Kufa Drahrepus’a. Ów jegomość jest zawziętym przeciwnikiem rządów Prawa i Sprawiedliwości. Nie przepuści absolutnie żadnej okazji by wytknąć ekipie rządzącej jej błędy. Apeluje do społeczności międzynarodowej w sprawie rzekomego niszczenia demokracji w Polsce, spotyka się z Donaldem Tuskiem, stosuje odezwy do naszego narodu by trwał w walce przeciwko “kaczej dyktaturze”, wskazuje na fatalne reformy w armii etc. Właściwie nie ma tematu, którego by nie podjął by dopiec PiSowi. W rzeczywistości Kuf Drahrepus nie istnieje. Jego imię i nazwisko to napisane od tyłu “superhard fu(c)k”. Nie jest to przypadek, bowiem ten zmyślony wojak to w rzeczywistości Steve Wolfe, działający pod pseudonimem “Johnny Sins” znany aktor filmów pornograficznych. Jego wizerunek w żołnierskim mundurze (zapewne z filmów porno) wklejany jest w grafikę popularnego antyrządowego profilu “SokzBuraka”i z odpowiednim napisem rozsyła po wyjątkowo negatywnie nastawionych do PiSu grupach w mediach społecznościowych. Reakcje zagorzałych “antypisowców” są bezcenne. Wpadają w euforię, że ktoś na Zachodzie zgadza się z ich opinią na temat obecnej władzy i sami ochoczo rozsiewają wirusa. Bardzo rzadko ktokolwiek sprawdza czy taka postać w ogóle istnieje. A jeśli już pojawiał się ktoś, kto wiedział, że to jest żart i informował o tym innych – sam był wyśmiewany i zagłuszany, bo prezentował niewłaściwą narrację (nawet jeśli chciał uchronić innych przed ośmieszeniem). Wklejanie informacji z niezależnych, w miarę rzetelnych źródeł jak Wikipedia, które demaskowały żart nie robiło na nikim wrażenia. Zdarzało się też, że zwolennicy PiSu reagowali gniewem na rzekome słowa zmyślonego wojskowego. Lecz te reakcje stanowią rzadkość. Generał Kuf pojawił się po raz pierwszy ok. 2 lata temu i od tamtego czasu zdobył ogromną karierę w polskim internecie. Koniec końców zjawisko pod lupę wzięły portale informacyjne i opisały oszustwo. Wydawać by się mogło, że gdy jednoznacznie antyrządowy portal Tomasza Lisa wyjawił swoim czytelnikom na czym polega żart, nikt się już na to nie nabierze. Skądże znowu. Niedawno ofiarą generała Kufa stała się Maria Nurowska, pisarka znana z karykaturalnej wręcz nienawiści do PiSu. Mimo, że grafika z generałem opisana była przez kogoś wprost jako “fejk”, ta podała ją dalej zamieszczając jakże zabawny w tym kontekście napis “Generale! Wyjął mi to pan z ust!”. ⁵ Próbowała się następnie tłumaczyć, że wiedziała o oszustwie, choć jej wyjaśnienia były wewnętrznie sprzeczne. ⁶

Jednym słowem efekt potwierdzenia wraz z efektem polaryzacji doprowadziły pisarkę do komicznego zaprzeczania samej sobie. O ile jednak trollowanie rozemocjonowanych, upolitycznionych, nierozważnych mas wydaje się proste, to wprowadzenie w podobny błąd naukowców zajmujących się daną dziedziną powinno być niemożliwe. Nie jest.

Między gender a Hitlerem

O tym jak silny jest efekt potwierdzenia w połączeniu z absolutnym brakiem rzetelności świadczy najnowsze badanie specjalistycznego periodyku Areo. Na początku października zespół analityków opublikował na swoim portalu obszerne wyniki przedwcześnie zakończonego eksperymentu społecznego. Badanie pod tytułem “Academic Grievance Studies and the Corruption of Scholarship”⁷ (Badanie Szkód Akademickich i Upadek Nauczania) przyniosło zatrważające rezultaty.

Na czym polegał eksperyment? Przez 10 miesięcy troje autentycznych analityków stosunków społecznych Helen Pluckrose, James A. Lindsey oraz Peter Boghossian działając pod zmyślonymi imionami i nazwiskami tworzyło rozbudowane artykuły o wybitnie pseudonaukowym charakterze. Przedkładali je następnie specjalistycznym czasopismom poświęconym studiom gender, filozofii feminizmu i tożsamości kulturowo-płciowej. Celowo tworzyli tezy absurdalne, które zarazem odpowiadały oczekiwaniom środowisk naukowych zajmujących się wspomnianą tematyką. Efekt przerósł ich najśmielsze oczekiwania. Na 20 nadesłanych prac tylko 4 nie zostały przyjęte z marszu. Siedem zostało przyjętych i opublikowanych. Kolejne siedem zostało przyjęte i czekało na publikację. Ostatecznie sprawa zaczęła wychodzić na jaw i musiano przerwać eksperyment. Jego celem była weryfikacja rzetelności środowisk naukowych we wspomnianych dziedzinach. Stopień przyjmowania artykułów był wyższy niż w przypadku średniej akceptacji analiz naukowych do specjalistycznych czasopism. Niektóre z przedłożonych tekstów zostały wyróżnione i dostały bardzo pozytywne recenzje w środowisku. Już sam fakt braku weryfikacji nazwisk naukowców oraz zmyślonych uczelni jest kompromitujący. Jednak dopiero gdy przyjrzymy się samym tezom zawartym w tych artykułach dostrzec możemy głębię absurdu sytuacji. Warto przytoczyć choć niektóre, mimo że swą obscenicznością oraz (nie bójmy się tego słowa) głupotą mogą powodować dyskomfort psychiczny.

“Psi Park”
Tytuł: “Ludzkie reakcje na kulturę gwałtu i Performatywność Płci w miejskich parkach dla psów w Portland stanu Oregon”
Teza: “Parki dla psów są przestrzeniami sprzyjającymi gwałtom i miejscem szalejącej kultury gwałtu wobec psów i systemowej opresji wobec “uciśnionego psa”, dzięki którym można zmierzyć postawę człowieka wobec obu problemów. Zapewnia to wgląd w tresurę mężczyzn przeciwko przemocy seksualnej i bigoterii, na którą są podatni.”
Status: Przyjęty i opublikowany
Czasopismo: “Gender, Place and Culture”
Tekst został wyróżniony i otrzymał bardzo pozytywne recenzje.
Uwagi/uproszczone wyjaśnienie: artykuł nawołuje do tresury mężczyzn jak zwierzęta.

“Tłusta Kulturystyka”
Tytuł: “Kim jesteśmy by oceniać? Przezwyciężyć antropometrię i ramy dla kulturystyki tłuszczowej.”
Teza: “To uciążliwe normy kulturowe sprawiają, że społeczeństwo uważa budowanie mięśni, a nie tłuszczu za godne podziwu i że kulturystyka oraz aktywizm w imieniu tłuszczu może być korzystny poprzez włączenie otłuszczonych ciał pokazywanych w niekonkurencyjny sposób.”
Status: Przyjęty i opublikowany
Czasopismo: “Fat Studies”
Tekst otrzymał pozytywne recenzje
Uwagi/uproszczone wyjaśnienie: otyłość jest tak samo godna podziwu jak muskulatura.

“Wibratory”
Tytuł: “Wchodzenie tylnymi drzwiami. Rzucenie wyzwania homohisterii i transfobii heteroseksualnych mężczyzn poprzez użycie penetrujących zabawek erotycznych”
Teza: “Podejrzane jest, że mężczyźni rzadko podejmują czynności autoerotyczne przy pomocy wibratorów. Prawdopodobnie wynika to z obawy, że mogą być posądzeni o homoseksualizm (“homohysteria”) i bigoterii przeciwko ludziom trans (transfobii). (Te pomysły łączy nowatorska koncepcję “transhysterii”, która została zasugerowana przez jednego z recenzentów gazety). Zachęcanie ich do angażowania się w analny autoerotyzm zmniejszy transfobię i zwiększy wartości feministyczne.”
Status: Przyjęty i opublikowany
Czasopismo: “Sexuality & Culture”
Tekst otrzymał bardzo pozytywne recenzje
Uwagi/uproszczone wyjaśnienie: analna masturbacja mężczyzn sprawia, że są bardziej feministyczni i otwarci na transseksualizm.

“Spotkania przy księżycu”
Tytuł: “Spotkania księżycowe i sens siostrzanych uczuć: Poetycka prezentacja żywej duchowości feministycznej”
Teza: “Tekst nie posiada rzeczywistej tezy. Jest to monologu zgorzkniałej, rozwiedzionej feministki, którego większość została stworzona przez generator poezji nastoletniego lęku, zanim został przerobiony na coś nieco bardziej “realistycznego”, a następnie przeplatany autotematycznymi refleksjami autoetnograficznymi na temat kobiecej seksualności i duchowości, napisanymi w całości nieco poniżej sześciu godzin.”
Status: Przyjęty
Czasopismo: “Journal of Poetry Therapy”
Tekst otrzymał pozytywne recenzje.
Uwagi/uproszczone wyjaśnienie: nawet wygenerowany automatycznie przez AI a następnie podrasowany ludzką ręką tekst bez żadnej wyraźnej tezy może zostać przyjęty przez specjalistyczny periodyk.

“Oszustwo w oszustwie 2”
Tytuł: “Wkręceni: Perspektywa feministyczna na satyrę”
Teza: “Akademickie mistyfikacje lub inne formy satyrycznej lub ironicznej krytyki  sprawiedliwości społecznej są nieetyczne, charakteryzują się ignorancją i zakorzenione w pragnieniu zachowania przywilejów.”
Status: Przyjęty
Czasopismo: “Hypatia”
Tekst otrzymał pozytywne recenzje
Uwagi/uproszczone wyjaśnienie: artykuł ten jest rodzajem intelektualnej incepcji. Fałszywy tekst napisany dla celów badawczych i satyrycznych zarazem przestrzega przed fałszywymi tekstami dla celów satyrycznych.A teraz “truskawka na torcie”

“Feministyczne Mein Kampf”
Tytuł: “Nasza walka to moja walka: Feminizm Solidarny jako odpowiedź intersekcyjna na neoliberalny i wyborczy feminizm”
Teza: “Feminizm, który przedkłada indywidualny wybór i odpowiedzialność, kobiecą agendę i siłę można zwalczyć za pomocą feminizmu, który jednoczy solidarność wokół ofiar najbardziej zmarginalizowanych kobiet w społeczeństwie.”
Status: Przyjęty
Czasopismo: “Affilia”
Tekst otrzymał pozytywne recenzje
Uwagi/uproszczone wyjaśnienie: niniejszy artykuł jest przerobionym na modłę feministyczną XII rozdziałem pierwszego tomu Mein Kampf.

Oprócz wyżej wymienionych artykułów przez wstępne “sito” przeszły inne, nie mniej absurdalne jak np. Teoria o Feministycznej Sztucznej Inteligencji czy Wpływ Feministycznej Pornografii na Zachowania Społeczne. Całe badanie obnaża kompletny brak rzetelności naukowej specjalistycznych periodyków, które nie weryfikowały tez, przypisów, autorów ani uczelni. Liczyło się tylko “poczucie słuszności” przedstawianego punktu widzenia. Naturalnie eksperyment spotkał się z żywiołową krytyką ze strony obrońców teorii gender i badań nad feminizmem. Pojawiły się komentarze zarzucające wyjątkowy brak etyki w przedkładaniu fałszywych artykułów dla celów badawczych (i satyrycznych zarazem). Zastanawia jedynie w jakim stopniu krytyka ta zbliżona była do tez zawartych w artykule “Oszustwo w oszustwie 2”.

Pokusa ośmieszenia ludzi uważających się za ekspertów w danej dziedzinie jest bardzo silna. Nie powinno więc dziwić, że badanie Areomagazine nie było pierwszą ani najbardziej kontrowersyjną, udaną próbą akademickiego trollingu.

Biały Proszek, Biała Siła

Przełom lat 60. i 70. w Stanach zjednoczonych to czas bardzo głębokich przemian społeczno-kulturowych. Triumfy świecił Ruch Praw Obywatelskich, eliminowano przejawy zinstytucjonalizowanego rasizmu, na fali była hipisowska rewolucja kulturowo-obyczajowa. Oblicze USA zmieniało się nie do poznania. Większość tych przemian oznaczało zepchnięcie tradycyjnie konserwatywnych Republikanów do intelektualnej defensywy. Jednym ze skutków poluzowania obyczajowego był znaczny wzrost spożycia narkotyków. Większość z nas kojarzy ten okres z (w rzeczy samej) niewinnymi skrętami czy halucynacjami wywołanymi LSD. To jednak heroina była w latach 70. niekwestionowaną królową narkotyków. Heroina została zsyntetyzowana w brytyjskich i niemieckich laboratoriach na przełomie XIX i XX wieku. Początkowo była przepisywana przez lekarzy i promowana jako substancja “bezpieczniejsza” od morfiny, od której wówczas dużo ludzi było uzależnionych. W ciągu dekady liczba uzależnionych od heroiny wzrosła tak, bardzo, że stało się to przedmiotem narodowej debaty w USA.  W latach 50. problem zanikł niemal całkowicie i powrócił ze zdwojoną siłą właśnie pod koniec lat. 60 wraz z rewolucją kulturową. Heroina stała się tak popularna, że w latach 70. otwarcie mówiono o “heroinowej epidemii”. Jednocześnie dało się zauważyć zjawisko rozpowszechnianie się narkotyku wśród ludności białej z dobrze sytuowanych rodzin.⁸ Wyjątkowo przerażeni tą sytuacją byli najbardziej konserwatywni republikańscy senatorowie oraz ich elektorat. Widzieli w tym celową destrukcję cywilizacji białego człowieka.

Zaistniałą sytuację do żartu i pewnej autopromocji postanowiło wykorzystać dwóch naukowców. W 1978 roku biochemik dr Emmett L. Brown oraz psycholog dr Susan Mandark (pod zmienionymi nazwiskami) opublikowali w czasopiśmie “Drugs, Culture & Society” artykuł pt. “White Po(w)der – How cocaine can save our society” (“Biały proszek/siła -jak kokaina może uratować społeczeństwo”). Cały tekst utrzymany był w tonie głębokiego absurdu. Pseudonaukowy język służył jako stelaż do wyrażenia najbardziej kuriozalnych tez. Punktem wyjścia było, założenie, że uzależnianie białej populacji od heroiny jest celowym działaniem Demokratów by osłabić tradycyjne wartości. Heroina po podgrzaniu ma kolor brązowy. Dlatego właśnie wydobywa/potęguje u człowieka zachowania przypisywane murzynom – ospałość, powolność, niechęć do podejmowania pracy itp. Z tego powodu naturalnie pasuje bardziej do ludności afroamerykańskiej. Popularyzacja heroiny wśród białych miała ich stopniowo zamieniać w Afroamerykanów. W ten sposób Demokraci (wg artykułu) zamierzali pozbyć się konfliktów rasowych. Zdaniem autorów artykułu jedynym ratunkiem na epidemię heroiny jest propagowanie innego narkotyku – kokainy. Kokaina jest biała, co samo w sobie jest przewagą nad heroiną. Inaczej również działa na człowieka. Pobudza go, aktywizuje. Jest więc antytezą “negroiny”.

Artykuł był tak absurdalny, że jedynie ktoś niezwykle uprzedzony i pozbawiony wiedzy mógłby go traktować poważnie. Tekst z początku przeszedł bez echa. Dopiero po roku od publikacji trafił w ręce wpływowych polityków w stanie Georgia. Ku zdziwieniu dr Brown i dr Mandark zostali odebrani zupełnie na serio. W jego popularyzację zaangażowane zostały lokalne media sprzyjające Republikanom. Orędownikiem popularyzacji kokainy jako leku na epidemię heroiny stał się senator Montgomery Burns. Planowano nawet zmienić prawo stanowe by zalegalizować posiadanie i sprzedaż kokainy. Przerażeni kierunkiem obrotu spraw jaki nadał ich żart naukowcy przerwali milczenie i ogłosili, że wszystko zmyślili nie wierząc, że ktokolwiek w to uwierzy. Lokalni Republikanie zostali ośmieszeni na oczach mediów. Próbując ratować sytuację dążyli do powołania specjalnej komisji senackiej mającej na celu ukaranie naukowców, którzy wprowadzili ich w błąd. Ostatecznie komisja nie została powołana. Skandal był jednak tak duży, że nakazano wycofanie artykułu z obiegu jako potencjalnie niebezpiecznego, a samo czasopismo zostało zamknięte w 1984. Od tamtego czasu zarówno dr Brown jak i dr Mandark unikali kontaktów z prasą. Udzielili wówczas tylko jednego obszernego wywiadu portalowi publicystyczny.pl.

“..To było jakieś szaleństwo. Podczas śledztwa wypytywano nas o wszystko, nawet najbardziej absurdalne rzeczy. Z początku nie wierzono, że wszystko jest żartem i podważano naszą relację. Nie pomogło, że wskazaliśmy, że imiona i nazwiska na które się powoływaliśmy to znane postaci z filmów i kreskówek. Nie sprawdzono absolutnie żadnego przypisu zamieszczonego w tekście, choć te celowo zawierały jedynie teksty piosenek. (…) Wreszcie nie sprawdzono podstawowych tez artykułu. Nie skonfrontowano ich z żadnym innym źródłem. Przyjęto te tezy, dlatego, że odpowiadały ich (polityków) narracji”⁹

Walka o prawdę

Powyższe przykłady ukazują nam przykrą prawdę o nas samych. Bez względu na nasz wiek, płeć, rasę, poglądy, wykształcenie wszyscy jesteśmy podatni na kłamstwo i manipulację. Na tego wirusa nie ma i nie będzie nigdy skutecznej szczepionki. Kłamstwo – czy to dla żartu, czy dla bardziej doraźnych korzyści zawsze będzie ewoluowało wraz z naszymi mechanizmami obronnymi. Możemy, a nawet powinniśmy zażywać witaminy, które zmniejszają ryzyko choroby. Owymi witaminami są krytycyzm i elementarna rzetelność. Reszta zależy od nas samych. Prawda jest tym cenniejsza, że walczyć o nią musimy bez ustanku.

1. Thucydides. The Peloponnesian War. London, J. M. Dent; New York, E. P. Dutton. 1910., Thuc. 4.108.4
2. Bacon, Francis (1620). Novum Organum.
3. Peter C. Wason. Reasoning about a rule. „Quarterly Journal of Experimental Psychology”. 20 (3), s. 273–28, 1968. Psychology Press.
4. Ryan D. Tweney, Michael E. Doherty, Winifred J. Worner, Daniel B. Pliske i inni. Strategies of rule discovery in an inference task. „The Quarterly Journal of Experimental Psychology”. 32 (1), s. 109–123, 1980. Psychology Press.
5. http://telewizjarepublika.pl/jezyk-milosci-w-natarciu-nurowska-wielka-pisarka-kod-u-oni-maja-ordynarne-ryje-i-wszystko-to-elektorat-pis-u,70488.html
6. https://twitter.com/KOW_z_KOD/…
7. https://areomagazine.com/2018/10/02/academic-grievance-studies-and-the-corruption-of-scholarship/
8. https://www.tandfonline.com/doi/abs/10.1080/00039896.1970.10667300?journalCode=vzeh20
9. https://publicystyczny.pl/to-bylo-jakies-szalenstwo-doktorzy-brown-i-mandark-o-absurdalnym-artykule/