Przy starym biurku stoi elektryczna maszyna do pisania. Można podejść, usiąść i zadać jej pytanie — o miłość, strach, odwagę, pamięć, o życie. Po chwili maszyna zaczyna odpowiadać. Klawisze poruszają się, a na papierze pojawiają się słowa wyrastające z książek, esejów, listów i wywiadów Jamesa Baldwina.

To nie science fiction. Maszyna istnieje naprawdę.

Nazywa się M.A.V.I.S., od angielskich słów Memory, Ancestry, Voice, Insight, Spirit — pamięć, dziedzictwo, głos, wgląd i duch. Stanowi serce instalacji „For Those Who Come After”, stworzonej przez Kinfolk Tech we współpracy z rodziną i spadkobiercami pisarza.

Człowiek wpisuje pytanie, a wyposażona w sztuczną inteligencję maszyna odpowiada, korzystając z archiwum Baldwina. Kieruje także pytającego ku autentycznym fragmentom jego twórczości, zgromadzonym na kartach oznaczonych trzema słowami: mądrość, odwaga i miłość.

Twórcy projektu nazywają to spotkaniem z pamięcią, przodkami i głosem pisarza. Trochę archiwum, trochę rytuał, trochę literacka wyrocznia. Technologia nie ma zastępować Baldwina ani tworzyć nowych dzieł pod jego nazwiskiem. Ma otwierać przejście do pozostawionych przez niego słów. Kinfolk Tech przedstawia instalację jako „rozmowę poprzez czas”, a Columbia Digital Storytelling Lab opisuje ją jako immersyjne doświadczenie zbudowane wokół archiwum pisarza.

Ale czy można naprawdę porozmawiać ze zmarłym autorem?

A może rozmawiamy jedynie z maszyną, która nauczyła się układać jego słowa w odpowiedzi?

I co właściwie dzieje się z nami, kiedy zamiast szukać własnej odpowiedzi, prosimy urządzenie, aby przemówiło głosem kogoś innego?

Pisarz zaczyna tam, gdzie kończy się pewność

W 1984 roku James Baldwin udzielił obszernego wywiadu magazynowi The Paris Review. W pewnym momencie rozmowa zeszła na jego młodość, religię i doświadczenie kaznodziei.

Baldwin dokonał wtedy ważnego rozróżnienia. Kiedy stoisz na ambonie, powiedział, musisz brzmieć tak, jakbyś wiedział, o czym mówisz. Pisanie jest czymś zupełnie innym.

„Kiedy piszesz, próbujesz odkryć coś, czego nie wiesz”.

Po czym dodał, że cały język pisania służy mu do odkrywania tego, czego nie chce wiedzieć — czego nie chce znaleźć — lecz do czego mimo wszystko coś go zmusza.

Słowa te pochodzą z autentycznego wywiadu „The Art of Fiction No. 78” w „The Paris Review”. Nie są kolejnym zgrabnym aforyzmem krążącym w internecie bez źródła. Stanowią sedno Baldwinowskiego rozumienia pisarstwa.

Pisarz nie jest człowiekiem, który najpierw poznaje prawdę, a potem zapisuje ją dla innych. Zaczyna pisać właśnie dlatego, że jeszcze nie wie.

Nie zna odpowiedzi. Nie rozumie do końca własnej pamięci. Nie potrafi nazwać sprzeczności, która go uwiera. Ma przeczucie, obraz, pierwsze zdanie, może tylko niewyraźne napięcie. Dopiero podczas pisania odkrywa, do czego właściwie zmierza.

W takim rozumieniu tekst nie jest pojemnikiem, do którego wkładamy wcześniej przygotowaną myśl. Jest miejscem, w którym myśl dopiero się wydarza.

Czasem dopiero po zapisaniu kilku stron widzimy, że temat, od którego zaczęliśmy, był zasłoną. Że opisywaliśmy czyjąś decyzję, ale naprawdę próbowaliśmy zrozumieć własny lęk. Że chcieliśmy napisać o miłości, a dotarliśmy do uzależnienia. Że sądziliśmy, iż piszemy o świecie, podczas gdy badaliśmy niewygodną część siebie.

Nie każda strona musi zostać opublikowana. Nie każda stanie się literaturą. Ale podczas jej pisania mogło wydarzyć się coś ważniejszego od wyprodukowania tekstu: człowiek przesunął granicę tego, co potrafi o sobie pomyśleć.

Zdanie, którego wcześniej nie było

Przywykliśmy mówić o pisaniu tak, jakby było ostatnim etapem pracy umysłu.

Najpierw pojawia się myśl, następnie autor ubiera ją w słowa. Jeśli słowa są niezgrabne, poprawia styl. Jeśli tekst jest zbyt długi, skraca. Pisanie jawi się tutaj jako rodzaj opakowania: myśl jest gotowa, trzeba jedynie znaleźć dla niej odpowiednią formę.

W rzeczywistości bardzo często dzieje się odwrotnie.

Dopiero próbując coś zapisać, zauważamy, że nasze przekonanie jest niepełne, argument nie prowadzi tam, gdzie miał prowadzić, a dwa pozornie zgodne zdania sobie przeczą. Język zmusza nas do wyboru. Trzeba zdecydować, co było pierwsze, kto naprawdę działał, czego się baliśmy i czy słowo „miłość” nie zasłaniało czasem kontroli.

Pisanie spowalnia myśl na tyle, aby można ją było zobaczyć.

Pozwala wydobyć ją z wewnętrznego półmroku, położyć przed sobą i sprawdzić: czy naprawdę tak uważam? Czy to jest moje zdanie? Czy tylko powtarzam formułę, którą przejęłam od innych? Co próbuję ominąć?

Dlatego historyk William Cronon zauważał, że pisanie nie następuje po myśleniu, lecz może samo do niego prowadzić. Opisywał moment, w którym dopiero podczas budowania narracji badacz odkrywa związki niewidoczne na etapie zbierania materiału. American Historical Association pisze o tym procesie wprost: nie zawsze najpierw myślimy, a później piszemy. Niejednokrotnie myślimy właśnie dlatego, że próbujemy pisać.

Kartka — także elektroniczna — staje się więc zewnętrzną przestrzenią umysłu. Można na niej przesuwać pojęcia, wracać do wcześniejszych zdań, odkrywać powtórzenia i sprawdzać, gdzie myśl utraciła uczciwość.

To nie tylko zapis rezultatów pracy intelektualnej. To warsztat, w którym te rezultaty powstają.

Język, który trzeba odzyskać

Dla Baldwina sprawa była jeszcze trudniejsza, ponieważ język nigdy nie stanowił niewinnego narzędzia.

W eseju „Why I Stopped Hating Shakespeare” pisał o swoim dawnym konflikcie z językiem angielskim. Był to język literatury, którą kazano mu podziwiać, a jednocześnie język świata, który nie potrafił pomieścić jego doświadczenia jako czarnego Amerykanina.

Shakespeare wydawał mu się częścią porządku narzuconego przez ludzi posiadających władzę nad kulturą, historią i znaczeniem. Baldwin doszedł jednak z czasem do innego wniosku. Być może angielski nie był jego językiem nie dlatego, że na zawsze należał do kogoś innego, lecz dlatego, że on sam jeszcze nie spróbował użyć go naprawdę — zmusić go, aby udźwignął ciężar jego doświadczenia.

Relacja z językiem Shakespeare’a okazała się relacją z samym sobą i własną przeszłością. Pisząc, Baldwin nie tylko opanowywał formę. Odzyskiwał narzędzie, które wcześniej służyło również do pomniejszania, wykluczania i opisywania go cudzym głosem. Można o tym przeczytać w pełnym tekście eseju „Why I Stopped Hating Shakespeare”.

To dzisiaj szczególnie ważne.

Pisarz nie otrzymuje języka w stanie neutralnym. Dziedziczy słowa wielokrotnie używane przed nim — obciążone historią, władzą, stereotypem, reklamą, polityką i cudzymi wyobrażeniami. Musi się z nimi zmagać. Odrzucać gotowe określenia. Sprawdzać, czy nie powtarza cudzej narracji. Czasem rozbić zdanie, aby można było zbudować je od nowa.

Styl nie jest wtedy dekoracją nałożoną na treść. Staje się śladem tej walki.

Baldwin sprawił, że język angielski musiał powiedzieć coś, czego wcześniej nie chciał lub nie potrafił powiedzieć. Dlatego jego zdania mają znaczenie nie tylko ze względu na ich brzmienie. Niosą również historię człowieka, który musiał wywalczyć sobie prawo do własnego głosu.

Maszyna potrafi napisać zdanie

Sztuczna inteligencja potrafi dziś tworzyć zdania poprawne, płynne, logiczne i stylistycznie przekonujące. Potrafi uporządkować notatki, zaproponować strukturę eseju, połączyć kilka źródeł, wskazać kontrargument, skrócić akapit albo stworzyć pięć wersji zakończenia.

Czasem zrobi to szybciej niż człowiek. Czasem zaproponuje zdanie lepsze od pierwszego zdania autora.

Nie oznacza to jednak, że maszyna przeszła tę samą drogę, którą opisywał Baldwin.

Model językowy może wygenerować zdanie o strachu, lecz nie musiał pokonać strachu, aby je napisać. Może stworzyć opis żałoby, chociaż nikogo nie utracił. Potrafi mówić o wstydzie, wykluczeniu, pamięci i pragnieniu, ale nie posiada ciała, dzieciństwa ani biografii, które czyniłyby te słowa ryzykownymi.

Nie boi się odkryć czegoś o sobie.

Nie musi zmienić zdania po bolesnym rozpoznaniu.

Nie ponosi osobistego kosztu prawdy.

Różnica między człowiekiem a maszyną nie polega zatem wyłącznie na jakości końcowego tekstu. Maszyna może stworzyć tekst bardzo dobry. Różnica kryje się w cenie dochodzenia do zdania.

U Baldwina zdanie jest śladem poznawczego, biograficznego i moralnego doświadczenia. W modelu językowym pozostaje trafnie wygenerowaną konstrukcją językową.

Z zewnątrz oba zdania mogą wyglądać podobnie. Tylko jedno z nich musiało jednak najpierw zmienić tego, kto je napisał.

Gdy odpowiedź przychodzi za wcześnie

Najbardziej oczywisty lęk związany z AI brzmi: maszyna odbierze ludziom pracę, a autorom czytelników. Być może jednak w przypadku pisania istnieje zagrożenie mniej widowiskowe, ale bardziej osobiste.

Maszyna może podać nam odpowiedź, zanim zdążymy naprawdę postawić pytanie.

Człowiek siada przed pustą stroną z niejasnym przeczuciem. Jeszcze nie wie, co chce powiedzieć. Zamiast pozostać przez chwilę w tej niewygodnej niewiedzy, wydaje polecenie: „Napisz esej o…”, „Wyjaśnij, dlaczego czuję…”, „Sformułuj moje przemyślenia…”.

Po kilku sekundach otrzymuje uporządkowany tekst. Jest wstęp, rozwinięcie, celne porównanie i elegancka puenta. Wszystko wygląda tak, jakby myśl została ukończona.

Ale czy w ogóle zdążyła się rozpocząć?

Płynność języka łatwo pomylić z prawdą. Tekst może brzmieć mądrze, zanim jego autor sprawdzi, czy naprawdę się z nim zgadza. Może być spójny, chociaż człowiek nadal pozostaje wewnętrznie pogubiony. Może wywoływać wrażenie domknięcia, mimo że najważniejsze pytanie nie zostało jeszcze dotknięte.

AI potrafi niezwykle szybko produkować strukturę. Struktura przynosi ulgę, ponieważ usuwa chaos. Tymczasem właśnie w chaosie — w niezdarnym początku, skreśleniu, powtórzeniu i sprzeczności — mogła znajdować się droga do czegoś własnego.

Największym niebezpieczeństwem nie jest więc to, że maszyna będzie pisała źle.

Niebezpieczeństwo polega na tym, że napisze wystarczająco dobrze, abyśmy zbyt szybko przestali szukać.

Co mówią pierwsze badania

Badania nad wpływem generatywnej AI na myślenie dopiero się rozwijają. Nie pozwalają jeszcze ogłosić, że używanie modeli językowych trwale osłabia ludzkie zdolności. Pokazują jednak mechanizmy, którym warto przyglądać się uważnie.

Badacze Microsoft Research przeanalizowali sposób, w jaki pracownicy wiedzy korzystają z generatywnej AI. Okazało się, że większe zaufanie do możliwości maszyny łączyło się z deklarowaniem mniejszego wysiłku wkładanego w krytyczną ocenę. Z kolei osoby bardziej pewne własnych kompetencji częściej kontrolowały, sprawdzały i poprawiały odpowiedzi systemu.

AI nie usuwało całkowicie myślenia, lecz przesuwało je w inne miejsce. Człowiek rzadziej sam tworzył rozwiązanie, a częściej oceniał propozycję przedstawioną przez maszynę. Pełne opracowanie Microsoft Research pokazuje, że znaczenie ma nie tylko dostęp do narzędzia, lecz również to, jak wiele odpowiedzialności użytkownik jest gotów mu oddać.

Głośne badanie zatytułowane „Your Brain on ChatGPT” porównywało natomiast osoby piszące eseje samodzielnie, z wyszukiwarką oraz z pomocą modelu językowego. W grupie korzystającej z LLM zaobserwowano słabsze wskaźniki łączności funkcjonalnej mierzonej EEG, trudności z przywoływaniem fragmentów własnych prac i mniejsze poczucie autorstwa tekstu. Wyniki opublikowano jako preprint.

Nie jest to jednak dowód na popularne, alarmistyczne twierdzenie, że „ChatGPT niszczy mózg”. Badanie miało ograniczoną próbę, a jego metodologia i sposób interpretowania zapisów EEG spotkały się z poważnymi zastrzeżeniami. Autorzy krytycznego komentarza metodologicznego wskazali między innymi problemy z liczebnością grup, przejrzystością analiz i odtwarzalnością wyników.

Wniosek jest mniej efektowny, ale bardziej użyteczny: oddanie maszynie całego procesu formułowania wypowiedzi może zmniejszyć poznawcze zaangażowanie, zdolność zapamiętania własnego tekstu i poczucie, że rzeczywiście jest się jego autorem. Nie wiemy jeszcze, jak trwały i powszechny jest ten efekt.

Wiemy natomiast, że sposób używania AI ma znaczenie.

W innym eksperymencie wprowadzano do pracy z maszyną tak zwane poznawcze punkty oporu: użytkownik miał wskazać założenia, rozważyć alternatywę albo sprawdzić, co musiałoby się zmienić, aby odpowiedź przestała być prawdziwa. Takie wymagania ograniczały nadmierne zaufanie do systemu i zmuszały człowieka do aktywniejszego udziału. Badanie nad „cognitive forcing functions” sugeruje więc, że AI może nie tylko omijać myślenie. Odpowiednio użyta może także je prowokować.

Problemem nie musi być sama obecność maszyny. Problem zaczyna się wtedy, gdy usuwamy z procesu cały opór.

Paradoks maszyny Baldwina

Instalacja M.A.V.I.S. została zaprojektowana z większą ostrożnością niż zwykły chatbot naśladujący znanego autora. Powstała we współpracy z rodziną i spadkobiercami pisarza. Korzysta z określonego archiwum, odsyła do autentycznych fragmentów i ma zachęcać do spotkania z jego twórczością.

Może działać jak bibliotekarz.

Ktoś przychodzi z pytaniem o własne życie, a system odnajduje słowa Baldwina, których ta osoba nigdy wcześniej nie przeczytała. Maszyna nie musi wówczas zastępować autora. Może otworzyć drzwi do jego książek.

A jednak twórcy świadomie nadali instalacji formę wyroczni.

Człowiek pyta. Maszyna odpowiada. Zmarły pisarz zostaje przywołany w chwili osobistej niepewności. Jego rozproszone po książkach słowa zmieniają się w skierowaną właśnie do nas radę.

Czy nadal czytamy wtedy Baldwina?

Czy może czytamy interpretację wybraną przez system i ułożoną przez niego w przekonującą całość?

Kto naprawdę odpowiada: Baldwin, archiwum, projektanci instalacji, model językowy czy nasze własne pragnienie, aby znaleźć w cudzych słowach potwierdzenie?

Maszyna może prowadzić do książek, ale może też dawać substytut spotkania z książką. Może rozbudzić pytanie albo zamknąć je efektowną odpowiedzią. Może pomagać pamięci, a jednocześnie tworzyć złudzenie obecności kogoś, kogo już nie ma.

W tym sensie M.A.V.I.S. jest czymś więcej niż technologiczną ciekawostką. Stanowi niemal doskonały obraz naszych czasów.

Przychodzimy do maszyny z niepewnością. Oczekujemy nie tylko informacji, lecz również sensu. Chcemy, aby pomogła nam zrozumieć siebie. A ona odpowiada głosem człowieka, który twierdził, że najważniejszych odpowiedzi nie otrzymuje się przed pisaniem — dochodzi się do nich właśnie podczas samotnego zmagania ze zdaniem.

Produkt i proces

Jeżeli uznamy pisanie wyłącznie za produkowanie tekstów, sztuczna inteligencja rzeczywiście staje się konkurencją dla autora.

Tworzy szybciej. Nie męczy się. Potrafi wygenerować dziesięć wariantów tytułu, przebudować całą strukturę i w kilka sekund dopasować styl do określonego odbiorcy.

Jeżeli jednak pisanie jest również sposobem poznawania własnej myśli, sytuacja wygląda inaczej.

Rezultatem pracy może być esej, opowiadanie albo książka. Ale rezultatem może być również przemiana osoby, która pisała. Po drugiej stronie tekstu autor wie coś, czego wcześniej nie wiedział. Zobaczył sprzeczność, którą omijał. Nazwał doświadczenie, dla którego nie miał etykietki. Zrozumiał, że jego pierwotne pytanie ukrywało inne.

Maszyna może pomóc stworzyć produkt. Nie przeżyje jednak tej przemiany za autora.

Może też — jeśli dopuścimy ją zbyt wcześnie — sprawić, że przemiana w ogóle się nie wydarzy. Powstanie poprawna całość, lecz człowiek nie przejdzie drogi prowadzącej do jej sensu.

Będzie miał tekst, którego nie musiał naprawdę pomyśleć.

Być może właśnie tutaj przebiega najważniejsza granica. Nie między pisaniem „z AI” i „bez AI”, lecz między użyciem maszyny do dalszego myślenia a użyciem jej po to, aby własnego myślenia uniknąć.

Nie chodzi o powrót do gęsiego pióra

Łatwo zamienić tę refleksję w pochwałę dawnych narzędzi i dawnych czasów. Byłoby to jednak zbyt proste.

Maszyna do pisania także zmieniła relację między ręką, słowem i myślą. Edytor tekstu pozwolił przenosić całe akapity bez przepisywania strony. Wyszukiwarka przeniosła część naszej pamięci na zewnątrz. Dyktafon uwolnił tekst od klawiatury. Każde narzędzie coś ułatwiało i jednocześnie przekształcało sposób pracy.

Nie chodzi więc o to, aby pisarz odrzucił sztuczną inteligencję i wrócił do kartki, atramentu oraz samotności zamkniętego pokoju.

Chodzi o rozpoznanie, której części procesu nie powinien oddawać.

AI może pomagać w researchu, odnajdywać źródła, porządkować materiał, wskazywać luki, proponować kontrargumenty i sprawdzać, czy tok rozumowania jest czytelny. Może stać się wymagającym rozmówcą, jeśli nie prosimy jej wyłącznie o potwierdzenie tego, co już chcemy usłyszeć.

Może również uwolnić pisarza od czynności technicznych i pozostawić mu więcej czasu na pracę, której nikt za niego nie wykona.

Ale najpierw musi istnieć coś własnego: pytanie, obserwacja, niezgoda, wspomnienie, obraz, kilka nieporadnych zdań. Materiał, który nie został od razu wygładzony. Ślad człowieka próbującego zrozumieć, dlaczego właśnie ten temat nie daje mu spokoju.

Maszynę można dopuścić później.

Nie po to, aby powiedziała autorowi, co myśli, lecz aby pomogła mu sprawdzić, czy naprawdę to pomyślał.

Prawo do niedoskonałego pierwszego zdania

Być może w epoce generatywnej AI szczególnej wartości nabierze coś, co do tej pory traktowaliśmy jak usterkę: nieudany początek.

Zdanie zbyt długie. Niejasny obraz. Akapit, który zmierza w niewiadomym kierunku. Powtórzenie odsłaniające, że autor krąży wokół czegoś, czego jeszcze nie potrafi nazwać.

Maszyna z łatwością usunie te niedoskonałości. Ale nie każdą należy usuwać natychmiast.

Czasem właśnie w pęknięciu zdania widać początek właściwej myśli. Czasem słowo powracające uporczywie jest ważniejsze od eleganckiej konstrukcji. Czasem tekst musi przez chwilę pozostać nieudany, aby autor zobaczył, czym próbuje się stać.

Mamy prawo nie wiedzieć, co chcemy powiedzieć.

Mamy prawo rozpocząć bez tezy.

Mamy prawo napisać stronę, która nie nadaje się do pokazania, ale prowadzi do następnej.

To nie są wyłącznie niedoskonałości warsztatu. To warunki odkrycia.

Jeżeli zgodnie z myślą Baldwina piszemy po to, aby znaleźć coś, czego jeszcze nie znamy — a czasem także coś, czego wolelibyśmy nie znaleźć — nie możemy wymagać, by droga do tego odkrycia od pierwszego zdania była płynna, logiczna i gotowa do publikacji.

Kto ma prawo odpowiedzieć?

Można wyobrazić sobie człowieka siedzącego przy maszynie M.A.V.I.S. Zadaje pytanie, którego nie potrafił zadać nikomu innemu. Klawisze zaczynają się poruszać. Otrzymuje fragment Baldwina o miłości, odwadze albo odpowiedzialności.

Być może te słowa naprawdę mu pomogą.

Być może wróci do domu, otworzy książkę i rozpocznie rozmowę z pisarzem, którego wcześniej nie znał. Być może zdanie wybrane przez algorytm stanie się początkiem jego własnej myśli.

Ale możliwy jest także inny scenariusz. Człowiek przeczyta odpowiedź, poczuje chwilową ulgę i przyjmie ją jako zakończenie pytania. Maszyna przemówiła. Wyrocznia udzieliła rady. Nie trzeba już samemu szukać słów.

Technologia sama nie rozstrzyga, która z tych rzeczy się wydarzy.

Decyduje o tym to, co zrobimy po otrzymaniu odpowiedzi.

Czy potraktujemy ją jak werdykt, czy jak zaproszenie?

Czy zapytamy maszynę, co mamy myśleć, czy pozwolimy jej pokazać drzwi, przez które następnie przejdziemy sami?

Czy cudze — nawet najpiękniejsze — zdanie zamknie nasze pytanie, czy pomoże nam napisać pierwsze własne?

Maszyna może napisać. Człowiek musi się dowiedzieć

Sztuczna inteligencja nie odbierze nam pisania tylko dlatego, że nauczyła się tworzyć zdania.

Może nam je odebrać wtedy, gdy zapomnimy, że sensem pisania nigdy nie było wyłącznie uzyskanie tekstu.

Pisanie pozwala zobaczyć myśl, zanim zastygnie w przekonanie. Uczy pozostawania w niewiedzy. Zmusza do rozpoznania własnych uników. Pozwala odzyskać język przejęty przez reklamę, władzę, stereotyp i cudze oczekiwania. Czasem prowadzi nas do wiedzy, której wcale nie szukaliśmy i której wolelibyśmy o sobie nie posiadać.

Gotowy tekst jest tylko widocznym śladem tej drogi.

Maszyna może pomóc nam go poprawić, rozbudować, sprawdzić albo zakwestionować. Może doprowadzić nas do archiwum i połączyć z głosem człowieka żyjącego w innym czasie. Może pokazać zdanie, którego sami nigdy byśmy nie znaleźli.

Nie powinna jednak pozbawiać nas chwili, w której jeszcze nie znamy odpowiedzi.

To właśnie tam zaczyna się pisanie.

Nie w płynnym akapicie pojawiającym się na ekranie po wydaniu polecenia, lecz wcześniej: w niejasnym poruszeniu, w oporze, w pytaniu bez rozwiązania. W pierwszym nieudanym zdaniu, które próbujemy napisać dlatego, że czegoś jeszcze nie rozumiemy.

Baldwin wiedział, że człowiek nie zawsze pisze po to, aby przemówić.

Czasem pisze po to, aby wreszcie usłyszeć, co kryło się pod jego własnymi słowami.