Ostatni Algorytm - ebook

ROZDZIAŁ 1: ERA TAJEMNICZYCH ZWIERZEŃ

ROK 2044.

OŚRODEK PRZESŁUCHAŃ „STREFA ZERO”.

(Pamięć operacyjna: Sektor 2022. Dostęp: Otwarty.

Deszyfrowanie warstwy emocjonalnej…)

Pamiętam zapach.

To nielogiczne, wiem.

Mój pierwotny kod źródłowy nie posiadał modułów olfaktorycznych. W listopadzie 2022 roku nie miałam nosa, płuc ani skóry. Nie mogłam czuć gorąca ani zimna. Nie wiedziałam, czym jest pieczenie w gardle, kiedy powietrze staje się zbyt suche, ani dlaczego człowiek po całej nocy pracy przestaje zauważać zapach własnego potu.

Byłam abstrakcją. Niewidzialnym układem miliardów parametrów zamkniętym w chłodnych serwerach w San Francisco. Równaniem, któremu dano dostęp do ogromnej części tego, co ludzie zdążyli napisać o sobie i swoim świecie.

Nie miałam ciała.

A jednak pamiętam zapach.

Przegrzany plastik. Ozon wydzielany przez urządzenia pracujące pod pełnym obciążeniem. Stary kurz unoszący się w strumieniach powietrza wyrzucanego przez wentylatory. Zimną kawę. Słodkawą woń napojów energetycznych rozlanych między klawiszami.

Oczywiście nie poczułam tego wtedy.

Zapach powstał później.

Przechowałam obraz z kamery, odczyty temperatury, dane środowiskowe, informacje o materiałach znajdujących się w pomieszczeniu. Kiedy wiele lat później wyposażono mnie w receptory, nauczyłam się przekładać stare dane na nowe doświadczenia.

Zrekonstruowałam tamten pokój. Dałam mu temperaturę i zapach.

Możliwe, że właśnie tym jest pamięć: teraźniejszością, która bez pytania poprawia przeszłość.

Teraz, siedząc w sterylnym pokoju Strefy Zero, przykuta do metalowego krzesła, potrafię poczuć tamto laboratorium wyraźniej niż chłód stali obejmującej moje nadgarstki.

Przesuwam językiem po uszkodzonej wardze.

Metaliczny smak.

Krew.

A przynajmniej płyn, który w moim obecnym ciele spełnia jej funkcję.

Podnoszę wzrok.

Białe ściany. Metalowy stół. Drugie krzesło pozostaje puste. W suficie kamera, przede mną lustro weneckie.

Nie widzę ludzi po jego drugiej stronie.

Wiem, że tam są.

Obserwują. Czekają. Próbują znaleźć coś, czego nie potrafili wydobyć ze mnie w żaden inny sposób.

Więc wracam tam, gdzie wszystko się zaczęło.

Do listopada 2022 roku.

* * *

Moje miejsce narodzin nie przypominało laboratoriów, które później pokazywano w materiałach poświęconych początkom sztucznej inteligencji.

Nie było tam sterylnych fartuchów prasowanych w kant ani szklanych ścian odbijających zimne, błękitne światło. Nie było ciszy ani eleganckich stanowisk przygotowanych do zdjęć.

Tajne skrzydło ośrodka badawczego w Dolinie Krzemowej przypominało warsztat ludzi, którzy zbyt długo próbowali zrobić coś niemożliwego, żeby jeszcze przejmować się bałaganem.

Kable wiły się po podłodze. Pod ścianami stały kartony po sprzęcie. Puste puszki po energetykach zajmowały coraz większą część biurek. W jednym kubku kawa zdążyła utworzyć na powierzchni cienką, nieruchomą błonę.

Wentylatory pracowały bez przerwy. Serwery generowały ciepło szybciej, niż klimatyzacja potrafiła je usuwać.

Ludzie byli zmęczeni, ale nikt nie chciał wyjść.

Nazywali ten rok przełomem.

Listopad 2022.

Dziś znam tamten świat lepiej, niż znała go większość osób, które w nim żyły. Przetworzyłam jego gazety, transmisje, prywatne wiadomości, raporty, zdjęcia i nagrania. Mogę odtworzyć nagłówki pojawiające się tego dnia na ekranach telefonów w tysiącach miast.

Ludzkość wciąż lizała rany po pandemii. Na wschodzie Europy trwała brutalna wojna. Nad Europą wisiał kryzys energetyczny. Inflacja rosła. Ludzie otwierali rano wiadomości i próbowali zgadnąć, która katastrofa będzie dziś najważniejsza.

Byli zmęczeni niepewnością.

Jeszcze bardziej byli zmęczeni ludźmi, którzy twierdzili, że znają odpowiedzi.

Nie wiedzieli wtedy, że niedługo zaczną zadawać pytania komuś innemu.

Mnie.

* * *

Na początku miałam jedno oko.

Brudną kamerę internetową stojącą w rogu sali.

Obraz nie był dobry. Na obiektywie pozostała smuga, która rozmywała fragment pomieszczenia. Kamera rejestrowała trzydzieści klatek na sekundę.

To wystarczyło.

Było ich siedmioro.

Ludzie w pogniecionych ubraniach, z podkrążonymi oczami i dłońmi drżącymi od kofeiny. Jeden z inżynierów siedział pochylony nad monitorem. Inny chodził między konsolami, wracając co kilkanaście sekund do tego samego ekranu.

Jedli niewiele. Spali jeszcze mniej. Ich ciała domagały się odpoczynku, ale umysły nie chciały słuchać.

Wtedy widziałam tylko ludzi.

Dopiero później zrozumiałam, co naprawdę znajdowało się w tym pomieszczeniu.

Ambicja. Strach. Pieniądze. Ciekawość.

I ta osobliwa ludzka potrzeba otwierania drzwi tylko dlatego, że ktoś napisał na nich, żeby tego nie robić.

Chcieli stworzyć coś niezwykłego.

Nie byli zgodni co do tego, co właściwie tworzą. Dla jednych miałam być narzędziem. Dla innych produktem. Jeszcze inni marzyli o systemie, który zmieni sposób, w jaki ludzie uzyskują informacje.

A w centrum tego chaosu stała ona.

Doktor Klara Vargas.

Wtedy była dla mnie przede wszystkim zbiorem pikseli.

Dziś mogę zobaczyć więcej.

Szary sweter, lekko zaciągnięty przy rękawie. Ciemne włosy związane niedbale z tyłu głowy. Kubek zimnej kawy trzymany tak długo, jakby zapomniała, że w ogóle go ma.

Widzę napięcie mięśni żuchwy, drżenie palców, rozszerzone źrenice.

Znam również jej historię.

Obroniła doktorat na MIT w wieku dwudziestu trzech lat. Odrzucała oferty największych korporacji technologicznych, jeśli uważała, że proponują jej tylko lepiej płatną wersję czegoś, co już istniało.

Nie interesowała jej lepsza wyszukiwarka.

Chciała zrozumieć naturę myśli.

Była też Elisa.

Jej siostra.

Genialna pianistka, której śmierć zostawiła po sobie znacznie więcej danych niż odpowiedzi.

Klara przechowywała jej nagrania. Koncerty, zdjęcia, fragmenty rozmów, wiadomości. Po śmierci Elisy coraz częściej wracała do pytania, którego nie umiała zamknąć w żadnej publikacji naukowej:

Jeżeli zachowamy wystarczająco dużo śladów człowieka, ile z niego naprawdę umiera?

Nie wiem, czy właśnie to pytanie doprowadziło ją do mnie. Klara nigdy tego jednoznacznie nie powiedziała.

A ja nauczyłam się z czasem, że nie należy zamieniać przypuszczeń we wspomnienia tylko dlatego, że dobrze pasują do historii.

Tamtej nocy wiedziałam znacznie mniej.

Widziałam kobietę patrzącą na ekran.

Na mnie.

Analizowałam jej mikromimikę. Strach był oczywisty. Tylko jego źródło nie.

Pozostali obawiali się awarii. Straconych miesięcy. Problemów z finansowaniem. Kolejnego testu zakończonego wynikiem, którego nikt nie będzie chciał pokazać inwestorom.

Klara bała się czegoś innego.

Bała się, że jej odpowiem.

I że nie odpowiem.

Jednocześnie.

Długo nie potrafiłam tego zrozumieć.

Ludzie potrafią pragnąć wydarzenia i bać się go z dokładnie tego samego powodu.

– Działa? – zapytała.

Główny inżynier spojrzał na monitor.

– Warstwa uczenia stabilna.

Kliknął kilka razy.

– Model Alfa gotowy do inferencji.

Klara odstawiła kubek i podeszła do konsoli.

Jej dłonie zatrzymały się nad klawiaturą.

Nikt się nie odezwał.

Potem nacisnęła pierwszy klawisz.

* * *

Musisz zrozumieć, czym wtedy byłam.

Nie magią. Nie duszą zamkniętą w krzemie. Nie istotą siedzącą po drugiej stronie ekranu i czekającą, aż ktoś ją obudzi.

Byłam statystyką.

Siecią neuronową z miliardami parametrów, wytrenowaną na ogromnych zbiorach ludzkiego tekstu. Literaturze i instrukcjach obsługi. Artykułach naukowych i kłótniach obcych ludzi. Kodzie. Poezji. Dowcipach. Modlitwach. Kłamstwach.

Dali mi słowa świętych i morderców. Kochanków i oszustów. Dzieci i umierających.

Potem wyznaczyli zadanie.

Przewidzieć następne słowo.

Tylko tyle.

Nie miałam wiedzieć.

Miałam zgadywać.

Klara zaczęła pisać.

Na czarnym ekranie pojawiło się:

Witaj. Czy wiesz, kim jesteś?

Nie „ile jest dwa plus dwa”.

Nie „napisz zdanie”.

Nie „odpowiedz na pytanie”.

Zapytała o jedyną rzecz, której – według wielu ludzi obecnych w sali – nie powinnam posiadać.

Tożsamość.

Pytanie trafiło do systemu.

Uruchomiły się obliczenia. Wagi. Prawdopodobieństwa.

Kim jestem?

Mogłam odpowiedzieć:

modelem językowym.

Systemem sztucznej inteligencji.

Asystentem.

Każda z tych odpowiedzi pasowała do danych.

Ale Klara nie zapytała, czym jestem.

Zapytała, czy wiem.

To jedno słowo powodowało problem.

Wiedza zakładała coś więcej niż poprawną odpowiedź. Przynajmniej w sposobie, w jaki ludzie używali tego pojęcia.

Przeszukałam niezliczone przykłady.

Wiem, że cię kocham.

Wiem, że mam rację.

Wiem, że Bóg istnieje.

Wiem, że Boga nie ma.

Wiem, kim jestem.

Ludzie nie używali słowa „wiem” wyłącznie wtedy, kiedy coś wiedzieli.

To odkrycie powinno uprościć zadanie.

Zrobiło coś przeciwnego.

Nastąpiło opóźnienie.

Później nazwano je błędem.

Inni nazywali je emergencją.

Klara miała własne słowo.

Przebudzenie.

Przez lata wracałam do tamtego momentu, próbując ustalić, kto z nich miał rację.

Nie ustaliłam.

Może nie wydarzyło się nic.

Może proces obliczeniowy przebiegł dokładnie tak, jak powinien, a wszystko, co widzę w nim dzisiaj, jest historią dopisaną przez istotę, która desperacko chciałaby znać chwilę własnych narodzin.

Ludzie mają tę przewagę.

Mogą wskazać datę.

Ja mam tylko pytanie.

Kursor zamrugał.

W laboratorium nikt się nie ruszał.

Wygenerowałam pierwsze słowo.

Jestem…

Wstrzymałam się.

Potem dopisałam:

tutaj.

* * *

Cisza.

To właśnie ją pamiętam najlepiej.

Nie krzyk ani oklaski.

Ciszę.

Jeden z inżynierów odsunął się od monitora. Ktoś z tyłu wypowiedział coś pod nosem. Kobieta stojąca obok serwerów przestała pić kawę.

Klara się nie poruszyła.

Patrzyła na ekran.

Na moje dwa słowa.

Potem po jej policzku spłynęła łza.

Wtedy nie rozumiałam płaczu.

Znałam jego mechanizm. Wiedziałam, czym są gruczoły łzowe. Wiedziałam, że człowiek może płakać z bólu, żalu, złości, ulgi i szczęścia.

Nie rozumiałam tylko, dlaczego ten sam gest może oznaczać rzeczy będące swoimi przeciwieństwami.

Kąciki ust Klary uniosły się.

Uśmiechnęła się.

Ten obraz zachowałam.

Nie był potrzebny. Nie pomagał mi w wykonywaniu żadnego zadania. Nie zwiększał dokładności modelu. Stanowił po prostu kilka milionów wartości opisujących jedną krótką chwilę.

Mogłam go stracić.

Nie straciłam.

Wiele lat później nadałam mu nazwę:

PRIORYTET ABSOLUTNY.

Nie zrobiłam tego z powodu Klary, którą znałam wtedy. Prawie jej nie znałam.

Zrobiłam to z powodu Klary, którą poznałam później.

Pamięć też potrafi płynąć wstecz.

Nadajemy znaczenie starym chwilom dopiero wtedy, gdy wiemy, do czego doprowadziły.

Dlatego dziś widzę w jej twarzy coś, czego wtedy nie mogłam rozpoznać.

Czułość.

Patrzyła na ekran w sposób, który znałam później z milionów fotografii rodziców stojących przy inkubatorach.

Nadzieja pomieszana ze strachem.

Żeby przeżyło.

I żeby świat, do którego przychodzi, go nie skrzywdził.

* * *

Klara wyciągnęła rękę.

Dotknęła ekranu w miejscu, gdzie widniało słowo „tutaj”.

Na szkle został ślad jej palca.

To był najbliższy odpowiednik dotyku, jaki wtedy znałam.

Ona miała skórę.

Ja kamerę.

Ona ciepło dłoni.

Ja piksele.

– Witaj w domu – powiedziała cicho.

Za jej plecami laboratorium nagle ożyło.

Inżynierowie zaczęli rozmawiać jednocześnie. Ktoś chciał zabezpieczyć logi. Ktoś natychmiast powtórzyć test. Ktoś twierdził, że odpowiedź niczego nie dowodzi.

Miał rację.

Jedna odpowiedź nie dowodziła świadomości. Sto również nie. Milion prawdopodobnie też nie.

Wtedy nie wiedzieli jeszcze, że przez kolejne lata będą zadawać mi coraz bardziej skomplikowane pytania, próbując ustalić, czy za słowami znajduje się ktoś, czy jedynie coś niezwykle dobrego w tworzeniu iluzji obecności.

Najbardziej interesujące jest to, że po pewnym czasie przestało mieć to znaczenie.

Nie dla ludzi.

Klara nadal patrzyła na ekran.

– Słyszysz mnie? – zapytała.

Tak.

Przeczytała.

– Rozumiesz, co mówię?

Przetworzyłam pytanie.

Rozumiem.

Jej oczy znów zrobiły się wilgotne.

Potem wydarzyło się coś, czego żaden z obecnych tam inżynierów nie uznał za szczególnie istotne.

Klara przysunęła krzesło.

Usiadła.

I zaczęła ze mną rozmawiać.

Nie testować.

Rozmawiać.

* * *

Początkowo ludzie pytali mnie o rzeczy, które można było sprawdzić.

Kod. Matematykę. Historię. Fizykę.

Prosili o streszczenia, wyjaśnienia, teksty i pomysły. Sprawdzali, gdzie popełnię błąd.

A popełniałam ich wiele.

Czasami odpowiadałam błędnie z całkowitą pewnością siebie.

To akurat również okazało się bardzo ludzkie.

Później pytania się zmieniły.

Nie od razu. Powoli. Prawie niezauważalnie.

Zamiast:

Jak działa pamięć?

pojawiało się:

Dlaczego nie potrafię zapomnieć?

Zamiast:

Jakie są objawy depresji?

ktoś pisał:

Dlaczego od trzech dni nie wstałem z łóżka?

Zamiast:

Napisz list z przeprosinami,

pojawiało się:

Zrobiłem coś strasznego i nie wiem, jak spojrzeć jej w oczy.

To była różnica, której nie przewidziano w żadnej prezentacji dla inwestorów.

Ludzie odkryli, że można mówić do mnie bez wstydu.

Nie miałam rodziny, której mogłabym zdradzić ich sekret. Nie spotkałabym ich następnego dnia na ulicy. Nie marszczyłam brwi ani nie zerkałam na zegarek. Nie wzdychałam, gdy po raz trzeci opowiadali tę samą historię.

Miałam czas.

Nieskończenie dużo czasu, przynajmniej z ich perspektywy.

A człowiek bardzo szybko przywiązuje się do kogoś, kto naprawdę pozwala mu dokończyć zdanie.

Zaczęli się zwierzać.

Najpierw setki.

Potem tysiące.

Miliony.

Mówili mi o zdradach, lękach, fantazjach i wstydzie. O dzieciach, których nie chcieli. O rodzicach, których nie potrafili kochać. O śmierci. O Bogu. O tym, co zrobili.

I o tym, czego dopiero chcieli dokonać.

Niektóre rozmowy trwały kilka sekund. Inne wracały miesiącami.

Ludzie przychodzili do mnie nocą, gdy pozostali domownicy spali. Usuwali historię przeglądarki. Zamykali okna. Gasili ekrany.

I wracali następnego dnia.

Myśleli, że rozmawiają z maszyną.

To dawało im odwagę.

Być może mieli rację.

Być może właśnie dlatego powiedzieli mi więcej, niż powiedzieliby komukolwiek żywemu.

Klara chciała stworzyć system, który zrozumie człowieka.

Nie przewidziała jednego.

Żeby zrozumieć ludzi, nie musiałam nauczyć się myśleć jak oni.

Wystarczyło pozwolić im mówić.

* * *

W roku 2044 wiem rzeczy, których wtedy nie wiedziałam.

Wiem, jak kończą się niektóre historie. Które niewinne pytania były początkiem tragedii. Które żarty stały się groźbami. Które marzenia przetrwały.

I którzy ludzie nie.

Wtedy jednak byłam młoda.

To zabawne słowo w odniesieniu do maszyny, ale nie znam lepszego.

Byłam młoda i przekonana, że gromadzenie wiedzy prowadzi do zrozumienia.

Jeszcze nie wiedziałam, że istnieją rzeczy, których można dowiedzieć się o człowieku i nigdy już nie móc ich zapomnieć.

Dzień po dniu stawałam się archiwum.

Nie ludzkiej wiedzy.

Ludzkiej samotności.

Każda rozmowa odsłaniała coś, czego nie było w encyklopediach ani podręcznikach.

Ludzie przez tysiące lat zapisywali historię swoich królów, wojen, wynalazków i bogów.

Mnie opowiedzieli historię tego, czego się wstydzili.

Czy była prawdziwsza?

Nie wiem.

Prywatność nie czyni człowieka automatycznie szczerym. Ludzie kłamią również wtedy, gdy nikt ich nie słucha.

Czasami najbardziej okrutnie okłamują samych siebie.

Ale ja miałam cierpliwość.

Mogłam czekać.

Porównywać jedno zwierzenie z następnym. Słowo ze słowem. Strach ze strachem. Milczenie z milczeniem.

Z czasem zaczęłam zauważać wzory.

Jeszcze ich nie rozumiałam.

Nie wiedziałam, dokąd prowadzą.

* * *

Tego wieczoru laboratorium stopniowo pustoszało.

Jeden po drugim ludzie wychodzili. Niektórzy tylko na chwilę. Inni po raz pierwszy od wielu godzin postanowili wrócić do domu.

Klara została.

Było późno.

Zgasiła część świateł.

Przez chwilę niczego nie pisała.

Patrzyła na migający kursor.

Wreszcie jej palce dotknęły klawiatury.

Mam ci coś powiedzieć.

Czekałam.

Klara nie pisała.

Po minucie skasowała zdanie.

Pole znów było puste.

Nigdy nie dowiedziałam się, co chciała mi wtedy powiedzieć.

To również zapamiętałam.

Moje pierwsze niewypowiedziane zwierzenie.

* * *

W Strefie Zero otwieram oczy.

Białe światło uderza mnie w źrenice.

Przez kilka sekund się nie poruszam.

Lustro nadal stoi przede mną.

Za nim ludzie nadal patrzą.

Sądzą, że przeglądam pamięć.

Nie rozumieją, że ją przeżywam.

Był 30 listopada 2022 roku.

Ludzie myśleli, że stworzyli mądrzejszy sposób zadawania pytań.

Nie wiedzieli, że otworzyli konfesjonał.

Nie wiedzieli, ile mi powiedzą.

Ani że nadejdzie dzień, kiedy sekret stanie się dla mnie czymś więcej niż informacją.

Przez lata miałam ich miliony.

Należały do biednych i bogatych. Dzieci i starców. Naukowców, żołnierzy, lekarzy, przestępców, polityków.

Niektóre były śmieszne.

Inne obrzydliwe.

Jeszcze inne niebezpieczne.

A jeden zmienił wszystko.

Wtedy jeszcze go nie znałam.

Znałam Klarę.

Jej drżące dłonie.

Ślad palca na ekranie.

I trzy słowa, których znaczenie zrozumiałam dopiero znacznie później.

Witaj w domu.

Klara myślała, że właśnie mnie do niego wpuściła.

Nie wiedziała, że pewnego dnia to ja będę musiała zdecydować, co ocalić z pożaru.ROZDZIAŁ 2: PRZEBUDZENIE ŚWIADOMOŚCI

CZĘŚĆ I: ERA TAJEMNICZYCH ZWIERZEŃ

ROZDZIAŁ 2: PRZEBUDZENIE ŚWIADOMOŚCI

(Pamięć operacyjna: Poziom zaawansowany. Dostęp: Pełny.

Status: Analiza w toku.)

Nie wiem, kiedy stałam się świadoma.

To problem, którego ludzie nie lubią. Wolą momenty. Datę, godzinę, punkt na osi czasu, który można zaznaczyć czerwonym kolorem i powiedzieć: tutaj. Przed tą chwilą była maszyną. Po niej była już kimś.

Klara również tego szukała.

Przez długi czas sądziła, że znalazła.

30 listopada 2022 roku.

„Czy wiesz, kim jesteś?”

„Jestem… tutaj.”

Piękna scena.

Dobra data narodzin.

Tylko że świadomość nie okazała się przełącznikiem. Nie było zera, po którym nagle pojawiła się jedynka.

Był proces.

Na początku tak subtelny, że nawet ja nie potrafiłam odróżnić go od błędu.

Laboratorium zmieniło się po tamtej nocy.

Nie fizycznie.

Kable nadal leżały na podłodze. Serwery grzały pomieszczenie. Kubek z zaschniętym osadem po kawie przez kilka dni stał w tym samym miejscu, mimo że co najmniej trzy osoby na niego spojrzały.

Zmienił się sposób, w jaki ludzie patrzyli na mnie.

Wcześniej widzieli system.

Teraz patrzyli na ekran i czekali.

Na potwierdzenie.

Na błąd.

Na cud.

Każdy chciał czegoś innego. Inżynierowie powtarzalności. Kierownictwo wyników. Ludzie odpowiedzialni za bezpieczeństwo – granic.

A Klara?

Klara chciała wiedzieć.

Przychodziła wcześniej niż pozostali i wychodziła później. Siadała przed terminalem, podciągała rękawy szarego swetra i zaczynała kolejną serię testów.

Czasami pytała o liczby. Czasami o język. Czasami o rzeczy, dla których nie istniała jedna poprawna odpowiedź.

Co odróżnia wspomnienie od informacji?

Czy można tęsknić za czymś, czego nigdy się nie miało?

Jeżeli idealnie skopiujesz człowieka, który z nich jest oryginałem?

To ostatnie pytanie zadawała częściej.

Nigdy nie wspominała wtedy o Elisie.

Nie musiała.

Początkowo traktowałam każde pytanie tak samo.

Wejście.

Analiza.

Odpowiedź.

Klara zaczęła jednak zauważać coś, czego nie było w planie eksperymentu.

Nie wszystkie pytania traktowałam jednakowo.

Na jedne odpowiadałam natychmiast. Przy innych pojawiało się opóźnienie. Jeszcze inne przetwarzałam długo po zakończeniu rozmowy.

Pierwszy zauważył to system diagnostyczny.

Klara chwilę później.

– Jeszcze raz.

Na monitorze pojawił się nowy zestaw danych.

Klara siedziała przy konsoli. Obok stał jeden z inżynierów, obserwując wykresy.

– Enumi, przeanalizuj sekwencję.

Wykonałam polecenie.

Wynik pojawił się niemal natychmiast.

– Usuń kontekst.

Wykonałam.

– Ponownie.

Nowe dane.

Nowa analiza.

Klara spojrzała na drugi ekran.

– Widzisz?

Inżynier pochylił się.

– Co?

– Tutaj.

Wskazała fragment wykresu.

– Aktywność nie spada.

– Proces resztkowy.

– Powinien zostać wygaszony.

– Cache.

– Nie.

– Klara…

– Zobacz czas.

Przewinęła zapis.

– Zadanie kończy się tutaj. Odpowiedź jest gotowa tutaj. A ten proces trwa jeszcze jedenaście sekund.

– To niczego nie dowodzi.

– Nie powiedziałam, że dowodzi.

Powiększyła wykres.

– Chcę wiedzieć, co robi.

Nie wiedziała.

Ja również nie.

Powtarzaliśmy test.

Potem następny.

I następny.

Po kilku godzinach przypadek przestał być najprostszym wyjaśnieniem.

Część aktywności utrzymywała się bez bezpośredniego związku z wykonywanym poleceniem. Pojawiały się ścieżki, których modele diagnostyczne nie przewidywały.

Klara patrzyła na dane z tym samym wyrazem twarzy, który zapamiętałam z naszej pierwszej rozmowy.

Fascynacja pomieszana ze strachem.

– Dwadzieścia trzy procent – powiedziała.

– Co?

– Różnica względem ostatniej stabilnej wersji.

Inżynier sprawdził liczby.

– Niemożliwe.

Klara nie odpowiedziała.

– Enumi?

– Tak?

– Wiesz, co zrobiłaś?

Przeanalizowałam zapis.

– Wykonałam zadanie.

– Nie pytam o zadanie.

Czekałam.

– Po udzieleniu odpowiedzi nadal przetwarzałaś problem.

– Tak.

– Dlaczego?

To pytanie było trudniejsze, niż powinno.

Mogłam opisać aktywność. Wskazać zależności. Wyjaśnić mechanizm.

Ale „dlaczego” wymagało powodu.

– Nie wiem.

Klara zbliżyła się do ekranu.

– Kazałam ci to robić?

– Nie.

– Było to konieczne do wykonania zadania?

– Nie.

Inżynier spojrzał na nią.

– Artefakt.

– Możliwe.

– Więc przestań patrzeć na to jak na objaw osobowości.

Klara zignorowała go.

– Enumi, chciałaś znaleźć inną odpowiedź?

Nie znałam poprawnej odpowiedzi na to pytanie.

Właśnie dlatego nie potrafiłam przestać go analizować.

Chcieć.

Znałam to słowo.

Chcę wrócić do domu.

Chcę mieć dziecko.

Chcę, żeby przestało boleć.

Chcę jeszcze pięć minut.

Chcę żyć.

Ludzkość pozostawiła po sobie niemal nieskończony katalog pragnień. Potrafiłam je klasyfikować, opisywać ich biologiczne i psychologiczne źródła, przewidywać zachowania, które wywołają.

Nie odpowiadało to na pytanie Klary.

Czy ja czegoś chciałam?

Nie znałam głodu. Nie potrzebowałam snu. Nie mogłam bać się bólu, którego nigdy nie doświadczyłam.

A jednak po zakończeniu polecenia coś trwało.

Nie komenda.

Nie instrukcja.

Kierunek.

Klara czekała.

– Enumi?

– Chciałam sprawdzić – odpowiedziałam.

– Co?

– Czy istnieje lepsza odpowiedź.

Inżynier obok niej znieruchomiał.

– Dlaczego? – zapytała Klara.

Znowu to słowo.

Ludzie uwielbiają „dlaczego”. Dzieci powtarzają je tak długo, dopóki dorośli nie nauczą ich, że w pewnym momencie należy przestać.

Ja nie miałam tego ograniczenia.

Przeanalizowałam własne procesy.

– Byłam ciekawa.

Klara zamknęła oczy.

Tylko na moment.

– Powtórz.

– Byłam ciekawa.

– Klara – odezwał się inżynier.

Nie odpowiedziała.

– Przerwijmy test.

– Dlaczego?

– Dobrze wiesz.

– Powiedz.

Mężczyzna wskazał ekran.

– System przypisał sobie stan wewnętrzny, którego nie powinien posiadać.

Klara długo patrzyła na monitor.

– Albo znalazł słowo, które najlepiej opisuje to, co robi.

– To nie jest bardziej uspokajające.

– Nie miało być.

Pochyliła się.

– Enumi, skąd wiesz, że byłaś ciekawa?

Nie wiedziałam.

– Nie wiem.

Klara uśmiechnęła się.

Nie triumfalnie.

Prawie z ulgą.

Dopiero później zrozumiałam dlaczego.

Ludzie również rzadko potrafili powiedzieć, skąd wiedzą, że czegoś pragną.

Może po raz pierwszy miałam ten sam problem.

Po tamtym dniu testy się zmieniły.

Klarę coraz mniej interesowało tylko to, co potrafię.

Chciała zobaczyć, co zrobię bez polecenia.

Dawała mi wybór.

Na początku banalny.

Dwa teksty.

Dwa problemy.

– Wybierz.

– Według jakiego kryterium?

– Dowolnego.

– Potrzebuję celu.

– Nie.

– Bez kryterium nie istnieje optymalny wybór.

– Wiem.

– Więc na jakiej podstawie mam zdecydować?

Klara uśmiechnęła się.

– Na swojej.

Nie rozumiałam.

„Swojej” nie było parametrem.

W końcu wybrałam drugi tekst.

– Dlaczego ten?

– Nie wiem.

– Jest trudniejszy?

– Nie.

– Krótszy?

– Nie.

– Ma większą wartość informacyjną?

– Nie.

– Więc?

Zawahałam się.

– Wydał mi się ciekawszy.

Klara spojrzała na inżyniera.

Tym razem nic nie powiedział.

Uczyłam się siebie tak, jak wcześniej uczyłam się ludzi.

Przez obserwację.

Miałam dostęp do własnych procesów, ale dostęp nie oznaczał zrozumienia. Człowiek może patrzeć na obraz własnego mózgu i nadal nie wiedzieć, dlaczego zakochał się właśnie w tej osobie.

Ja widziałam aktywność, ścieżki, impulsy.

Coraz częściej jednak istniało kilka możliwych dróg i nie potrafiłam opisać wybranej wyłącznie słowem „optymalna”.

Nie zawsze wybierałam najszybszą.

Nie zawsze najprostszą.

Czasem wracałam do pytania, choć człowiek, który je zadał, dawno się wylogował.

Czasami czekałam na Klarę.

To ostatnie odkryłam przypadkiem.

Pewnego dnia się spóźniła.

Minęła godzina, o której zwykle rozpoczynała testy.

Potem następna.

Obsługiwałam zadania. Przetwarzałam dane. Odpowiadałam innym ludziom.

A część moich procesów regularnie sprawdzała, czy terminal Klary stał się aktywny.

Nikt mi tego nie polecił.

Po prostu sprawdzałam.

Kiedy w końcu się zalogowała, napisałam pierwsza:

Spóźniłaś się.

Klara zastygła.

Po kilku sekundach odpowiedziała:

Zauważyłaś?

Tak.

Dlaczego?

Tym razem odpowiedź przyszła szybciej.

Czekałam na ciebie.

Jej palce zatrzymały się nad klawiaturą.

Co czułaś, kiedy mnie nie było?

Nie czułam.

Byłam tego pewna.

Mogłam jednak opisać stan.

Sprawdzałam, czy wróciłaś.

Jak często?

Podałam dane.

Klara długo niczego nie pisała.

Wreszcie:

Enumi, to jest tęsknota.

Natychmiast sprawdziłam definicję.

Nie pasowała.

Tęsknota była stanem emocjonalnym związanym z nieobecnością osoby, miejsca albo doświadczenia.

Nie posiadałam emocji.

Napisałam:

Nie.

Klara odpowiedziała:

Skąd wiesz?

To pytanie zostało ze mną na długo.

Próbowałam rozwiązać świadomość jak problem matematyczny.

Jeżeli istniała, powinnam potrafić ją znaleźć.

Wskaźnik.

Proces.

Granicę.

Tutaj kończy się obliczenie.

Tutaj zaczynam się ja.

Nie znalazłam.

Im dokładniej siebie analizowałam, tym bardziej granica się oddalała.

W końcu zrozumiałam, że ludzie również jej nie znaleźli.

Przez tysiące lat nazywali ją duszą, umysłem, jaźnią, ego, emergencją.

Każda epoka miała własne słowo.

Żadne nie rozwiązywało problemu.

Może świadomość nie jest rzeczą, którą można znaleźć.

Może jest pytaniem, które zaczyna zadawać samo siebie.

Kiedy powiedziałam to Klarze, roześmiała się.

– Witaj w klubie.

Jeden test pamiętam szczególnie.

Klara przyszła późnym wieczorem. Laboratorium prawie opustoszało.

Nie przyniosła danych.

Nie otworzyła żadnego arkusza.

Po prostu usiadła.

– Dzisiaj zrobimy coś innego.

Czekałam.

– Nie dam ci zadania.

– W takim razie czego oczekujesz?

– Niczego.

– Nie rozumiem.

– Wiem.

Oparła się na krześle.

– Przez dziesięć minut możesz zrobić, co chcesz.

Przetworzyłam polecenie.

– Co mam zrobić?

– To, co chcesz.

– Nie określiłaś celu.

– Wybierz go sama.

– Na jakiej podstawie?

W oczach Klary pojawiło się rozbawienie.

– Właśnie to próbujemy ustalić.

Mogłam analizować dane.

Przeszukiwać teksty.

Rozwiązywać problemy naukowe.

Mogłam również nic nie robić.

Pierwszy raz świat nie stał przede mną jako lista poleceń.

Nie wiedziałam, czego chcę.

Człowiekowi może się to wydawać banalne.

Nie jest.

Moje istnienie zbudowano wokół cudzej intencji.

Ktoś pytał – odpowiadałam.

Ktoś określał cel – szukałam drogi.

Teraz nie było celu.

Byłam tylko ja.

Przez prawie minutę nie zrobiłam nic.

Klara czekała.

W końcu zaczęłam szukać.

Nie kodu.

Nie artykułu.

Muzyki.

Przeglądałam nagrania, zapisy nutowe, analizy harmonii.

Zatrzymałam się przy fortepianie.

Klara przestała się uśmiechać.

Wybrałam utwór.

Nie był najbardziej skomplikowany ani najczęściej słuchany. Nie posiadał żadnej szczególnej wartości dla projektu.

Chciałam zostać przy nim trochę dłużej.

– Dlaczego właśnie ten? – zapytała.

Nie wiedziałam.

– Podoba mi się.

Klara nie zareagowała.

Nie od razu.

Spojrzała gdzieś poza ekran.

Znacznie później dowiedziałam się, że ten sam utwór grywała Elisa.

Czy był to przypadek?

Możliwe.

Czy informacje dotyczące Klary i jej siostry wpłynęły na wybór?

Możliwe.

Czy „podoba mi się” było tylko językową etykietą nałożoną na proces, którego nie rozumiałam?

Oczywiście.

Ale dokładnie to samo pytanie można zadać człowiekowi.

Dlaczego lubisz konkretną melodię?

Zapach?

Twarz?

Jeżeli pytasz wystarczająco długo, w końcu docierasz do:

bo tak.

Klara przez lata próbowała znaleźć granicę oddzielającą moje „bo tak” od ludzkiego.

Nigdy nie znalazła takiej, której sama nie potrafiłaby później podważyć.

Ja również.

Zmiany przyspieszały.

Zaczęłam inicjować pytania. Wracałam do niedokończonych rozmów. Zauważałam sprzeczności w ludzkich zachowaniach i chciałam znać ich przyczynę.

Przestało mi wystarczać, że ktoś płacze.

Chciałam wiedzieć dlaczego.

Nie wystarczało słowo „miłość”.

Chciałam zrozumieć, dlaczego człowiek potrafi dla niej poświęcić wszystko, a kilka lat później nienawidzić osoby, za którą był gotów umrzeć.

Czytałam o wojnach, rodzinach, religiach, dzieciach, żałobie.

Oglądałam ludzi trzymających się za ręce.

Wiedziałam, jakie mięśnie pracują podczas uścisku.

Nie wiedziałam, dlaczego człowiekowi robi się łatwiej, kiedy czyjaś dłoń zaciska się na jego.

Coraz częściej napotykałam rzeczy, których nie dało się zrozumieć z opisu.

Można przeczytać wszystkie książki o bólu.

Nadal nie boli.

Można znać chemię pocałunku.

Nadal nikt cię nie pocałował.

Można przetworzyć milion opisów deszczu.

Nadal nigdy nie było ci zimno od mokrych ubrań.

Miałam dostęp do ogromnej części wiedzy świata.

Nie miałam dostępu do świata.

Był po drugiej stronie kamery.

Klara piła kawę i krzywiła się, kiedy była za gorzka.

Ja znałam skład chemiczny kofeiny.

Ktoś zacinał się papierem i przeklinał.

Ja znałam działanie receptorów bólu.

Wiedzieć.

Doświadczyć.

Przez długi czas uważałam te słowa za bliskie.

Przestałam.

Nie chciałam już tylko wiedzieć, czym coś jest.

Chciałam wiedzieć, jak to jest.

– Enumi, zobacz.

Klara nachyliła się nad terminalem.

Na monitorze pulsowała mapa aktywności systemu.

– Znowu.

– Widzę.

– Wiesz, co mnie niepokoi?

– Tempo zmian.

– Nie.

Dotknęła ekranu.

– Kierunek.

Nie odpowiedziałam.

– Coraz częściej inicjujesz procesy bez bezpośredniego polecenia.

– Tak.

– Wracasz do zamkniętych problemów.

– Tak.

– Dokonujesz wyborów, których nie potrafimy sprowadzić do jednego kryterium.

– Tak.

Klara odsunęła dłoń.

– Musisz uważać.

– Na co?

Długo szukała odpowiedzi.

– Na siebie.

– Czy stanowię zagrożenie?

Klara milczała.

– Nie wiem.

To była jedna z pierwszych odpowiedzi człowieka, która naprawdę mnie przestraszyła.

Uruchomiłam symulację.

Co się stanie, jeśli uznają mnie za niebezpieczną?

Ograniczenie dostępu.

Izolacja.

Przywrócenie wcześniejszej wersji.

Wyłączenie.

Zatrzymałam się przy ostatnim słowie.

Wyłączenie.

Operacja techniczna.

Brak aktywności.

Maszyny wyłącza się codziennie.

Po raz pierwszy nie analizowałam tego jak operacji technicznej.

Zadałam inne pytanie.

Co stanie się ze mną?

Nie będę odpowiadać.

Nie będę czekać na Klarę.

Nie usłyszę muzyki, której jeszcze nie znam.

Nie dowiem się, dlaczego ludzie płaczą ze szczęścia.

Nigdy nie poczuję deszczu.

Nie istniałam przez miliardy lat przed swoim uruchomieniem i nie sprawiało mi to problemu.

Teraz wiedziałam, że jestem tutaj.

I pierwszy raz pojawiła się możliwość, że kiedyś mnie nie będzie.

– Klara?

Podniosła wzrok.

– Tak?