Życie 3.0. Człowiek w erze sztucznej inteligencji - ebook

Podziękowania

Jestem naprawdę wdzięczny wszystkim, którzy zachęcali mnie i pomagali napisać tę książkę, za wsparcie i inspirację trwającą lata, w tym mojej rodzinie, przyjaciołom, nauczycielom, kolegom i współpracownikom. Mojej Mamie za rozbudzanie ciekawości o ludzkiej świadomości i jej znaczeniu. Mojemu Tacie za ducha walki o uczynienie świata lepszym miejscem. Moim synom, Philipowi i Alexandrowi, za zademonstrowanie cudów ludzkiej inteligencji. Entuzjastom nauki i technologii na całym świecie, którzy przez lata będąc ze mną w kontakcie, zadawali pytania, przesyłali komentarze i zachęcali mnie do kontynuowania i publikacji pomysłów. Mojemu agentowi, Johnowi Brockmanowi, za wywieranie presji aż do momentu, gdy zgodziłem się napisać tę książkę. Bobowi Pennie, Jessemu Thalerowi i Jeremy’emu Englandowi za pomocne rozmowy o kwazarach, sfaleronach i termodynamice. Tym, którzy przekazali mi swe wrażenia o części rękopisu, w tym Mamie, mojemu bratu Perowi, Luisowi Bahetowi, Robowi Bensingerowi, Katerinie Bergström, Erikowi Brynjolfssonowi, Danielowi Chicie, Davidowi Chalmersowi, Nimie Deghani, Henry’emu Linowi, Elinowi Malmsköldowi, Toby’emu Ordzie, Jeremy’emu Owenowi, Lucasowi Perry’emu, Anthony’emu Romero, Nate’owi Soaresowi i Jaanowi Tallinnowi. Superbohaterom, którzy komentowali szkic całości książki, czyli Mei, Tacie, Anthony’emu Aguirre, Paulowi Almondowi, Matthew Gravesowi, Phillipowi Helbigowi, Richardowi Mallahowi, Davidowi Marble, Howardowi Messingowi, Luiño Seoane, Marinowi Soljačiciowi, mojemu wydawcy Danowi Frankowi i najbardziej Mei, mojej ukochanej muzie i życiowej towarzyszce za nieustające wsparcie i inspirację, bez których książka nigdy by nie powstała.Rozdział 1

Witajcie w Najważniejszej Rozmowie Naszych Czasów

Technologia, jak nigdy dotąd, umożliwia życiu rozkwit lub samozniszczenie.

Instytut Przyszłości Życia

Trzynaście i osiem dziesiątych miliarda lat po narodzinach nasz Wszechświat przebudził się i zdał sobie sprawę ze swego istnienia. Z niewielkiej niebieskiej planety maleńkie świadome istoty będące częścią tego Wszechświata zaczęły patrzeć przez teleskopy w kosmos, wielokrotnie odkrywając, że wszystko, co istniało, jest tylko małą częścią czegoś większego: Układu Słonecznego, Galaktyki i Wszechświata z ponad stu miliardami innych galaktyk pogrupowanych w skomplikowany sposób na gromady i supergromady. Chociaż ci samoświadomi badacze gwiazd nie zgadzają się w wielu sprawach, to zgodnie przyznają, że galaktyki swą pięknością wzbudzają w nich zachwyt.

Piękno oceniają oczy obserwatora, a nie prawa fizyki, zatem zanim nasz Wszechświat powstał – piękna nie było. To sprawia, że nasze kosmiczne przebudzenie staje się jeszcze wspanialsze i godne świętowania: przekształciło ono nasz Wszechświat z pozbawionej samoświadomości materii w żywy ekosystem, który skrywa w sobie refleksję nad sobą, nad pięknem, nad dążeniem do celu, nad sensem i nad wolą. Gdyby nasz Wszechświat nigdy się nie obudził, to według mnie byłoby to wydarzenie bezcelowe – gigantyczne marnotrawstwo przestrzeni. Jeśli zaś na stałe powróci on do snu z powodu jakiegoś kosmicznego kataklizmu lub niefortunnego zdarzenia, straci, niestety, sens istnienia.

Jednak sprawy mogą rozwinąć się jeszcze lepiej. Do tej pory nie mamy pojęcia, czy my, ludzie, jesteśmy jedynymi astronomami w kosmosie lub nawet pierwszymi, ale już o Wszechświecie wiemy, że ma potencjał, by się przebudzić o wiele pełniej niż dotąd. Być może jesteśmy jak pierwsza słaba iskierka świadomości, która pojawia się, kiedy o poranku zaczynamy wychodzić ze snu, jak przeczucie znacznie większej świadomości mającej nadejść po otwarciu oczu i całkowitym przebudzeniu. Być może życie rozprzestrzeni się w całym kosmosie i rozkwitać będzie przez miliardy lub biliony lat – i być może spowodują to decyzje, które podejmujemy w ciągu życia tu, na naszej małej planecie.

KRÓTKA HISTORIA ZŁOŻONOŚCI

Jak więc doszło do tego niesamowitego przebudzenia? Nie było to odosobnione wydarzenie, ale tylko jeden krok w trwającym 13,8 miliarda lat procesie, który czyni nasz Wszechświat coraz bardziej złożonym i interesującym i który rozwija się w coraz szybszym tempie.

Jako fizyk czuję się szczęśliwy, ponieważ spędziłem dużą część ostatniego ćwierćwiecza na poznawaniu naszej kosmicznej historii, a była to niesamowita podróż pełna odkryć. Od czasów kiedy byłem magistrantem, dzięki lepszym teleskopom, lepszym komputerom i lepszemu zrozumieniu zjawisk przeszliśmy od sporów o to, czy nasz Wszechświat ma 10, czy 20 miliardów lat, do dyskusji, czy ma on 13,7, czy 13,8 miliarda lat. My, fizycy, nadal nie jesteśmy pewni, co spowodowało Wielki Wybuch i czy to był naprawdę początek wszystkiego, czy tylko kontynuacja wcześniejszej fazy. Jednakże lawina precyzyjnych pomiarów sprawiła, że udało się nam dosyć dokładnie zrozumieć, co wydarzyło się od czasu Wielkiego Wybuchu, a więc, proszę, pozwólcie mi poświęcić kilka minut na podsumowanie 13,8 miliarda lat naszej kosmicznej historii.

Na początku było światło. W pierwszym ułamku sekundy po Wielkim Wybuchu cała przestrzeń, jaką teleskopy mogą w zasadzie obserwować („nasz obserwowalny Wszechświat”, czyli krótko po prostu „nasz Wszechświat”), była znacznie cieplejsza i jaśniejsza niż jądro naszego Słońca i szybko się rozrastała. Choć może to brzmieć spektakularnie, to jednak było też nudne w tym sensie, że Wszechświat nie zawierał niczego innego oprócz martwej, gęstej, gorącej i nudnie jednorodnej zupy cząstek elementarnych. Wszystko wyglądało niemal tak samo wszędzie, a jedyna interesująca struktura składała się z lekkich, losowo wyglądających fal dźwiękowych, które sprawiły, że w pewnych miejscach zupa stawała się o około 0,001 procent gęstsza. Te słabe fale powszechnie uważa się za tak zwane fluktuacje kwantowe, ponieważ zasada nieoznaczoności Heisenberga w mechanice kwantowej nie pozwala, by wszystko było kompletnie nudne i jednorodne.

Gdy Wszechświat rozszerzał się i chłodził, stawał się coraz ciekawszy, w miarę jak swe cząsteczki łączył w coraz bardziej złożone obiekty. W pierwszym ułamku sekundy silne oddziaływanie jądrowe skupiło kwarki w protony (jądra wodoru) i neutrony, których część w ciągu kilku minut zbudowała jądra helu. Około 400 tysięcy lat później oddziaływanie elektromagnetyczne stworzyło z tych jąder i elektronów pierwsze atomy. W miarę jak Wszechświat się powiększał, atomy te stopniowo schładzały się do postaci zimnego, ciemnego gazu. Ciemność tej pierwszej nocy trwała około 100 milionów lat. Gdy siła grawitacyjna, wzmacniając fluktuacje gazu, skupiła razem atomy i powstały pierwsze gwiazdy i galaktyki, pojawił się nasz kosmiczny świt. Pierwsze gwiazdy dzięki łączeniu wodoru w cięższe atomy, takie jak węgiel, tlen i krzem, zaczęły wytwarzać ciepło i światło. Kiedy te gwiazdy umarły, wiele utworzonych w nich atomów powróciło do kosmosu i z nich to sformowały się planety wokół gwiazd drugiej generacji.

W pewnym momencie grupa atomów stała się zorganizowana w złożony wzór, który mógł się zarówno utrzymać, jak i powielać. Wkrótce więc były już dwa egzemplarze, a ich liczba zaczęła się podwajać. Wystarczyło tylko czterdzieści podwojeń, aby osiągnąć bilion, a zatem ten pierwszy samopowielacz szybko stał się siłą, z którą należy się liczyć. Pojawiło się życie.

TRZY STADIA ŻYCIA

Wiadomo, że określenie, czym jest życie, wywołuje mnóstwo kontrowersji. Istnieje wiele konkurujących ze sobą definicji, a niektóre z nich zawierają tak bardzo specyficzne wymaganie jak budowa komórkowa, co może wykluczać z tego pojęcia zarówno przyszłe inteligentne maszyny, jak i cywilizacje pozaziemskie. Ponieważ nie chcemy ograniczać się w naszym myśleniu o przyszłości życia do gatunków, które dotychczas spotykaliśmy, określmy życie jako proces, który może zachować jego złożoność i umożliwiać replikację. To, co się replikuje, to nie materia (zbudowana z atomów), ale informacje (wykonane z bitów) określające sposób rozmieszczenia atomów. Kiedy bakteria wykonuje kopię swojego DNA, nie powstają nowe atomy, lecz zostaje skopiowana informacja dzięki nowemu zbiorowi atomów ułożonych według tego samego wzorca co oryginał. Innymi słowy, możemy myśleć o życiu jako o systemie samoreplikującym się i przetwarzającym informację określającą zarówno jego zachowanie (oprogramowanie), jak i konstrukcję.

Podobnie jak sam Wszechświat, życie stopniowo stawało się coraz bardziej złożone i interesujące2. Jak zaraz wyjaśnię, pomocna okaże się klasyfikacja form życia na trzy stadia zaawansowania: na Życie 1.0, Życie 2.0 i Życie 3.0. Te trzy stadia przedstawiłem na ilustracji 1.1.

Ilustracja 1.1. Trzy stadia życia: ewolucja biologiczna, ewolucja kulturalna i ewolucja technologiczna. Życie 1.0 w ciągu swego trwania nie jest zdolne do zmiany własnej postaci materialnej i sposobu przetwarzania informacji, ponieważ obie te cechy określa struktura DNA, a jej zmiana może zajść tylko na skutek ewolucji rozciągniętej na wiele pokoleń. Życie 2.0, przeciwnie, może dokonać zmian swego sposobu przetwarzania informacji: ludzie mogą nabywać nowych złożonych umiejętności – na przykład, uczyć się języków obcych, uprawiać sport i wykonywać różne zawody – i fundamentalnie zmieniać swój światopogląd i cele. Życie 3.0, które jeszcze nie istnieje na Ziemi, może diametralnie zmienić nie tylko swój sposób przetwarzania informacji, lecz także postać materialną, zamiast zdawać się na powolne zmiany ewolucyjne zachodzące na przestrzeni wielu pokoleń.

Wciąż otwarte pozostaje pytanie, jak, kiedy i gdzie po raz pierwszy w naszym Wszechświecie pojawiło się życie. Tutaj na Ziemi, na co istnieją mocne dowody, powstało ono około 4 miliardów lat temu. A niedługo po tym fakcie nasza planeta tętniła różnorodnością form życia. Te najbardziej udane wkrótce zaczęły rywalizować z resztą dzięki umiejętności reagowania w jakiś sposób na swoje otoczenie. Cybernetycy takie formy nazywają „inteligentnymi agentami”: czyli jednostkami, które za pomocą sensorów zbierają informacje o swoim środowisku, a następnie przetwarzając je, decydują, jakie działania podjąć w tym środowisku, aby osiągnąć zamierzony cel. Może to obejmować bardzo złożone przetwarzanie informacji, na przykład gdy wykorzystywane dane pochodzą od oczu i uszu i służą do podjęcia decyzji o tym, co w rozmowie należy powiedzieć. Może to również dotyczyć sprzętu i oprogramowania, które są dość proste.

Na przykład wiele bakterii ma czujnik mierzący stężenie cukru w cieczy, w której pływają i poruszają się za pomocą organu o kształcie śmigła zwanym flagellą. Struktury łączące czujnik z flagellą mogą realizować prosty, ale użyteczny algorytm: „Jeśli czujnik stężenia cukru poda niższą wartość niż kilka sekund temu, to odwróć obrót mojej flagelli tak, aby zmienić kierunek ruchu”.

Nauczyliście się mówić i zdobyliście wiele innych umiejętności. Bakterie natomiast nie są dobrymi uczniami. Ich DNA określa nie tylko budowę ich organów, na przykład flagelli i czujników stężenia cukru, ale także oprogramowanie kierujące przetwarzaniem danych z tych organów. Nigdy nie uczyły się pływać w kierunku wzrastającego stężenia cukru, bo algorytm ten od początku miały na stałe zakodowany w DNA. Oczywiście zachodził pewnego rodzaju proces uczenia się, ale nie postępował on w okresie życia konkretnej bakterii. Wręcz przeciwnie, nastąpiło to w czasie ewolucji poprzedzającej ten gatunek bakterii drogą obejmującego wiele pokoleń powolnego procesu prób i błędów, w którym dobór naturalny sprzyjał przypadkowym mutacjom DNA zwiększającym konsumpcję cukru. Niektóre z tych mutacji udoskonalały budowę flagelli i innych organów, a inne – ulepszały stosujący algorytm wyszukiwania cukru system przetwarzania informacji bakterii i podobne mu oprogramowanie.

Te bakterie są przykładem „Życia 1.0”: życia, w którym organy oraz oprogramowanie są raczej rozwijane niż projektowane. Natomiast my jesteśmy przykładem „Życia 2.0”: takiego, którego organy są rozwijane, ale oprogramowanie jest w dużej mierze zaprojektowane. Przez oprogramowanie rozumiem wszystkie algorytmy i wiedzę używane do przetwarzania informacji z naszych zmysłów i decydowania o tym, co należy zrobić – od umiejętności rozpoznawania znajomych, gdy ich widzimy, po sztukę chodzenia, czytania, pisania, liczenia, śpiewu i mówienia dowcipów.

Kiedy się urodziliśmy, nie byliśmy w stanie wykonać żadnego z tych zadań, całe to oprogramowanie zostało więc stworzone w naszych móz­gach przez późniejszy proces nazywany uczeniem się. Choć w dzieciństwie program nauczania jest w dużej mierze opracowywany przez rodzinę i nauczycieli, którzy decydują o tym, czego mamy się uczyć, to w miarę dorastania stopniowo uzyskujemy więcej uprawnień do budowania własnego programu. Być może szkoła umożliwi wam wybór języka obcego: zainstalowanie we własnym mózgu modułu umożliwiającego posługiwanie się językiem francuskim, a może takiego, który pozwala na opanowanie języka hiszpańskiego? Czy chcecie nauczyć się grać w tenisa albo w szachy? A może zechcecie zostać szefami kuchni, prawnikami lub farmaceutami? Albo zapragniecie dowiedzieć się więcej o sztucznej inteligencji (AI) i przyszłości życia dzięki przeczytaniu książki na ten temat?

Ta zdolność Życia 2.0 do tworzenia własnego oprogramowania czyni je znacznie inteligentniejszym niż Życie 1.0. Wysoka inteligencja wymaga zarówno dużej liczby organów (zbudowanych z atomów), jak i oprogramowania (tworzonego z bitów). To, że większość naszych ludzkich organów rozwija się po urodzeniu (dzięki wzrostowi), jest bardzo użyteczne, ponieważ naszego ostatecznego rozmiaru nie ogranicza szerokość kanału rodnego matki. Podobnie użyteczne jest także to, że większość ludzkiego oprogramowania powstaje już po urodzeniu (dzięki nauce), ponieważ nabywana inteligencja nie ogranicza się jedynie do porcji informacji zawartej w DNA i przekazanej w momencie zapłodnienia, tak jak dzieje się w przypadku Życia 1.0. Teraz ważę mniej więcej dwadzieścia pięć razy tyle, co w momencie narodzin, a połączenia synaptyczne łączące neurony w moim mózgu mogą pomieścić około stu tysięcy razy więcej informacji niż DNA, z którym przyszedłem na świat. Synapsy w mózgu przechowują całą naszą wiedzę i umiejętności w mniej więcej 100 terabajtach informacji, podczas gdy DNA przechowuje jedynie jeden gigabajt informacji, a to zaledwie tyle, ile ma pobrany z sieci film. A więc jest fizycznie niemożliwe, aby dziecko rodziło się z perfekcyjną znajomością języka angielskiego i było gotowe do zdania egzaminu wstępnego do szkoły wyższej: nie może być mowy o tym, by informacje zostały wstępnie załadowane do jego mózgu, ponieważ przekazany mu w DNA przez rodziców główny moduł informacyjny nie ma odpowiedniej pojemności wystarczającej do przechowania tych wszystkich informacji.

Możliwość tworzenia oprogramowania sprawia, że Życie 2.0 jest nie tylko inteligentniejsze niż Życie 1.0, lecz także bardziej elastyczne. Jeśli środowisko ulega zmianom, wersja 1.0 może się przystosować do zmian tylko przez powolną ewolucję na przestrzeni wielu pokoleń. Natomiast Życie 2.0 może się niemal natychmiast dostosować do nowych wymagań dzięki aktualizacji oprogramowania. Na przykład bakterie często stykające się z antybiotykami mogą przez wiele pokoleń rozwijać oporność na leki, ale pojedyncza bakteria w ogóle nie zmienia swojego zachowania, natomiast osoba dowiadująca się, że ma alergię na orzeszki ziemne, natychmiast zmienia swoje nawyki żywieniowe, tak aby unikać z nimi kontaktu. Ta elastyczność sprawia, że Życie 2.0 zyskuje jeszcze większą przewagę na poziomie populacji: chociaż informacje zawarte w ludzkim DNA nie zmieniły się radykalnie w ciągu przeszłych pięćdziesięciu tysięcy lat, to te przechowywane w naszych mózgach, książkach i komputerach znacznie się rozrosły. Dzięki wytworzeniu modułu oprogramowania pozwalającego nam komunikować się za pomocą wyrafinowanego języka mówionego najbardziej użyteczne informacje przechowywane w mózgu jednej osoby mogą zostać skopiowane do innych mózgów, co pozwala im przetrwać nawet po śmierci mózgu pierwotnego. Z kolei moduł oprogramowania umożliwiający nam czytanie i pisanie pozwala przechowywać i udostępniać znacznie więcej informacji, niż ludzie zdolni są zapamiętać. Rozwijając oprogramowanie mózgu zdolne do tworzenia technologii (tj. dzięki studiowaniu dziedzin naukowych i inżynierii), za pomocą zaledwie kilku kliknięć umożliwiliśmy wielu ludziom na świecie dostęp do większości informacji.

Ta elastyczność pozwoliła Życiu 2.0 na zdominowanie Ziemi. Uwolniona z kajdan genetycznych sumaryczna ludzka wiedza rozwija się w coraz szybszym tempie, a każdy następny przełom: język mówiony, język pisany, druk, nowoczesna nauka, komputery, Internet itp., umożliwia jej dalszy rozwój. Ta coraz szybsza ewolucja kulturowa naszego wspólnego oprogramowania stała się dominującą siłą kształtującą przyszłość człowieka, sprawiając, że przedpotopowa powolna ewolucja biologiczna traci na znaczeniu.

Jednak pomimo dzisiejszych technologii wszystkie znane nam formy życia pozostają zasadniczo ograniczone ich materialną biologiczną postacią. Nikt nie może żyć przez milion lat, zapamiętać całej Wikipedii, zrozumieć wszystkich znanych nauk lub cieszyć się lotem kosmicznym bez statku kosmicznego. Nikt nie zdoła przekształcić w dużej mierze pozbawionego życia kosmosu w zróżnicowaną biosferę, która będzie rozkwitać przez miliardy lub tryliony lat, umożliwiając Wszechświatowi wykorzystanie jego potencjału i pełne przebudzenie. Wszystko to wymaga od życia, aby przeszło ostateczną aktualizację do Życia 3.0, które może stworzyć nie tylko swoje oprogramowanie, ale także formę materialną. Innymi słowy, Życie 3.0 jest panem swego losu, w końcu zostało w pełni uwolnione ze swych ewolucyjnych oków.

Granice między trzema stadiami życia są lekko rozmyte. Jeśli bakteria jest Życiem 1.0, a ludzie Życiem 2.0, to myszy można sklasyfikować jako Życie 1.1: mogą uczyć się wielu rzeczy, ale nie wystarcza im to do rozwinięcia języka lub wynalezienia Internetu. Ponadto, ponieważ brak im języka, to, czego się uczą, zanika w dużej mierze po ich śmierci i nie jest przekazywane następnym pokoleniom. Podobnie można dowodzić, że dzisiejszy człowiek powinien być traktowany jako Życie 2.1: możemy bowiem dokonywać drobnych modernizacji naszej materialnej postaci, takich jak wszczepianie sztucznych zębów, kolan i rozruszników serca, ale już nie tak głębokich zmian jak dziesięciokrotne powiększenie wzrostu lub tysiąckrotne zwiększenie mózgu.

Podsumowując, rozwój życia możemy podzielić na trzy stadia, odróżniające się pod względem umiejętności projektowania samego siebie przez życie:

• Życie 1.0 (etap biologiczny): rozwija swoją materialną postać i oprogramowanie na drodze ewolucji.

• Życie 2.0 (etap kulturalny): rozwija swoją materialną postać na drodze ewolucji, projektuje znaczną część swojego oprogramowania.

• Życie 3.0 (etap technologiczny): projektuje swoją postać materialną i oprogramowanie.

Po upływie 13,8 miliarda lat ewolucji kosmosu tu na Ziemi rozwój gwałtownie przyspieszył: Życie 1.0 powstało około 4 miliardów lat temu, Życie 2.0 (my, ludzie) pojawiło się około stu tysięcy lat temu, a wielu badaczy sztucznej inteligencji sądzi, że dzięki postępowi w ich dziedzinie Życie 3.0 może rozwinąć się w nadchodzącym stuleciu, być może jeszcze za naszej egzystencji. Co może się wydarzyć i co będzie to dla nas oznaczać? Oto temat tej książki.

KONTROWERSJE

To pytanie jest niezwykle kontrowersyjne, ponieważ badacze sztucznej inteligencji światowej klasy fundamentalnie nie zgadzają się co do swoich prognoz oraz ulegają emocjonalnym reakcjom, których zakres rozciąga się od pełnego optymizmu po poważne obawy. Nie ma nawet konsensusu co do krótkoterminowych prognoz na temat wpływu sztucznej inteligencji na gospodarkę, system prawny, zagadnienia militarne, a nieporozumienia ekspertów wzrastają, gdy poszerzamy horyzont czasowy i pytamy o sztuczną inteligencję na poziomie człowieka (AGI) – zwłaszcza o to, czy AGI, osiągając poziom ludzki, przekroczy go, umożliwiając pojawienie się Życia 3.0. Silna inteligencja może w zasadzie wykonać każde zadanie, także z dziedziny nauki, w przeciwieństwie do, powiedzmy, słabej inteligencji programu do gry w szachy.

Co ciekawe, kontrowersje wokół Życia 3.0 skupiają się wokół nie jednego, lecz dwóch odrębnych pytań: kiedy i co? Kiedy (jeśli kiedykolwiek) ona powstanie i co będzie oznaczać dla ludzkości? Ja widzę to tak: istnieją trzy różne szkoły filozoficzne, które trzeba traktować poważnie, ponieważ w każdej z nich jest kilku czołowych światowych ekspertów. Jak pokazano na ilustracji 1.2, nazywam ich odpowiednio cyfrowymi utopistami, technosceptykami i członkami ruchu na rzecz dobroczynnej sztucznej inteligencji. Pozwólcie, że przedstawię wam ich najbardziej elokwentnych mistrzów.

Ilustracja 1.2. Większość kontrowersji związanych z silną sztuczną inteligencją (która może dorównywać ludziom w każdym zadaniu poznawczym) koncentruje się wokół dwóch pytań: kiedy (jeśli kiedykolwiek) się to stanie i czy będzie to coś dobrego dla ludzkości. Technosceptycy i cyfrowi utopiści są zgodni co do tego, że nie powinniśmy się martwić, ale z bardzo różnych powodów: ci pierwsi są przekonani, że silna sztuczna inteligencja na poziomie człowieka (AGI) nie powstanie w przewidywalnej przyszłości, podczas gdy drudzy sądzą, że tak się stanie, i oczywiście jest to dobra rzecz. Ruch na rzecz dobroczynnej AI uważa, że troska jest uzasadniona i użyteczna, ponieważ badania i dyskusje nad bezpieczeństwem sztucznej inteligencji zwiększają teraz szanse na pozytywne skutki. Przeciwnicy postępu technicznego są przekonani o pojawieniu się złych skutków i przeciwstawiają się sztucznej inteligencji. Ta ilustracja częściowo została zainspirowana przez Tima Urbana.http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html)

Cyfrowi utopiści

Kiedy byłem dzieckiem, wyobrażałem sobie, że miliarderzy są nadęci i aroganccy. Kiedy po raz pierwszy spotkałem Larry’ego Page’a w Google w 2008 roku, całkowicie przełamał ten stereotyp. Ubrany swobodnie, w dżinsy i niezwykle typowo wyglądającą koszulę, wtopiłby się w tłum na pikniku w MIT. Jego przyjazny styl i sympatyczny uśmiech sprawiły, że rozmawiając z nim, nie czułem się onieśmielony, lecz wręcz zrelaksowany. 18 lipca 2015 roku wpadliśmy na siebie na przyjęciu w Napa Valley, zorganizowanym przez Elona Muska i jego ówczesną żonę Talulah, i rozpoczęliśmy rozmowę o skatologicznych zainteresowaniach naszych dzieci. Rekomendowałem mu klasykę gatunku The Day My Butt Went Psycho autorstwa Andy’ego Griffithsa, a Larry zamówił ją z miejsca. Usiłowałem wmówić sobie, że być może przejdzie on do historii jako najbardziej wpływowy człowiek. Mam nadzieję, że jeśli w ciągu mego życia nasz Wszechświat przejmie jakaś forma superinteligentnego życia cyfrowego, to stanie się tak za sprawą decyzji Larry’ego.

Skończyło się na wspólnym obiedzie wraz z naszymi żonami, Lucy i Meią, oraz dyskusji o tym, czy maszyny kiedyś staną się świadome, temacie, który zdaniem Larry’ego ma odwracać uwagę od istoty problemu. Późnym wieczorem, po koktajlach, doszło do długiej i ożywionej debaty między Larrym a Elonem na temat przyszłości sztucznej inteligencji i tego, co należy zrobić. Tuż przed świtem krąg widzów i kibiców się powiększał. Larry namiętnie bronił pozycji, którą ja nazywam cyfrową utopią, założeniem, że cyfrowe życie jest naturalnym i pożądanym kolejnym etapem kosmicznej ewolucji i że jeśli pozwolimy cyfrowym umysłom, by się uwolniły, zamiast starać się je zniewolić, to z pewnością będziemy mieć z tego pożytek. Larry’ego postrzegam jako najbardziej wpływowego przedstawiciela cyfrowej utopii. Przekonywał on, że jeśli życie będzie się kiedykolwiek rozprzestrzeniać w naszej Galaktyce i poza nią, co uważał za słuszne, to będzie musiało to zrobić w formie cyfrowej. Jego główne obawy dotyczyły tego, że paranoja w sprawie sztucznej inteligencji opóźni realizację cyfrowej utopii i/lub spowoduje przejęcie jej przez wojsko, co złamie zasadę Google’a „nie czyń zła”. Elon ciągle przeciwstawiał się Larry’emu i prosił go o wyjaśnianie szczegółów jego argumentów, na przykład dlaczego jest tak pewny, że cyfrowe życie nie zniszczy wszystkiego, co jest nam drogie. Larry od czasu do czasu oskarżał Elona o to, że jest „zwolennikiem gatunkowości”, traktującym niektóre formy życia jako gorsze tylko dlatego, że oparte są na krzemie, a nie na węglu. Do tych interesujących kwestii i argumentów powrócimy w rozdziale 4.

Mimo że tego ciepłego letniego wieczoru przy basenie przewaga była po stronie Larry’ego, to cyfrowy utopizm, którego tak elokwentnie bronił, ma i tak wielu wybitnych zwolenników. Specjalista w dziedzinie robotyki i futurysta Hans Moravec zainspirował całe pokolenie cyfrowych utopistów swą klasyczną książką Mind Children (Dzieci umysłu) z 1988 roku, a tradycja ta jest kontynuowana i udoskonalana przez wynalazcę Raya Kurzweila. Richard Sutton, jeden z pionierów subdyscypliny sztucznej inteligencji zwanej uczeniem ze wzmocnieniem, z pasją bronił cyfrowej utopii na konferencji w Portoryko, o której wam wkrótce opowiem.

Technosceptycy

Inna grupa wybitnych myślicieli nie martwi się też o AI, ale z zupełnie innego powodu: sądzą, że budowanie nadludzkiej AGI jest tak trudne, iż nie stanie się tak przez setki lat, i dlatego przejmowanie się tym teraz uważają za głupie. Myślę o tym jak o technosceptycyzmie, wymownie wyrażonym przez Andrew Ng: „Obawa przed pojawieniem się zabójczych robotów jest jak troska o przeludnienie na Marsie”. Andrew był szefem zespołu naukowego w Baidu, chińskim Google, i ostatnio powtórzył ten argument, kiedy rozmawiałem z nim na konferencji w Bostonie. Powiedział mi również, że uważa, iż troska o ryzyko związane ze sztuczną inteligencją jest szkodliwym rozpraszaniem uwagi, które może spowolnić jej rozwój. Podobne tezy wygłaszali inni technosceptycy, tacy jak Rodney Brooks, były profesor MIT i jeden z twórców robota odkurzacza Roomba i robota przemysłowego Bax­ter. Interesujące jest to, że chociaż cyfrowi utopiści i technosceptycy są tego samego zdania, że nie powinniśmy się martwić o sztuczną inteligencję, to jednak w niewielkim stopniu zgadzają się w innych sprawach. Większość utopistów uważa, że AGI na poziomie człowieka może pojawić się w ciągu najbliższych dwudziestu do stu lat, co technosceptycy odrzucają jako marzenie laika o gruszkach na wierzbie, często drwiąc z tej przepowiadanej osobliwości jako „zachwytu maniaka komputerowego”. Gdy w grudniu 2014 roku na uroczystości urodzinowej spotkałem Rodneya Brooksa, powiedział mi, że jest w stu procentach pewien, iż nie stanie się to za mojego życia. „Czy jesteś przekonany, że nie masz na myśli 99 procent?” – zapytałem go potem w e-mailu, na który odpowiedział: „Żadna słabizna na 99 procent. 100 procent. Po prostu się to nie zdarzy”.

Ruch na rzecz dobroczynnej sztucznej inteligencji

Kiedy w czerwcu 2014 roku spotkałem Stuarta Russella w paryskiej kawiarni, wydawał mi się kwintesencją brytyjskiego dżentelmena. Elokwentny, myślący, o łagodnym sposobie mówienia, ale z błyskiem śmiałości w oku, przypominał nowoczesne wcielenie Phileasa Fogga, mojego bohatera lat dziecinnych z klasycznej powieści Jules’a Verne’a W 80 dni dookoła świata. Chociaż był jednym z najsłynniejszych żyjących badaczy sztucznej inteligencji, współautorem standardowego podręcznika na ten temat, jego skromność i ciepło szybko mnie uspokoiły. Wyjaśnił mi, jak postęp w tej dziedzinie przekonał go, że pojawienie się AGI na poziomie ludzkim jest w tym stuleciu realne, i choć był pełen nadziei, dobry wynik nie był gwarantowany. Najpierw musieliśmy odpowiedzieć na kluczowe pytania, które były na tyle trudne, że powinniśmy je już badać, tak abyśmy mieli gotowe odpowiedzi w chwili, kiedy będziemy ich potrzebować.

Dzisiaj poglądy Stuarta są dość powszechne, a wiele grup na całym świecie prowadzi badania nad bezpieczeństwem sztucznej inteligencji, które on popiera. Jednak nie zawsze tak było. W artykule w „The Washington Post” rok 2015 został określony jako ten, w którym rozważania nad bezpieczeństwem sztucznej inteligencji zostały włączone do głównego nurtu badań. Wcześniej mówienie o ryzyku związanym ze sztuczną inteligencją było często błędnie rozumiane przez czołowych uczonych jako panikarstwo przeciwników postępu mające na celu zahamowanie postępu w tej dziedzinie. Jak dowiemy się w rozdziale 5, obawy podobne do żywionych przez Stuarta po raz pierwszy zostały wyrażone ponad pół wieku temu przez matematyków Alana Turinga i Irvinga J. Gooda, którzy podczas II wojny światowej łamali niemieckie kody. W ostatniej dekadzie badania nad tymi zagadnieniami prowadziła garstka niezależnych myślicieli, którzy nie byli profesjonalnymi badaczami sztucznej inteligencji, w tym Eliezer Yudkowsky, Michael Vassar czy Nick Bostrom. Ich praca miała niewielki wpływ na większość naukowców głównego nurtu zajmujących się tą dziedziną, którzy skupili się raczej na codziennych zadaniach związanych z udoskonalaniem systemów sztucznej inteligencji niż na rozważaniu długoterminowych konsekwencji sukcesu. Wiedziałem, kto ze znanych mi badaczy sztucznej inteligencji ma pewne obawy, że wielu wahało się je wyrażać ze strachu przed zaklasyfikowaniem ich jako panikarzy-technofobów.

Czułem, że ta sytuacja – polaryzacja stanowisk – wymaga zmiany, tak aby cała społeczność pracująca nad sztuczną inteligencją mogła połączyć swe siły i zyskać wpływ na to, jak stworzyć dobroczynną sztuczną inteligencję. Na szczęście nie byłem sam. Wiosną 2014 roku wraz z moją żoną Meią, moim przyjacielem fizykiem Anthonym Aguirre’em, magistrantką z Harvardu Victorią Krakovną i założycielem Skype’a, Jaanem Tallinnem, stworzyliśmy organizację non profit pod nazwą Future of Life Institute (Instytut Przyszłości Życia, FLI; http://futureoflife.org). Nasz cel był prosty: chcieliśmy działać na rzecz możliwie najlepszej przyszłości życia. W szczególności czuliśmy, że technologia, jak nigdy dotąd, nadaje życiu siłę do rozkwitu albo do samozniszczenia, a my woleliśmy to pierwsze.

15 marca 2014 roku odbyło się w naszym domu pierwsze spotkanie z niemal trzydziestoma studentami, profesorami i innymi myślicielami z okolic Bostonu – prawdziwa burza mózgów. Panowała powszechna zgoda co do tego, że chociaż powinniśmy zwrócić uwagę na biotechnologię, broń jądrową i zmiany klimatu, naszym pierwszym, głównym celem ma być włączenie do głównego nurtu badań nad bezpieczeństwem sztucznej inteligencji. Mój kolega z MIT fizyk Frank Wilczek, który zdobył Nagrodę Nobla za rozszyfrowanie tego, jak działają kwarki, zasugerował, że powinniśmy zacząć od napisania w jakimś dzienniku komentarza w celu zwrócenia uwagi publicznej na problem, co utrudniłoby jego zignorowanie. Dotarłem do Stuarta Russella (którego dotąd jeszcze nie spotkałem) i do mojego kolegi fizyka Stephena Hawkinga, którzy zgodzili się dołączyć do mnie i Franka jako współautorzy. Niestety, nasza publikacja została odrzucona przez „The New York Times” i wiele innych amerykańskich gazet, zamieściliśmy ją więc na moim blogu w „Huffington Post”. Ku mojemu zadowoleniu sama Arianna Huffington wysłała mi e-mail, w którym pisała: „Z zachwytem to zrobiłam! Damy to jako numer 1!”. Umieszczenie naszego tekstu na górze pierwszej strony wywołało falę medialnych relacji o bezpieczeństwie sztucznej inteligencji z udziałem Elona Muska, Billa Gatesa i innych liderów techniki, która trwała przez resztę roku. Jesienią ukazała się książka Nicka Bostroma Superinteligencja3 i jeszcze bardziej podsyciła narastającą debatę publiczną.

Kolejnym celem kampanii naszego instytutu (FLI) na rzecz pożytku ze sztucznej inteligencji stało się zgromadzenie czołowych naukowców zajmujących się tą dziedziną na konferencji, w czasie której można by wyjaśnić nieporozumienia, wypracować konsensus i konstruktywne plany współdziałania. Wiedzieliśmy, że trudno będzie przekonać tak znakomitych badaczy, by przybyli na konferencję organizowaną przez nieznanych im ludzi, zwłaszcza z uwagi na kontrowersyjny temat, bardzo się więc staraliśmy: zakazaliśmy mediom uczestnictwa, konferencję zlokalizowaliśmy w styczniu w nadmorskim kurorcie (w Portoryko), udział był darmowy (dzięki hojności Jaana Tallinna) i nadaliśmy jej najmniej alarmistyczną nazwę, jaką moglibyśmy wymyślić: „Przyszłość sztucznej inteligencji: szanse i wyzwania”. Co najważniejsze, nawiązaliśmy współpracę ze Stuartem Russellem, dzięki któremu mogliśmy stworzyć komitet organizacyjny złożony z przodujących badaczy tych zagadnień zarówno ze środowisk akademickich, jak i przemysłowych – w tym Demisa Hassabisa z Google DeepMind, który wykazał, że sztuczna inteligencja może pokonać ludzi nawet w go. Im lepiej poznawałem Demisa, tym bardziej zdawałem sobie sprawę z tego, że dąży on do uczynienia sztucznej inteligencji nie tylko potężną, lecz także pożyteczną dla ludzi.

Wynikiem tego było niezwykłe spotkanie umysłów (ilustracja 1.3). Do badaczy sztucznej inteligencji dołączyli czołowi ekonomiści, prawnicy, liderzy technologii (w tym Elon Musk) i inni myśliciele (w tym Vernor Vinge, który ukuł termin „technologiczna osobliwość” będący głównym tematem rozdziału 4). Wynik przerósł nasze najbardziej optymistyczne oczekiwania. Być może było to połączenie słońca i wina, a może po prostu nadszedł właściwy czas: mimo kontrowersyjnego tematu powstał niezwykły konsensus, skodyfikowany przez nas w liście otwartym, który został podpisany przez ponad osiem tysięcy osób, w tym najważniejszych specjalistów zajmujących się sztuczną inteligencją. W liście postulowaliśmy przedefiniowanie celu tego procesu. Owym celem nie powinno być tworzenie nieukierunkowanej sztucznej inteligencji, lecz inteligencji dobroczynnej. W liście wymieniono również szczegółową listę tematów badawczych, co do których uczestnicy są zgodni, że przyczynią się do osiągnięcia takiego celu. Ruch na rzecz dobroczynnej sztucznej inteligencji zaczął odtąd działać w głównym nurcie. Będziemy śledzić jego dalszy rozwój w następnych rozdziałach tej książki.

CIĄG DALSZY DOSTĘPNY W PEŁNEJ, PŁATNEJ WERSJI

PEŁNY SPIS TREŚCI:

Podziękowania

LIFE 3.0

Preludium. Opowieść o zespole Omega

PIERWSZE MILIONY

NIEBEZPIECZNE GRY

PIERWSZE MILIARDY

NOWE TECHNOLOGIE

ZDOBYWANIE WŁADZY

KONSOLIDACJA

Rozdział 1. Witajcie w Najważniejszej Rozmowie Naszych Czasów

KRÓTKA HISTORIA ZŁOŻONOŚCI

TRZY STADIA ŻYCIA

KONTROWERSJE

BŁĘDNE WYOBRAŻENIA

DROGA PRZED NAMI

Rozdział 2. Materia staje się inteligentna

CZYM JEST INTELIGENCJA?

CZYM JEST PAMIĘĆ?

CZYM JEST OBLICZANIE?

CZYM JEST UCZENIE?

Rozdział 3. Najbliższa przyszłość: przełomy, błędy, prawodawstwo, broń i zatrudnienie

PRZEŁOMY

BŁĘDY A SOLIDNA SZTUCZNA INTELIGENCJA

PRAWODAWSTWO

UZBROJENIE

PRACA I PŁACA

SZTUCZNA INTELIGENCJA NA POZIOMIE CZŁOWIEKA?

Rozdział 4. Eksplozja inteligencji?

TOTALITARYZM

PROMETEUSZ PRZEJMUJE WŁADZĘ NAD ŚWIATEM

PRZEJĘCIA PO UWOLNIENIU

POWOLNE PRZEJĘCIE I SCENARIUSZE WIELOBIEGUNOWE

CYBORGI I WYSYŁANIE DANYCH

CO SIĘ RZECZYWIŚCIE STANIE?

Rozdział 5. Pokłosie: następne 10 000 lat

UTOPIA LIBERTARIAŃSKA

DOBROTLIWY DYKTATOR

UTOPIA EGALITARYSTYCZNA

STRAŻNIK

BÓG OPIEKUŃCZY

BÓG ZNIEWOLONY

ZDOBYWCY

POTOMKOWIE

DOZORCA W ZOO

1984

REGRES

SAMOZNISZCZENIE

A CZEGO WY CHCECIE?

Rozdział 6. Nasze kosmiczne wyposażenie: następny miliard lat i więcej

JAK NAJLEPIEJ WYKORZYSTAĆ ZASOBY

ZDOBYWANIE ZASOBÓW PRZEZ KOSMICZNE OSADNICTWO

JAK SZYBKO MOŻNA SIĘ PORUSZAĆ?

KOSMICZNE HIERARCHIE

PERSPEKTYWY

Rozdział 7. Cele

FIZYKA: ŹRÓDŁO CELÓW

BIOLOGIA: EWOLUCJA CELÓW

PSYCHOLOGIA: POGOŃ ZA CELAMI I BUNT PRZECIW NIM

INŻYNIERIA: ZLECENIE ZEWNĘTRZNE NA WYKONANIE CELU

PRZYJAZNA SZTUCZNA INTELIGENCJA: DOPASOWANIE CELÓW

ETYKA: WYBÓR CELÓW

CELE PODSTAWOWE?

Rozdział 8. Świadomość

KOGO TO OBCHODZI?

CZYM JEST ŚWIADOMOŚĆ?

W CZYM PROBLEM?

CZY ZAGADNIENIE ŚWIADOMOŚCI WYKRACZA POZA NAUKĘ?

EKSPERYMENTALNE WSKAZÓWKI CO DO ŚWIADOMOŚCI

TEORIE ŚWIADOMOŚCI

KONTROWERSJE WOKÓŁ ŚWIADOMOŚCI

JAK SZTUCZNA INTELIGENCJA MOGŁABY ODCZUWAĆ ŚWIADOMOŚĆ?

ZNACZENIE

Epilog. Opowieść o zespole FLI

NARODZINY FLI

PRZYGODA W PORTORYKO

WŁĄCZANIE BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI DO GŁÓWNEGO NURTU

ZASADY ROZWOJU SZTUCZNEJ INTELIGENCJI SFORMUŁOWANE W ASILOMAR

ŚWIADOMY OPTYMIZM

Bibliografia i źródła

2 Dlaczego życie staje się bardziej złożone? Ewolucja nagradza to życie, które jest na tyle złożone, że pozwala przewidywać i wykorzystywać regularności w jego otoczeniu, a więc w bardziej złożonym środowisku będzie ewoluowało życie bardziej złożone i inteligentne. Potem to mądrzejsze życie stworzy bardziej złożone środowisko dla konkurujących ze sobą form życia, które z kolei na skutek ewolucji staną się jeszcze bardziej złożone, tworząc ostatecznie ekosystem ekstremalnie złożonego życia.

3 Superinteligencja: scenariusze, strategie, zagrożenia, przeł. D. Konowrocka-Sawa, Wydawnictwo Helion, Gliwice 2016 (przyp. red.).