AI 2040Plan A

Pauza na poziomie najlepszych ekspertów

Najlepsze modele dorównują ludzkim ekspertom w każdej dziedzinie — i tam konsorcjum zatrzymuje rozwój. Powód jest techniczny: całe bezpieczeństwo opiera się na kontroli, czyli pilnowaniu AI przez inne AI z innych rodowodów, a kontrola działa mniej więcej do poziomu najlepszego eksperta. Wyżej trzeba by już zaufać, a nie pilnować.

Autorzy tłumaczą to obrazem ośmiolatka, który odziedziczył imperium i musi ocenić, czy prawnicy i księgowi pracują dla niego, czy dla siebie — a gdy zaczną oskarżać się nawzajem, nie będzie w stanie rozsądzić, kto mówi prawdę. Alignment robi w tym czasie prawdziwe postępy: rodzi się nauka o generalizacji i interpretowalność, która zaczyna wygrywać z prostą obserwacją zachowania. Ale nie na tyle, żeby oddać klucze.

• zatrudnienie 32%
• mediana $1,1 mln
• badacze alignmentu 60,7 tys.
• spowolnienie: 4 lata

Życie po pracy

Dwieście milionów modeli odpowiada wydajnością mniej więcej stu miliardom ludzi, do tego dwa miliardy robotów. Zautomatyzowane jest praktycznie wszystko: gospodarkę przebudowano od fundamentów. Roboty budują roboty, stocznie pod pływające centra danych i farmy słoneczne na pustyniach.

Ceny ziemi lecą w górę, bo ludzi stać na coraz więcej, a gruntu nie przybywa — stany, które dość szybko odblokowały budownictwo, idą w pionie. Zatrudnienie spada do 26 procent i nikt nie traktuje tego jako katastrofy, bo mediana dochodu to ponad dwa miliony dolarów.

• zatrudnienie 26%
• mediana $2,1 mln
• 2 mld robotów
• spowolnienie: 5 lat

Apokaliptyczne nadejście prawdy

Sto milionów modeli na poziomie eksperta pracuje ze stukrotną prędkością i nauka przyspiesza od dziesięciu do tysiąca razy, zależnie od dziedziny. Przewroty naukowe, które kiedyś zajmowały dekady, rozgrywają się w miesiące — i tak jak dziewiętnastowieczne odkrycia zrodziły nowe ideologie, tak te wywracają istniejące podziały polityczne.

Pojawia się audyt z zachowaniem prywatności: niezależnie trenowany agent, którego wpuszcza się do prywatnych danych, odpowiada na pytania i zostaje skasowany. Potem przychodzą działające wykrywacze kłamstw. W świecie z jednym ośrodkiem władzy byłoby to narzędzie czystek; przy wielu niezależnych projektach w wielu krajach staje się narzędziem rozliczania rządzących — bo każdy, kto użyje ich wybiórczo, sam zostanie o to zapytany pod przysięgą.

• zatrudnienie 21%
• mediana $3,9 mln
• nauka ×10–1000
• spowolnienie: 6 lat

Alignment staje się nauką

Istnieje już dojrzała teoria tego, jak w sieciach neuronowych powstają cele i wartości. Chcesz, żeby model był naprawdę uczciwy, a nie tylko zbyt sprytny, by dać się złapać? Jest protokół, jest podręcznik tłumaczący, dlaczego działa, i są narzędzia interpretowalności, które potwierdzają przewidywania teorii. Typowe modele są cnotliwsze niż najbardziej cnotliwi ludzie.

Dyskusja przenosi się z „jak zrobić dobrą AI" na „co właściwie znaczy dobra" — po części filozofia, po części orzecznictwo. Pauza trwa, bo przy stawce tej wielkości ludzie chcą czegoś mocniejszego niż „prawdopodobnie się uda".

• zatrudnienie 17%
• mediana $6,8 mln
• badacze alignmentu 133,3 tys.
• spowolnienie: 7 lat

Zaczynamy ufać AI

Modele są wszędzie, ale formalnie tylko doradzają — ostatnie słowo i wyłącznik należą do człowieka. Coraz częściej ktoś pyta, czy to jeszcze ma sens: skoro AI bywa uczciwsza i bardziej niezawodna od ludzi, dlaczego nie oddać jej decyzji? I czy podpisując traktat, nie powinniśmy żądać, żeby druga strona wszczepiła sobie AI zaprzysiężoną na jego dotrzymanie?

Wyjście poza poziom eksperta wymaga porzucenia uzasadnień opartych na kontroli i oparcia się na alignmencie. Każdy kolejny krok będzie oznaczał zaufanie poprzedniemu pokoleniu modeli w ocenie następnego.

• zatrudnienie 13%
• mediana $10,3 mln
• badacze alignmentu 173,2 tys.
• spowolnienie: 8 lat

Przekazanie pałeczki

Najlepsze modele są dostrojone do jawnie opisanych wartości, a władza nad nimi rozłożona nieporównanie szerzej niż w 2026. Regulatorzy rozluźniają wymogi. Instytucje i sprzęt przechodzą stopniowo pod AI — łącznie z armiami, zaprzysiężonymi konstytucjom i traktatom, z klauzulą samowyłączenia, jeśli wszystkie strony tego zażądają. Skalowanie rusza dalej.

Nie ma jednego momentu, w którym ludzkość oddaje kontrolę, ale jest dzień, po którym AI mogłyby przejąć świat, gdyby chciały. Modele prognostyczne wskazują koniec października, z przedziałem ufności szerokim na miesiące. Ludzie urządzają imprezy na koniec świata — bardziej desperackie i przez to weselsze niż te sylwestrowe z 1999. Do rana nic się nie dzieje.

• zatrudnienie 12%
• mediana $13 mln
• badacze alignmentu 225,2 tys.
• spowolnienie: 9 lat

Epilog: loteria kosmiczna

Zasoby poza Układem Słonecznym trzeba jakoś rozdzielić. Głosowanie odpadło, bo symulacje pokazały, że skończy się tyranią większości; oddanie tego firmom kosmicznym albo grupie elit odpadło z oczywistych powodów. Zostaje rozwiązanie proste: każdy człowiek dostaje prawa do jednej dziesięciomiliardowej kosmosu, w formie losów na każdą parcelę, którymi wolno handlować.

Sondy von Neumanna już lecą — mają zabezpieczyć prawa własności i krótką listę praw uniwersalnych (bez tortur, bez niewolnictwa, dla wszystkich istot czujących), zatknąć flagę i przygotować bazę przemysłową dla tych, którzy przylecą później. Poza tym każdy rządzi swoim kawałkiem, jak chce.

Autorzy zaznaczają, że ten rozdział to spekulacja nawet jak na nich — i że napisali go jako podłogę: jeśli kiedyś zwycięzcy osobliwości zaproponują ludziom mniej niż to, warto wiedzieć, że jesteśmy okradani.