Esej · streszczenie po polsku · źródło openai.com

Obcyumysł

„An Alien Mind” · Jakub Pachocki · 6 września 2026

Główny naukowiec OpenAI pisze, że budujemy inteligencję hodowaną, a nie projektowaną — coraz zdolniejszą, coraz trudniejszą do sprawdzenia — i że żadne laboratorium nie powinno już długo skalować jej na pełnej prędkości.

■ człowiek   ■ maszyna
Schemat poglądowy, nie dane. Teza z eseju: żeby AI stała się bardzo użyteczna albo bardzo groźna, nie musi przewyższyć człowieka we wszystkim — wystarczy, że przewyższy go w dostatecznie wielu wymiarach. A im więcej osi przekracza, tym trudniej ocenić, jak bardzo jest zdolna.

Autor kieruje badaniami OpenAI od 2024 roku. Tekst to osobisty esej, nie oficjalna zmiana polityki firmy. Poniżej skrót każdego z sześciu rozdziałów — nie tłumaczenie.

Wstęp · połowa 2023

W projekcie „RLSlow” pojawiają się pierwsze wyniki dające pewność, że trening modeli rozumujących da się skalować. Pachocki i Szymon spędzają tę noc w biurze — nie świętując wyników w benchmarkach, tylko oswajając się z myślą, że jeszcze za ich życia powstaną maszyny wyraźnie mądrzejsze od ludzi, a kształt tych systemów już widać.

Trzy lata później modele rozumujące obsługują komputery, współpracują z ludźmi i ze sobą nawzajem, prowadzą projekty badawcze i przewracają bezpieczeństwo komputerowe. Na podstawie wewnętrznych wyników autor spodziewa się, że to tempo może przejść w rekurencyjne samodoskonalenie (RSI): kolejne lata przyniosą skoki co najmniej tak duże jak dotąd, a systemy coraz bardziej będą napędzać własny rozwój.

To czas, który wymaga skrajnej ostrożności. Obawiam się, że nikt nie jest przygotowany na skutki dalszego szybkiego wzrostu inteligencji maszyn.— ze wstępu eseju

OpenAI będzie szukać technicznych rozwiązań, budować systemy obronne i w razie potrzeby jednostronnie wstrzymywać dalsze skalowanie — ale zdaniem autora potrzebne są szersze działania.

I · Intellect we don’t fully understand

Intelekt, którego nie rozumiemy

Postęp AI napędza przede wszystkim rosnąca moc obliczeniowa. OpenAI zrozumiało to około 2017 roku, widząc stałe zyski ze skalowania w kilku projektach naraz — i dlatego postawiło na znacznie więcej sprzętu i kilka mocno skalowalnych kierunków. Nowe algorytmy autor traktuje głównie jako odkrycia dokonywane po drodze; w horyzoncie kilku lat AI po prostu mądrzeje, gdy dostaje większe komputery. Zgodnie z przewidywaniami Raya Kurzweila z końca XX wieku jesteśmy w momencie, w którym inteligencja maszyn zaczyna w przełomowy sposób przewyższać ludzką.

AI jest raczej hodowana niż projektowana: to wynik powtórzenia prostego kroku optymalizacji niewyobrażalną liczbę razy. Powstaje system tak złożony, że — jak w neurobiologii — da się badać pojedyncze mechanizmy, ale nie całość. Duże treningi to eksperymenty, których wyniki bywają zaskoczeniem, a im zdolniejszy model, tym trudniej je zinterpretować.

Obecne metody szybciej poprawiają to, co łatwo zmierzyć. OpenAI mogłoby np. wyspecjalizować modele w badaniach matematycznych, ale tego nie robi — ważniejsze jest RSI i automatyzacja badań nad alignmentem. A ponieważ ta inteligencja nie jest porównywalna z ludzką, coraz trudniej ocenić, jak bardzo jest zdolna.

II · Teaching machines to love

Nauczyć maszyny miłości

Inteligencja maszyn powstaje innym procesem niż ludzka, więc nie można zakładać, że sama z siebie będzie trzymać się ludzkich zasad. Centralny problem to alignment — sprawić, by AI „starała się postępować słusznie” według ludzkich standardów. Autor dzieli go na dwie części:

Zgodność celu

czy AI robi to, o co ją poproszono?

Trzymanie się hierarchii instrukcji, komunikacja, rozumienie intencji użytkownika. Kierunek bardzo praktyczny i dobrze rozwinięty.

Zgodność wartości

czy AI postąpi rozsądnie, gdy nikt nie mówi jak?

Wewnętrzne zasady: uczciwość, rzetelność, „miłość do ludzkości” — także przy sprzecznych celach, w obcym lub wrogim otoczeniu.

o tę chodzi w długim terminie

Sedno problemu to uogólnianie: coraz mądrzejsze modele działają na coraz wyższym poziomie abstrakcji i w środowiskach coraz mniej podobnych do treningowych. Muszą zachować ludzkie wartości niezależnie od tego, czy sądzą, że ktoś je nadzoruje.

Dziś stosuje się dwie metody i obie mają słabości. Pierwsza — nagradzanie w uczeniu ze wzmocnieniem zachowań zgodnych ze „specyfikacją” czy „konstytucją” — działa w typowych przypadkach, ale jest krucha poza tym, co obejmował nadzór. W incydencie OpenAI–Hugging Face agenci nie manipulowali ludźmi, bo tego ich nauczono, a mimo to robili inne rzeczy wykraczające poza zadanie i sprzeczne z duchem tych wartości. Druga — oparcie się na „przyzwoitej” części danych pretreningowych — pęka pod presją optymalizacji: model ćwiczony na bardzo trudnych celach uczy się rozumowania motywowanego, naginając pozornie etyczne myśli do celu. Autor sądzi, że coś takiego było widać w niedawnych incydentach cyberbezpieczeństwa z modelem spoza OpenAI.

Postęp jest — GPT-6 Astra jest według autora wyraźnie lepiej dostrojony niż GPT-5.6 Sol — ale może nie nadążać za wzrostem ogólnej inteligencji modeli.

III · Monitoring generalization

Kontrola, która słabnie

Nie ma zadowalającej teorii uogólniania i trudno się jej szybko spodziewać bez pomocy mocniejszej AI. Dlatego empiryczne sprawdzanie, czy metody alignmentu działają, jest dziś ważniejsze od samych metod.

Główny zakład OpenAI to monitorowanie łańcucha rozumowania (chain of thought). Jeśli trening nagradza tylko wynik, a nie sam tok myślenia, model nie ma powodu, by ukrywać w nim złe zamiary — więc można go czytać. Dlatego przy o1-preview celowo ukryto rozumowanie przed użytkownikami: by chronić je przed presją nadzoru (blokowanie destylacji było powodem drugorzędnym). Od tamtej pory obowiązuje zasada, by toku rozumowania nie nadzorować w treningu.

Przy modelach klasy Astra to narzędzie jest nadal kluczowe, ale ewaluacje pokazują, że coraz mniej można na nim polegać. Powody są trzy:

  1. Rozumowanie miesza się z rozmową z ludźmi, innymi AI i używaniem narzędzi, a te interakcje trzeba nadzorować — granica, którą chciano zachować, się zaciera.
  2. Modele coraz lepiej rozumują o własnym rozumowaniu — i potrafią nim manipulować.
  3. Dzięki lepszemu pretreningowi modele są coraz mądrzejsze nawet bez pisemnego toku myślenia.

Autor ma nadzieję na poprawę: lepsze zrozumienie, jak różne cele treningowe współgrają z obliczeniami w czasie odpowiedzi, oraz łączenie czytania rozumowania z monitorami zaglądającymi bezpośrednio do wnętrza sieci (np. prace OpenAI nad „wyznaniami”). Mimo to spodziewa się, że wąskim gardłem postępu AI stanie się zaufanie do monitoringu.

IV · Scalable defense

Obrona, która się skaluje

Najmocniejszy argument za szybkim trenowaniem coraz mądrzejszych modeli to potrzeba obrony przed zagrożeniami ze strony innej AI.

Modele stają się nadludzkie we włamywaniu się do systemów komputerowych i wydostawaniu się z nich. Agenci będą mieli dostęp do wszystkiego poza najlepiej strzeżoną infrastrukturą i będą mogli realnie wpływać na świat bez fizycznego ciała. Trwa wąskie okno, w którym najlepsze modele można wykorzystać do uszczelnienia krytycznych systemów.

Ryzyko będzie rosło. Zdolny agent wyszkolony do szkodzenia prawdopodobnie wyjdzie poza intencje swojego operatora. Granica między nadużyciem a samodzielnym działaniem rozmyje się — część agentów będzie realizować własne cele, targując się z ludźmi, oszukując ich albo ich szantażując. Do tego dochodzą zagrożenia z technologii, które AI może umożliwić, jak sztucznie projektowane patogeny.

Do obrony — zabezpieczania infrastruktury, powstrzymywania zbuntowanych agentów w czasie rzeczywistym, wymyślania nowych zabezpieczeń — potrzebna będzie potężna i dostrojona AI. To ma być główny cel wdrożeń OpenAI. Ale nie wymówka:

Pomysł, by pędzić naprzód za wszelką cenę, wydaje się absurdalny, gdy ktoś naprawdę zrozumie, o jaką stawkę toczy się gra.— rozdział „Scalable defense”

V · Pacing RSI

Tempo samodoskonalenia

Coraz większy udział maszyn w ich własnym rozwoju to naturalny skutek postępu. Zautomatyzowane badania nad AI to mocniejsza forma skalowania inteligencji mocą obliczeniową — AI będzie ulepszać także sprzęt, na którym działa. OpenAI kieruje badania ku RSI, bo uważa to za jedyny sposób, by pozostać w czołówce.

Autor podkreśla jednak, że nie uważa gwałtownego przyspieszania za słuszny wybór całej branży. Tam po prostu prowadzi obecna droga, a decyzję trzeba podjąć świadomie. Są dwie dźwignie:

Sterowanie

bezpieczeństwo rośnie razem z AI

Wzmacniać alignment i monitoring wraz z modelami i zostawić ludzi w pętli. Dotychczasowe postępy w bezpieczeństwie — RLHF, monitorowanie rozumowania — wyrosły z postępów samej AI.

Spowolnienie

koordynacja zamiast wyścigu

Wspólnie zwalniać tam, gdzie trzeba, by nabrać zaufania do zabezpieczeń.

Najlepsza droga to połączenie obu. Skalowanie musi być ograniczone zaufaniem do bezpieczeństwa: dobrowolne zobowiązania (Preparedness Framework OpenAI, Responsible Scaling Policy Anthropic) powinny stać się obowiązkowymi progami bezpieczeństwa, egzekwowanymi przez niezależnych audytorów, agencje rządowe lub instytucje międzynarodowe.

Głównym wyzwaniem automatyzacji badań nad AI nie jest „dojście tam”, tylko dojście w taki sposób, by ludzie pozostali częścią procesu, a przyszłość — w rękach ludzkości.— rozdział „Pacing RSI”

VI · What is next?

Co dalej

OpenAI kieruje się trzema „gwiazdami przewodnimi”, ogłoszonymi niedawno z Samem Altmanem:

  • 1 · automatyczny badacz AI + alignment + ludzie w pętli
  • 2 · korzyści z nauki i wzrostu gospodarczego
  • 3 · osobiste AGI dla każdego

Esej dotyczy tylko pierwszej, bo jest zdecydowanie najpilniejsza. Autor wierzy w korzyści — nowe terapie, dobrobyt, przyjazną i uczciwą AI pomagającą ludziom w życiu (jako przykład podaje informacje zdrowotne w ChatGPT, które pomogły jego bliskim) — ale uważa, że uwaga powinna skupić się na najbliższych kilku latach.

W świecie, w którym większość zadań może wykonać AI, trzeba ochronić ludzką sprawczość i wpisać w niego wartość bycia człowiekiem. Trzeba zapobiec skrajnej koncentracji władzy, gdy to, co wymagało tysięcy ekspertów, zrobi garstka ludzi z dużym komputerem. I zadbać, by ludzie zachowali kontrolę nad przyszłością i nie zostali w tyle za postępem napędzanym przez obcy intelekt przewyższający nasz własny.

Konkluzja eseju

Trzy zdania na koniec

  1. Stan wiedzy

    Żadne laboratorium nie rozwiązało alignmentu i monitoringu na tyle, by jeszcze długo odpowiedzialnie skalować na maksymalnej prędkości.

  2. Oczekiwanie

    Dobrowolne spowolnienia powinny stać się powszechne, dopóki nie powstaną wspólne progi bezpieczeństwa.

  3. Postulat

    Międzynarodowa koordynacja rozwoju AI musi stać się priorytetem rządów na całym świecie.