I · Intellect we don’t fully understand
Intelekt, którego nie rozumiemy
Postęp AI napędza przede wszystkim rosnąca moc obliczeniowa. OpenAI zrozumiało to około 2017 roku, widząc stałe zyski ze skalowania w kilku projektach naraz — i dlatego postawiło na znacznie więcej sprzętu i kilka mocno skalowalnych kierunków. Nowe algorytmy autor traktuje głównie jako odkrycia dokonywane po drodze; w horyzoncie kilku lat AI po prostu mądrzeje, gdy dostaje większe komputery. Zgodnie z przewidywaniami Raya Kurzweila z końca XX wieku jesteśmy w momencie, w którym inteligencja maszyn zaczyna w przełomowy sposób przewyższać ludzką.
AI jest raczej hodowana niż projektowana: to wynik powtórzenia prostego kroku optymalizacji niewyobrażalną liczbę razy. Powstaje system tak złożony, że — jak w neurobiologii — da się badać pojedyncze mechanizmy, ale nie całość. Duże treningi to eksperymenty, których wyniki bywają zaskoczeniem, a im zdolniejszy model, tym trudniej je zinterpretować.
Obecne metody szybciej poprawiają to, co łatwo zmierzyć. OpenAI mogłoby np. wyspecjalizować modele w badaniach matematycznych, ale tego nie robi — ważniejsze jest RSI i automatyzacja badań nad alignmentem. A ponieważ ta inteligencja nie jest porównywalna z ludzką, coraz trudniej ocenić, jak bardzo jest zdolna.