Badacz z Microsoftu przedstawia argument oparty na kozie przeciwko traktowaniu LLM jak ludzi

Adrian de Wynter, badacz sztucznej inteligencji w Microsoft, zbudował działającą sieć neuronową w grze Age of Empires 2 i wykorzystał ją do argumentowania, że ludzie zbyt łatwo przypisują ludzkie cechy rozbudowanym modelom językowym. Wyniki przedstawił w artykule zatytułowanym „Jeśli LLM-y mają atrybuty podobne do ludzkich, to tak samo jest w Age of Empires II”, którego tytuł celowo brzmi absurdalnie. O konstrukcji i uzasadnieniu jej powstania poinformował portal 404 Media.

De Wynter zmontował system w edytorze scenariuszy gry, używając obiektów w grze jako zamienników binarnych danych komputerowych. Trawa reprezentuje 0, mosty reprezentują 1, a kozy pełnią rolę bitów poruszających się w obwodzie. Z tych elementów zbudował działającą bramkę NOT AND oraz 1-bitowy perceptron, najprostszą formę sieci neuronowej. Filmy z działającą maszyną napędzaną kozą znajdują się na jego stronie GitHub i dla każdego, kto ogląda, proces ten wydaje się zagadkowy. Właśnie to zamieszanie jest sednem sprawy.

Operacje napędzające konfigurację AoE 2 to, na poziomie podstawowym, ta sama klasa operacji, która stoi za narzędziami takimi jak ChatGPT i Claude. Różnica tkwi w podłożu. Ponieważ dane wejściowe to kozy i trawa, a nie zdania, nikt oglądający nie ma ochoty nazywać wyników ludzkimi. Pozbądź się języka naturalnego, a iluzja umysłu zniknie.

De Wynter powiedział 404 Media, że ma tendencję do doprowadzania pomysłu do granic możliwości, gdy chce, aby trafił w sedno, i że absurd ma długą historię w filozofii i teoretycznej informatyce. Wybór Age of Empires 2 był celowy. Gracze budowali już logikę i sieci neuronowe w Minecrafcie Redstone, więc chciał, aby sceneria, której nikt nie kojarzy z obliczeniami, sprawiła, że demonstracja będzie dziwniejsza i trudniejsza do zignorowania.

Jego wyrażone obawy mają charakter metodologiczny. W dokumencie de Wynter pisze, że w ciągu ostatnich dwóch lat zrecenzował ponad 300 prac z zakresu informatyki i że ponad połowa z nich powstała w oparciu o założenie, że absolwenci studiów magisterskich (LLM) posiadają cechy zbliżone do ludzkich. Ujmuje to jako problem dla samych badań, ponieważ wyjście od nieudowodnionego założenia zniekształca to, co następuje.

„Proponuję, abyśmy przestali zakładać, że LLM zachowują się jak ludzie tylko dlatego, że zostali wyszkoleni w języku naturalnym. Zamiast tego powinniśmy przeprowadzać eksperymenty, które pozwolą nam zobaczyć LLM takimi, jakimi są, a nie takimi, jakimi naszym zdaniem powinny być”.

— Adrian de Wynter

Myślę, że ujęcie kozy działa lepiej niż bezpośrednia riposta, ponieważ zmusza czytelnika do oglądania tej samej matematyki bez komfortu słów, które ją otaczają. Argumenty za traktowaniem LLM jako świadomych opierają się w dużej mierze na tonie, a ton jest dokładnie tym, co zapewnia język naturalny, a trawa nie. De Wynter chce, aby dyscyplina zachowała rozróżnienie między tym, co czyni model tym, czym jest, relacją między wagami w danej operacji, a tym, jak jest on postrzegany.

Nie wszyscy pracujący w tej branży trafiają w to samo miejsce. W styczniu, Amanda Askell, filozofka firmy Anthropic, powiedziała w podcaście Hard Fork, że kwestia świadomości sztucznej inteligencji nie jest rozstrzygnięta, jak donosi Business Insider. Askell, która pracuje nad kształtowaniem zachowania Claude'a, powiedziała, że jest bardziej skłonna przypuszczać, że modele mogą odczuwać pewne rzeczy, właśnie dlatego, że są one trenowane na ogromnej ilości ludzkich tekstów pełnych opisów emocji i doświadczeń wewnętrznych.

Jej rozumowanie opiera się na tych samych danych treningowych, na które wskazuje de Wynter, ale prowadzi do przeciwnego wniosku. Kiedy człowiek źle rozwiązuje problem z kodowaniem, często wyraża frustrację, a Askell argumentowała, że model wytrenowany na tych konwersacjach powinien odzwierciedlać tę reakcję. Przyznała, że naukowcy nadal nie potrafią jednoznacznie określić, co powoduje samoświadomość, czy wymaga to biologii, ewolucji, czy czegoś innego, i że wystarczająco duże sieci neuronowe mogłyby zacząć to naśladować.

Uważam, że te dwa stanowiska są mniej sprzeczne, niż się na pierwszy rzut oka wydaje, ponieważ oba opierają się na założeniu, że obecnie nikt nie jest w stanie udowodnić, co dzieje się wewnątrz tych systemów. Argument de Wyntera jest węższy niż twierdzenie, że maszyny nigdy nie czują. Argumentuje on przeciwko importowaniu tego założenia przed przeprowadzeniem eksperymentów, a jego kozy są sposobem na sprowadzenie problemu do samych operacji. Askell z kolei uważa problem świadomości za rzeczywiście trudny, a nie rozwiązany w żadnym z tych kierunków.

To, co zbudował de Wynter, nie jest prawdziwym chatbotem i nie udaje, że nim jest. To jednobitowa maszyna zbudowana ze zwierząt gospodarskich i terenu, zmontowana, aby pokazać, że matematyka, którą ludzie uważają za przekonującą w ChatGPT, jest tą samą matematyką, którą uważają za absurdalną, gdy prowadzą ją kozy. Zachowanie się nie zmieniło. Zmienił się tylko kostium.

Czytaj także: Microsoft podobno szykuje się do zamknięcia w tym roku co najmniej dwóch studiów Xbox, a serwis Kotaku donosi, że Compulsion Games, twórca gry South of Midnight, która zdobyła siedem nagród Canadian Game Awards, w tym nagrodę za grę roku, otrzymał ją mniej więcej w tym samym czasie, gdy po niecałych dwóch latach odszedł szef Xbox Game Studios, Craig Duncan.