Dlaczego były szef działu sztucznej inteligencji w Take-Two przestał bronić sztucznej inteligencji generatywnej

Take-Two zwolniło cały zespół ds. sztucznej inteligencji w kwietniu w ramach restrukturyzacji, co wydało się dziwne, biorąc pod uwagę, jak otwarcie branża dąży do generatywnej sztucznej inteligencji. Problem w tym, że większość zwolnionych osób w ogóle nie pracowała nad generatywną sztuczną inteligencją. Zespół powstał w Zyndze w 2019 roku jako grupa badawczo-rozwojowo-innowacyjna, trzy lata przed tym, jak ChatGPT publicznie utożsamiło sztuczną inteligencję z dużymi modelami językowymi, i pozostał na swoim miejscu po przejęciu Zyngi przez Take-Two w 2022 roku. Jego były szef, dr Luke Dicken, wyraził swoje obawy w wywiadzie dla GamesIndustry.biz.

Grupa działała niczym skunkwork w piwnicy siedziby Zyngi w San Francisco, testując, jak sztuczna inteligencja, jako szeroka dziedzina, może wspierać rozwój gier. Punktem odniesienia Dickena były gry RPG. Twierdzi on, że dobry mistrz gry odczytuje, czego chcą gracze i dostosowuje do tego przebieg sesji, a ta sama logika mogłaby na bieżąco kształtować grę wideo. Zespół stworzył system profilowania oparty na uczeniu maszynowym, który śledził około 40 metryk na gracza. Założenie to zaowocowało grą Spell Forest z 2020 roku, która, jak twierdzi Dicken, dowiodła słuszności tej tezy, przenosząc podstawowe dane biznesowe na zmiany w sposobie, w jaki użytkownik doświadcza gry.

Wersja ChatGPT z 2022 roku zmieniła zadania zespołu. Kiedy okazało się, że dane wprowadzane przez użytkowników mogą stać się danymi szkoleniowymi, Zynga przekazała zarządzanie generatywną sztuczną inteligencją całej firmie, głównie poprzez edukowanie pracowników i zatwierdzanie narzędzi. Z 25-osobowego zespołu tylko trzy lub cztery osoby zajmowały się generatywną stroną AI; reszta kontynuowała prace nad sztuczną inteligencją w szerszym znaczeniu. Nadzór został później rozszerzony na całą firmę Take-Two, zanim w tym roku grupa przeszła na emeryturę, a jej obowiązki rozszerzono na inne zespoły.

Dicken nie przemawia jak ktoś, kto do niedawna piastował stanowisko szefa AI. Przedstawia generatywną AI jako coś, co czuł moralny obowiązek zarządzać, a nie jako technologię, w którą wierzył.

„Generatywna sztuczna inteligencja nigdy mnie szczególnie nie fascynowała. Uważam, że istnieje moralny obowiązek, aby zarządzać nią najlepiej, jak to możliwe, ale też ze świadomością, że dla każdej dużej korporacji w latach 2025/2026 żadna generatywna sztuczna inteligencja nie będzie złym rozwiązaniem, które spotka się z aprobatą wielu osób”.

— Luke Dicken

Jego zastrzeżenia dotyczą trzech aspektów: etyki, prawa i biznesu. Powołuje się na ustalenia pozwu, które wykazały, że Midjourney prowadził listę artystów, których prace wytrenowały jego modele, i twierdzi, że zna ludzi, którzy się tym zajmują. Kwestionuje, czy wyniki są w ogóle dobre, nazywając LLM-y predyktorami następnego słowa, nastawionymi na średnią. Twierdzi, że dobry programista jest wciągany w przeciętną pracę tak samo, jak słaby. Zwraca również uwagę na to, jak niewiele potrzeba, aby zepsuć dostrojony model, gdzie jedna zmiana w danych treningowych kaskadowo rozprzestrzenia się po sieci i rujnuje przypadek użycia, który działał wczoraj.

Uważam, że jego argument o regresji do średniej jest tu najbardziej użyteczny, ponieważ oddziela marketing od mierzalnych efektów narzędzi. Akcje Take-Two wzrosły o 5% po ogłoszeniu w tym tygodniu przedsprzedaży GTA 6, a ta różnica między ręcznie tworzonym produktem Rockstara, za który inwestorzy zapłacą premię, a uśrednioną produkcją LLM, to właśnie napięcie, o którym Dicken wciąż krąży.

Jest jeden plus, który przypisuje szumowi medialnemu. Pięć lat temu, gdy proponował algorytm generowania poziomów, spotkał się z pustymi spojrzeniami; teraz to samo pomieszczenie przytakuje niemal wszystkiemu, co określa się mianem sztucznej inteligencji.

„Dzięki temu ludzie stali się bardziej otwarci na rozmowy o tym, co tradycyjne techniki mogłyby dla nich zrobić lata temu. Są bardziej skłonni uwierzyć, że takie rzeczy mogą istnieć”.

— Luke Dicken

Obawą jest to, co się stanie, gdy bańka pęknie. Strauss Zelnick przedstawił GTA 6 jako grę, której „nigdy wcześniej nie było”, rodzaj ambicji, która wymaga lat i ludzkiej pracy, a nie uśredniania statystycznego, a Dicken obawia się odwrotnego rezultatu: że pęknięcie bańki całkowicie zniechęci branżę do sztucznej inteligencji, w tym do tradycyjnych metod. Myślę, że ten strach jest uzasadniony, ponieważ reakcja negatywna rzadko pozwala odróżnić użyteczne narzędzia od tych przereklamowanych. Przywołuje argument Eda Zitrona, że ekonomia boomu się nie zgadza, i konkluduje, że odpowiedź brzmi „nie” w kwestiach etyki, prawa i biznesu, dopóki wydatki i tak będą kontynuowane.

„Obawiam się, że sztuczna inteligencja generatywna zatruwa źródło. Nie sądzę, żeby było w niej wystarczająco dużo wyrafinowania i niuansów, by zachować tradycyjne podejście. W przypadku studiów magisterskich z prawa (LLM) już wpadliśmy w otchłań rozczarowań”.

— Luke Dicken

To, jak studia radzą sobie z tym problemem, zależy od kontekstu, mówi Dicken. Startup, któremu zostało sześć miesięcy, wykorzysta każdą możliwą przewagę. Większa firma musi rozważyć ryzyko prawne. Stawia na wartości: moralnie poprawna odpowiedź to brak generatywnej sztucznej inteligencji, biznesowo poprawna odpowiedź to po prostu wystarczająco, a gdzie studio postawi granicę, zależy od tego, na czym mu zależy. Te same wywiady z Zelnickiem, które wyjaśniają, dlaczego prace nad GTA 6 trwały tak długo, wskazują na zupełnie inny model – firmę, która poświęca 13 lat na stworzenie czegoś, co uważa za tak dobre, jak to tylko możliwe.

Czytaj także: Rockstar najwyraźniej szykuje się do wypuszczenia trzeciego zwiastuna GTA 6, po cichu usuwając etykietkę „nowy” z trailera nr 2 przed rozpoczęciem przedsprzedaży 25 czerwca. Informator DarkViperAU twierdzi, że kolejny zwiastun będzie trwał 20 minut.