Dramat bezpieczeństwa w Roblox po napiętym wywiadzie z dyrektorem generalnym

Najnowszy wywiad z dyrektorem generalnym ROBLOX ujawnił narastające od dawna wątpliwości dotyczące kultury bezpieczeństwa platformy. Roblox jest pod obserwacją od lat, ale liczby wzmocniły tę uwagę. Firma liczy obecnie około 150 milionów aktywnych użytkowników dziennie, z których wielu to dzieci, i odnotowała poprzednią wewnętrzną liczbę ponad 13 000 zgłoszonych przypadków wykorzystywania dzieci w ciągu jednego roku.

Występując w podcaście technologicznym The New York Times Hard Fork, współzałożyciel i dyrektor generalny Roblox David Baszucki został bezpośrednio zapytany o drapieżniki atakujące dzieci w serwisie. Jego decyzja o opisaniu tego problemu jako "szansy" wylądowała z niezwykłą siłą, ponieważ nie pojawiła się w odosobnieniu, ale na tle procesów sądowych, niepowodzeń moderacji i walk politycznych, które już nadwyrężyły zaufanie rodziców do granic możliwości.

Trzy amerykańskie stany - Luizjana, Kentucky i Teksas - złożyły pozwy, twierdząc, że Roblox nie zrobił wystarczająco dużo, by chronić nieletnich. Ponad 20 dodatkowych spraw w sądzie federalnym twierdzi, że platforma umożliwiła wykorzystywanie seksualne. W tym samym czasie Roblox wprowadzał oparte na sztucznej inteligencji szacowanie wieku i rozszerzone ograniczenia czatu, a następnie reklamował te narzędzia jako dowód na to, że wyprzedza szerszą branżę.

Gospodarze Hard Fork, Casey Newton i Kevin Roose, sformułowali swoje pytania w tym kontekście. Kiedy Newton zapytał, jak myśli o "problemie drapieżników na Robloxie", Baszucki odpowiedział:

"Myślimy o tym niekoniecznie tylko jako o problemie, ale także jako o szansie. Jak pozwolić młodym ludziom budować, komunikować się i spędzać razem czas? Jak jednocześnie budować przyszłość komunikacji?". - Dawid Baszucki.

Dalsza część odpowiedzi jasno wskazywała, że ma on na myśli możliwość wprowadzenia innowacji w zakresie moderacji i projektowania komunikacji. Sformułowanie to zmieniło jednak jedną z najciemniejszych rzeczywistości każdej platformy dla dzieci w wyzwanie rozwojowe. Dla krytyków wzmocniło to podejrzenie, że kierownictwo Roblox postrzega bezpieczeństwo jako kolejny problem inżynieryjny do optymalizacji, a nie twardą granicę, która może ograniczać to, co firma powinna robić.

W trakcie wywiadu z CEO ROBLOX, Baszucki powracał do skali zarówno jako wyjaśnienia, jak i tarczy. Zauważył, że użytkownicy Robloxa spędzają około 11 miliardów godzin miesięcznie i wskazał na Steal a Brainrot, hitową grę, która latem osiągnęła 25 milionów jednoczesnych graczy, jako dowód na to, co może obsłużyć infrastruktura platformy. Zapytany, czy drapieżnikom łatwo jest ominąć filtry, odmówił bezpośredniej odpowiedzi i zamiast tego powiedział:

"To jedna z podstawowych rzeczy, które robimy, to próba zatrzymania ludzi na naszej platformie... zawsze staramy się ją wyprzedzać". - Dawid Baszucki.

Kiedy Newton kontynuował, pytając bez ogródek, czy uważa, że Roblox ma problem z drapieżnikami, Baszucki nie przyznał racji.

"Myślę, że wykonujemy niesamowitą pracę, wprowadzając innowacje w stosunku do liczby osób na naszej platformie i godzin, naprawdę pochylając się nad przyszłością tego, jak to będzie działać". - Dawid Baszucki.

Ta wymiana skrystalizowała napięcie. Z jednej strony firma, która spędziła prawie dwie dekady na tworzeniu narzędzi do gier i społeczności generowanych przez użytkowników, teraz w dużym stopniu opiera się na filtrowaniu AI i szacowaniu wieku w celu zarządzania ryzykiem. Z drugiej strony, rosnący obóz rodziców, organów regulacyjnych, twórców i grup wsparcia, którzy twierdzą, że podstawowe pytanie pozostaje bez odpowiedzi: czy to wystarczy i kto może o tym decydować?

Pytanie to zostało zaostrzone przez przypadki spoza podcastu. Roblox niedawno zbanował YouTubera Schlepa, twórcę, który zbudował dużą publiczność, inscenizując operacje "polowania na drapieżniki" w przestrzeniach Roblox. Jego filmy, które, jak twierdzi, doprowadziły do wielu aresztowań, zostały usunięte, a jego konto zostało zamknięte zgodnie z zasadami Roblox przeciwko działaniom strażniczym. Zwolennicy zgromadzili się za hashtagiem #freeschlep i twierdzą, że jego praca uwypukliła błędy w systemach firmy. Dla nich usłyszenie, jak dyrektor naczelny nazywa kryzys drapieżników "szansą" kilka dni po odcięciu jednego z najbardziej widocznych, choć kontrowersyjnych, strażników, brzmiało jak błędne odczytanie chwili.

Rośnie również presja prawna. Law By Mike, popularny YouTuber i praktykujący prawnik, publicznie zasygnalizował plany podjęcia działań prawnych przeciwko Roblox w związku z domniemanymi lukami w ochronie dzieci. Jego zaangażowanie ma znaczenie, ponieważ przecina on dwa światy: rozumie mechanikę zarządzania platformą i przemawia do tej samej publiczności rodziców i nastolatków, którzy traktują Roblox jako społeczność. W połączeniu z pozwami stanowymi i federalnymi, jego nacisk poszerza front, na którym Roblox musi bronić swojej historii.

W wywiadzie dla Hard Fork Baszucki próbował przenieść uwagę z zarządzania kryzysowego na długoterminową architekturę. Opisał nowy system szacowania wieku twarzy - wideo selfie, które służy do oceny wieku użytkownika przed umożliwieniem mu czatowania - jako kolejny sygnał w stosie, który obejmuje również dane behawioralne i wiek zgłoszony przez samego siebie.

"Robimy już mnóstwo rzeczy: Mamy bardzo, bardzo dobre filtry tekstowe; nie ma udostępniania obrazów; prowadzimy szereg działań monitorujących. Ale dodanie do tego jeszcze jednego sygnału może naprawdę pomóc nam w podejmowaniu fajnych decyzji". - Dawid Baszucki.

Argumentował, że platforma w przeszłości przehandlowała pewien wzrost na rzecz bezpieczeństwa poprzez intensywne filtrowanie tekstu, przywołując stary mem czatu Roblox, który zamienił się w "hashtag, hashtag, hashtag", gdy zakazane słowa zostały zablokowane. Powiedział, że dzięki sztucznej inteligencji filtry mogą stać się bardziej precyzyjne i odporne na taktyki przeciwników, takie jak użytkownicy próbujący zakodować dane kontaktowe za pomocą zakodowanych fraz.

Podcast, wyprodukowany w ramach portfolio The New York Times Podcast, nie pozostał długo na tym technicznym pasie. Roose podniósł raport Hindenburg Research z 2024 r., oskarżający Roblox o "narażanie bezpieczeństwa dzieci w celu raportowania wzrostu inwestorom" i wskazujący na zmniejszone wydatki na zaufanie i bezpieczeństwo. Baszucki odrzucił firmę ze śmiechem. "Zabawa. Kontynuujmy to" - powiedział, zauważając, że Hindenburg od tego czasu zakończył działalność i argumentując, że przejście na systemy oceny AI jest równoznaczne z przejściem z ręcznie budowanych samochodów na linię montażową. Zasugerował, że nie chodzi o pójście na skróty, ale o zastosowanie lepszych narzędzi.

Nacisk na sztuczną inteligencję stawia Roblox w znanej kategorii. Sieci społecznościowe spędziły większość 2010 roku obiecując, że zautomatyzowane systemy będą usuwać nadużycia i dezinformacje na dużą skalę, tylko po to, by odkryć twarde ograniczenia tego, co uczenie maszynowe może wiarygodnie ocenić. Roose i Newton przypomnieli Baszuckiemu o tej historii. Baszucki odpowiedział, że wewnętrzne wskaźniki Roblox pokazują, że filtrowanie i wykrywanie poprawia się wraz z wdrażaniem nowych modeli, a "oszałamiająca" skala platformy sprawia, że ten rodzaj automatyzacji jest nie tylko skuteczny, ale wręcz konieczny.

Nawet w grach moderacja Roblox jest pod presją. Grupy rzeczników, takie jak Women In Games, Out Making Games i BAME in Games, opublikowały niedawno list otwarty krytykujący projekt zasad twórców firmy dotyczących "wrażliwych kwestii". "Niedawno zaproponowane przez Roblox wytyczne dla twórców dotyczące" wrażliwych kwestii "stanowią krok wstecz zarówno dla twórczej ekspresji, jak i sprawiedliwości społecznej" - argumentowano w liście, ostrzegając, że traktowanie tematów takich jak równość płci, prawa reprodukcyjne i sprawiedliwość rasowa jako opcjonalnych lub ryzykownych "wrażliwych" stref grozi pogrzebaniem historii, które mają znaczenie dla młodych graczy. - Kobiety w grach, Out Making Games i BAME w grach.

Krytyka ta nie koncentruje się na drapieżnikach lub kontroli wieku, ale mówi o tym samym podstawowym problemie: kto wyznacza granice tego, co młodzi użytkownicy mogą zobaczyć i omówić, i czyjej wygodzie służą te decyzje.

Rozmowa o Hard Fork ostatecznie przeniosła się na Polymarket, opartą na kryptowalutach platformę prognostyczną, którą Baszucki chwalił jako potężny sygnał informacyjny. Kiedy Roose zapytał półżartem, czy kiedykolwiek umieściłby rynek predykcyjny w samym Robloxie, Baszucki odpowiedział twierdząco, a następnie przyznał, że jest to skomplikowane pod względem prawnym. Zapytany o to, czy przekształcenie rynków predykcyjnych w grę dla dzieci byłoby "okropnym pomysłem", odpowiedział:

"Cóż, tak naprawdę uważam, że to genialny pomysł, jeśli można to zrobić w sposób edukacyjny, który jest legalny... po prostu gra o nazwie Dress to Impress Predictor, w której nie chodzi o zdobycie pieniędzy dzieci ani nic w tym rodzaju. Byłbym jej wielkim fanem". - David Baszucki.

Dla firmy, która jest już badana pod kątem tego, jak traktuje nieletnich, pomysł zbudowania grywalizowanego silnika predykcyjnego w Roblox, nawet bez bezpośrednich stawek finansowych, będzie trudny do oddzielenia od szerszych debat na temat skrzynek z łupami, mechaniki hazardu i cyfrowego przymusu.

W kilku momentach Newton zauważył, że rozmowa była napięta. Baszucki podkreślał, że nie był sfrustrowany, a jedynie zaskoczony, że skupiono się na bezpieczeństwie, a nie na lżejszych tematach branżowych, i wielokrotnie opisywał pozycję Robloxa jako "sytuację o wysokiej odpowiedzialności", która jest również "niesamowitą szansą". Odrzucił wizerunek dyrektora generalnego, który spędza całe dnie na oglądaniu się przez ramię, argumentując, że firma zapobiegawczo podchodziła do kwestii bezpieczeństwa "od pierwszego dnia", nawet zatrzymując rozwój w pierwszych tygodniach, aby zbudować podstawowe narzędzia moderacji.

Ta pewność siebie trwała do końca wywiadu z CEO ROBLOX, kiedy Roose zadał osobiste pytanie: czy Roblox będzie wystarczająco bezpieczny do czasu, gdy jego własny syn poprosi o grę. Baszucki poszedł dalej niż proste "tak".

"Roblox jest obecnie niesamowitą platformą dla twojego dziecka" - powiedział, oferując w razie potrzeby pokazanie wewnętrznych wskaźników pod warunkiem zachowania poufności i dodając, że rodzice pozostają "ostatecznym arbitrem odpowiedzialności". - Dawid Baszucki.

Odpowiedź oddaje stanowisko firmy w miniaturze. Roblox pozycjonuje się jako już wyprzedzający konkurencję, już bezpieczniejszy niż wiele innych firm, już korzystający z narzędzi, które inni w końcu zaadoptują. Nierozwiązaną kwestią jest to, czy ta samoocena pasuje do doświadczeń rodzin, które widziały przypadki uwodzenia lub wykorzystywania na platformie, lub twórców i rzeczników, którzy twierdzą, że ich własne ostrzeżenia zostały zignorowane, dopóki pozwy sądowe i nagłówki gazet nie wymusiły reakcji.

Nic z tego nie wymazuje tego, co zbudował Roblox. Platforma pełni rolę konserwacyjną w szerszej gospodarce gier online: jest zarówno kreatywnym zestawem narzędzi, jak i ogromnym centrum społecznym, w którym dzieci uczą się, jak działają społeczności internetowe, na dobre i na złe. Epizod Hard Fork pokazuje, jak krucha może być ta pozycja, gdy zaufanie się chwieje. Uwagi Baszuckiego nie wprowadziły nowych faktów na temat systemów bezpieczeństwa Roblox, ale ujawniły, w jaki sposób kierownictwo firmy plasuje swoje priorytety. Innowacyjność, skala i długoterminowa wizja platformy znajdują się w centrum; wyraźne uznanie krzywdy znajduje się bliżej krawędzi.

Przeczytaj także, Roblox przekroczył 100 milionów aktywnych użytkowników dziennie, kamień milowy, który podkreśla, jak szybko wzrosła liczba odbiorców platformy i dlaczego każda decyzja dotycząca bezpieczeństwa, moderacji i polityki ma teraz konsekwencje daleko wykraczające poza pojedynczy wywiad z CEO ROBLOX.