Roblox i Discord pod ostrzałem za błędy w zakresie bezpieczeństwa dzieci

Dwa z największych internetowych placów zabaw, Roblox i Discord, oficjalnie znalazły się na gorącym uczynku w związku z bezpieczeństwem dzieci - i wygląda na to, że sprawy mogą się skomplikować.

Urzędnicy państwowi z Florydy i New Jersey rozpoczynają poważne dochodzenia w sprawie tego, w jaki sposób platformy te chronią (lub nie chronią) swoich młodych użytkowników. Roblox, który ma szalone 85 milionów graczy dziennie, i Discord, z 200 milionami użytkowników miesięcznie, stoją teraz w obliczu presji prawnej, aby wyjaśnić, w jaki sposób faktycznie zapewniają dzieciom bezpieczeństwo, a nie tylko obiecują, że tak jest.

"Prokurator generalny Florydy James Uthmeier wezwał Roblox Corp. do udzielenia informacji na temat tego, w jaki sposób sprzedaje się dzieciom i jakie są jej zasady przeciwdziałania drapieżnikom".

Skupiono się na tym, czy Roblox robi wystarczająco dużo, aby zapobiec interakcjom między dziećmi a potencjalnymi drapieżnikami. Według biura Uthmeiera, chcą otrzymać pokwitowania: zasady moderacji, jak działa (lub nie) weryfikacja wieku i jak łatwo jest dzieciom uniknąć kontroli rodzicielskiej.

Roblox odpowiedział, mówiąc:

"Zamierzamy współpracować z biurem prokuratora generalnego i z niecierpliwością czekamy na udostępnienie całej pracy, jaką Roblox wykonuje, aby pomóc użytkownikom zachować bezpieczeństwo".

Dobre oświadczenie PR, ale sąd opinii publicznej już brzęczy - i to nie w dobry sposób.

Zdjęcie: Discord

Problemy z Discordem

Jeśli Roblox łapie ciepło, Discord może stać jeszcze bliżej ognia.

Prokurator generalny stanu New Jersey Matthew Platkin właśnie pozwał Discord, oskarżając firmę o wprowadzanie rodzin w błąd co do tego, jak bezpieczna jest jej aplikacja. Pozew twierdzi, że Discord obiecał funkcje ochronne, takie jak filtry wiadomości, ale ich nie dostarczył. Dzieci nadal były narażone na przerażające rzeczy - mówimy o materiałach związanych z wykorzystywaniem seksualnym dzieci, brutalnych treściach, a nawet mediach związanych z terroryzmem.

"Discord wprowadził w błąd użytkowników i rodziców, przeceniając swoje funkcje bezpieczeństwa i nie skanując wiadomości nawet między znajomymi" - czytamy w pozwie.

Rany.

Co gorsza, pozew mówi, że Discord nie egzekwuje należycie swojej własnej zasady minimalnego wieku (rzekomo 13+), co sprawia, że młodszym dzieciom bardzo łatwo jest prześlizgnąć się przez szczeliny.

Oficjalna odpowiedź Discord? Dość defensywna:

"Biorąc pod uwagę nasze zaangażowanie w biuro prokuratora generalnego, jesteśmy zaskoczeni ogłoszeniem, że New Jersey złożyło dziś pozew przeciwko Discordowi".

Tłumaczenie: "Czekaj, pozywasz nas? Myśleliśmy, że jesteśmy dobrzy?".

Dlaczego to teraz wybuchło!?

Obie platformy próbowały naprawić sytuację, przynajmniej na papierze.

Roblox twierdzi, że wprowadził 40 aktualizacji bezpieczeństwa w samym 2024 roku, w tym jedną dużą w listopadzie, która blokuje dzieciom poniżej 13 roku życia dostęp do przestrzeni społecznościowych, takich jak wirtualne kluby. Ze swojej strony Discord, jego dyrektor generalny Jason Citron zeznawał przed Kongresem w zeszłym roku na temat bezpieczeństwa dzieci - w momencie, gdy firma przygotowuje się do ewentualnego IPO.

Ale dla wielu ludzi (i wielu rodziców) wydaje się, że to za mało, za późno.

Bloomberg's Businessweek doniósł zeszłego lata, że Roblox miał poważne problemy z utrzymaniem drapieżników poza swoją platformą. Od 2018 roku amerykańska policja aresztowała ponad dwa tuziny osób oskarżonych o uwodzenie lub wykorzystywanie ofiar poznanych za pośrednictwem Roblox. Wtajemniczeni twierdzą, że problem jest ogromny, częściowo ze względu na samą skalę tych platform.

"Pracownicy Roblox opisali skalę wyzwania, jakim jest nadzorowanie ogromnej bazy użytkowników firmy".

Zasadniczo, nawet przy całej sztucznej inteligencji, modach i systemach raportowania, źli aktorzy wciąż się prześlizgują.

"Roblox, Discord jutro"

Zarówno Roblox, jak i Discord mają poważne kłopoty prawne, a zaufanie publiczne jest zdecydowanie zagrożone.

Jeśli Roblox nie będzie w stanie wykazać, że jego systemy są szczelne, ryzykuje większą regulacją (i wściekłymi rodzicami wyciągającymi swoje dzieci). W przypadku Discord pozew może nie tylko opóźnić debiut giełdowy, ale także zniszczyć jego reputację w momencie, gdy stara się on wyjść poza kręgi gier na szerszą platformę społecznościową.

Jest też większa kwestia odpowiedzialności. Jak odpowiedzialne powinny być platformy, które działają bardziej jak place zabaw niż tradycyjne sieci społecznościowe? I jak realistyczne jest pełne nadzorowanie przestrzeni z setkami milionów użytkowników?

Przypadki te mogą ustanowić główne precedensy dla sposobu, w jaki aplikacje zarządzają bezpieczeństwem dzieci w przyszłości, nie tylko dla Roblox i Discord, ale dla całego Internetu.

Nie chodzi tylko o to, że dwie firmy mają kłopoty. Chodzi o to, kto jest odpowiedzialny, gdy wirtualne place zabaw stają się niebezpieczne.