OpenAI zamyka konta powiązane z podejrzanym chińskim narzędziem do inwigilacji

OpenAI zbanowało kilka kont, które rzekomo wykorzystywały ChatGPT do zbudowania narzędzia do monitorowania mediów społecznościowych, mającego na celu zgłaszanie antychińskich protestów w USA i innych krajach zachodnich. Firma twierdzi, że sieć była prawdopodobnie powiązana z Chinami.

OpenAI zaostrza kontrolę nad nadużyciami sztucznej inteligencji, zamykając kilka kont, które podobno używały ChatGPT do zasilania narzędzia do nadzoru mediów społecznościowych. Według raportu OpenAI, konta te były rzekomo powiązane z wspieraną przez Chiny operacją, której celem było gromadzenie w czasie rzeczywistym danych na temat antychińskich protestów w USA, Wielkiej Brytanii i innych krajach zachodnich.

Tak zwany "Qianyue Overseas Public Opinion AI Assistant" został opisany w materiałach marketingowych jako oprogramowanie zaprojektowane do śledzenia i zgłaszania dyskusji online na temat protestów dotyczących praw człowieka bezpośrednio do chińskich władz, agencji wywiadowczych i ambasad. OpenAI nie mogło niezależnie zweryfikować istnienia narzędzia, ale miało dostęp do materiałów promocyjnych, które szczegółowo opisywały jego możliwości - głównie skanowanie platform takich jak X, Facebook i Instagram w poszukiwaniu odpowiednich rozmów.

Ben Nimmo, główny badacz w OpenAI, nazwał tę sprawę niepokojącym przykładem "autorytarnego reżimu próbującego wykorzystać amerykańską sztuczną inteligencję do celów antydemokratycznych". Ustalenia te pojawiają się w miarę wzrostu napięć związanych z wykorzystywaniem przez Chiny zachodniej technologii, a OpenAI aktywnie ostrzega amerykańskich decydentów o zagrożeniach dla bezpieczeństwa narodowego ze strony chińskiej sztucznej inteligencji.

Zablokowane konta odnosiły się również do korzystania z innych modeli sztucznej inteligencji, w tym open-source'owej Llamy firmy Meta. Meta potwierdziła taką możliwość, ale wskazała, że źli aktorzy mają dostęp do wielu narzędzi AI, w tym tych opracowanych w Chinach.

To nie pierwszy raz, kiedy OpenAI podejmuje działania przeciwko wątpliwej aktywności. Firma zablokowała również konta powiązane z irańskimi operacjami wpływu, oszustwami związanymi z zatrudnieniem w Korei Północnej oraz inną powiązaną z Chinami siecią generującą hiszpańskojęzyczne treści krytyczne wobec rządu USA.

Wraz z rozwojem chińskich startupów AI, takich jak DeepSeek, OpenAI rozważa otwarcie niektórych własnych modeli, aby konkurować. W międzyczasie amerykańscy decydenci zastanawiają się, jak zrównoważyć innowacje w zakresie sztucznej inteligencji z obawami dotyczącymi bezpieczeństwa narodowego.