Szczegóły z raportu Anthropic. Tak wrogowie USA używali Claude'a
Anthropic ostrzega, że państwowa inwigilacja wchodzi w codzienną fazę automatyzacji. W raporcie o zagrożeniach firma pisze, że osoby powiązane z władzami Chin, Mali i Iranu używały modeli Claude do analizy danych, tworzenia teczek i wskazywania celów nadzoru. Bariera wejścia dla rządów, które chcą śledzić dysydentów, dziennikarzy i aktywistów, maleje wraz z mocą modeli AI. Sztuczna inteligencja nie zmienia zasadniczo tego, kogo państwa biorą na cel. Zmienia natomiast tempo, koszt i skalę pracy.
Jacob Klein, szef wywiadu zagrożeń w Anthropic, powiedział Axios, że AI pozwala pojedynczym urzędnikom i kontraktorom automatyzować zadania, które wcześniej wymagały całych zespołów analityków.
W praktyce automatyzują części pracy aparatu wywiadowczego – dodał.
Najwyraźniejszy przykład pochodzi z Mali. Jeden konsultant, według firmy związany z państwową służbą wywiadu ANSE, użył Claude’a jako głównego narzędzia inżynierskiego do budowy platformy Lakana 360. System miał monitorować dane związane z około 25 milionami kart SIM u trzech krajowych operatorów komórkowych, omijać wymóg nakazu sądowego przy ujawnianiu części rekordów i składać teczki na wskazany numer telefonu. Anthropic zablokowało konto, ale platforma działała już lokalnie na innych modelach, więc zakaz nie wyłączył wdrożonego systemu.
W Chinach służba wywiadu ds. spraw religijnych miała – według raportu – zejść z „wielu zespołów analityków” do „jednego biura z asystentem AI”, które produkuje tysiące śledztw miesięcznie. Władze chińskie wykorzystywały Claude’a także do oceny, jak politycznie wrażliwe są wpisy w mediach społecznościowych, i do selekcji osób do „kontroli”: przesłuchań, bliższego śledzenia przemieszczeń i komunikacji. Inne przypadki dotyczyły m.in. monitorowania społeczności diaspory, w tym aktywistów z Hongkongu oraz społeczności tybetańskich i Falun Gong.
W Iranie Anthropic zidentyfikowało jednostki powiązane z paramilitarnymi i wewnętrznymi służbami bezpieczeństwa. Aktorzy używali Claude’a do budowy i wdrożenia złośliwego rozszerzenia Firefox, które zbierało tożsamości użytkowników z sieci społecznościowych, oraz do narzędzi profilujących opozycję i diasporę.
W czerwcu firma zablokowała też konto, które budowało komercyjną platformę nadzoru na Iran i Zatokę Perską – zanim system ruszył operacyjnie. Wszystkie opisane przypadki inwigilacji dotyczyły modeli Haiku, Sonnet i Opus, a nie nowszych klas Fable i Mythos. Anthropic twierdzi, że zablokowało powiązane konta i wzmocniło zabezpieczenia. Klein zaznacza jednak, że po utrudnieniu dostępu część aktorów przechodzi na modele open source.
Państwa autorytarne używają dziś AI do nadzoru, represji i operacji wpływu. To już nie jest hipoteza – podsumował.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
