Anthropic: AI-ul este folosit de guverne pentru supraveghere și identificarea unor ținte. „Nu mai este ceva ipotetic”

Inteligența artificială începe să schimbe radical modul în care sunt desfășurate operațiunile de supraveghere ale statelor, făcându-le mai rapide, mai ieftine și mai ușor de automatizat. Anthropic susține că a identificat persoane și structuri asociate guvernelor din China, Mali și Iran care au folosit modelele Claude pentru a analiza cantități mari de date, a întocmi dosare despre persoane și a identifica potențiale ținte ale supravegherii.

Potrivit unui raport privind amenințările publicat de companie și relatat de Axios, utilizarea AI a trecut dincolo de etapa experimentală și a ajuns să fie integrată în activitatea de zi cu zi a unor structuri de securitate și informații.

De la echipe de analiști la un singur birou

Unul dintre cele mai spectaculoase exemple identificate de Anthropic vine din China. Un serviciu de informații specializat în afaceri religioase și-ar fi redus activitatea de la „mai multe echipe de analiști” la un singur birou, care utilizează un asistent AI pentru a realiza mii de investigații în fiecare lună.

Claude ar fi fost folosit pentru analizarea informațiilor provenite din rețelele sociale, evaluarea sensibilității politice a unor postări și selectarea unor persoane drept potențiale ținte pentru ceea ce autoritățile numeau „control”.

În unele cazuri, acest „control” putea presupune interogatorii coercitive sau supravegherea mai atentă a deplasărilor și comunicațiilor unei persoane.

Anthropic afirmă că un serviciu chinez de securitate de stat a creat inclusiv un manual intern pentru folosirea inteligenței artificiale în operațiuni de supraveghere. Alte persoane implicate în astfel de activități ar fi utilizat Claude pentru automatizarea rapoartelor zilnice de informații și pentru interogarea bazelor de date guvernamentale.

În Mali, AI-ul a fost folosit pentru construirea dosarelor despre persoane

Un alt caz identificat de Anthropic este cel al unui consultant care lucra pentru autoritățile de securitate națională din Mali.

Acesta ar fi folosit Claude pentru dezvoltarea unui sistem capabil să colecteze date de la operatorii de telefonie mobilă și să le transforme în dosare despre persoane.

În cele din urmă, potrivit Anthropic, autoritățile din Mali au implementat platforma la nivel local, folosind alte modele AI după ce accesul la Claude a fost blocat.

Actori iranieni, implicați într-o operațiune de colectare a identităților

Anthropic a identificat și o operațiune asociată unor actori iranieni, care ar fi folosit Claude pentru dezvoltarea și implementarea unei extensii malițioase pentru browserul Firefox.

Extensia era concepută pentru a colecta identitățile utilizatorilor de pe rețelele sociale, potrivit companiei.

În luna iunie, Anthropic a mai blocat un cont utilizat pentru construirea unei platforme comerciale de supraveghere destinată monitorizării unor persoane din Iran și din regiunea Golfului Persic. Compania spune că a detectat operațiunea înainte ca platforma să devină funcțională.

AI-ul poate înlocui munca unor echipe întregi

Jacob Klein, șeful departamentului de informații privind amenințările din cadrul Anthropic, spune că inteligența artificială nu schimbă neapărat tipul persoanelor urmărite de guverne, dar reduce dramatic costurile și timpul necesar pentru supraveghere.

AI-ul permite unui singur angajat sau contractor să automatizeze activități pentru care anterior era nevoie de echipe întregi de analiști.

„Practic, automatizează părți ale activității din cadrul aparatului de informații”, a explicat Klein.

Un aspect important este că operațiunile identificate nu au necesitat acces la cele mai performante modele Anthropic. Potrivit companiei, cazurile au implicat versiunile Claude Haiku, Sonnet și Opus.

Blocarea Claude nu înseamnă dispariția operațiunilor

Anthropic susține că a blocat toate conturile pe care le-a asociat cu operațiuni de supraveghere și că și-a consolidat sistemele de protecție în urma acestor incidente.

Problema este că oprirea accesului la un anumit model AI nu înseamnă automat și oprirea operațiunii.

Potrivit lui Klein, Anthropic a observat că unii dintre actorii blocați au trecut ulterior la modele open-source, după ce restricțiile companiei le-au îngreunat activitatea.

Fenomenul ridică astfel o problemă mult mai largă pentru industria AI: pe măsură ce modelele devin mai puternice și mai accesibile, capacitatea de a automatiza supravegherea nu mai depinde de accesul la un singur furnizor.

„Nu mai este ceva ipotetic”

Concluzia Anthropic este una îngrijorătoare: folosirea inteligenței artificiale de către aparatele de securitate pentru supraveghere, represiune și operațiuni de influență nu mai reprezintă un scenariu teoretic.

„Statele autoritare folosesc astăzi inteligența artificială pentru supraveghere, represiune și operațiuni de influență”, a declarat Jacob Klein. „Nu mai este ceva ipotetic.”

Raportul sugerează că adevărata schimbare nu constă doar în faptul că guvernele au primit un instrument nou, ci în faptul că AI-ul poate transforma munca unor echipe întregi de analiști într-un proces automatizat, realizat de un număr mult mai mic de oameni și la o scară considerabil mai mare.