Amerikaanse functionarissen ontdekken vermeende Russische ‘botfarm’

Amerikaanse functionarissen zeggen dat ze hard hebben opgetreden tegen een door AI aangedreven informatieoperatie die vanuit Rusland opereert, waaronder bijna duizend accounts die zich voordoen als Amerikanen.

Accounts op X zijn ontworpen om pro-Russische verhalen te verspreiden, maar zijn geautomatiseerde ‘bots’ – geen echte mensen.

In gerechtelijke documenten die dinsdag openbaar zijn gemaakt, zegt het Amerikaanse ministerie van Justitie dat de operatie is opgezet door een adjunct-hoofdredacteur van RT, voorheen Russia Today, dat eigendom is van het Kremlin.

RT exploiteert tv-kanalen in het Engels en verschillende andere talen, maar is populairder op sociale media dan reguliere kanalen.

Het ministerie van Justitie heeft twee websites in beslag genomen die worden gebruikt om e-mails te publiceren die verband houden met botaccounts en heeft X opdracht gegeven informatie met betrekking tot 968 accounts over te dragen.

Volgens gerechtelijke documenten werd kunstmatige intelligentie gebruikt om accounts te creëren die vervolgens pro-Russische verhaallijnen verspreidden, vooral over de oorlog in Oekraïne.

“De acties van vandaag zijn de eerste die een door AI ondersteunde botfarm voor sociale media verstoren die met Russische steun wordt ontwikkeld”, zegt FBI-directeur Christopher Wray.

“Rusland is van plan deze botfarm te gebruiken om onze partners in Oekraïne te ondermijnen, geopolitieke verhalen te beïnvloeden die gunstig zijn voor de Russische regering, hun missie op te schalen met behulp van AI en door AI gegenereerde buitenlandse desinformatie te verspreiden”, zei Ray in een verklaring.

De accounts lijken nu door X te zijn verwijderd, en screenshots die door FBI-onderzoekers zijn gedeeld geven aan dat ze heel weinig volgers hebben.

Gerechtsdocumenten beschreven hoe de zogenaamde ‘botfarm’ het geesteskind was van een adjunct-hoofdredacteur van RT die op zoek was naar nieuwe manieren om verhalen te verspreiden. RT America werd gesloten kort nadat Rusland in 2022 Oekraïne was binnengevallen, omdat verschillende grote Amerikaanse kabeltelevisieaanbieders het hadden laten vallen.

Een andere RT-medewerker richtte het netwerk op, en een Russische inlichtingenfunctionaris sloot zich later aan bij de inspanning, die het ministerie van Justitie omschreef als een poging om ‘onenigheid in de Verenigde Staten te zaaien door desinformatie te verspreiden’.

Anna Belkina, adjunct-hoofdredacteur van RT, zei per e-mail tegen de BBC: “Ik ben erg blij om mijn boerderij (datsja) te zien – voornamelijk tomaten en aardbeien, maar helaas zonder enige hulp van de FSB”, de Russische veiligheidsdienst.

Er zijn geen strafrechtelijke aanklachten openbaar gemaakt in de zaak, maar het ministerie van Justitie zei dat het onderzoek aan de gang is.

Nina Jankovic, president van het American Sunlight Project, een non-profitorganisatie die de verspreiding van desinformatie bestrijdt, zei dat het geen verrassing is dat aan Rusland gelinkte activiteiten afhankelijk zijn van AI om nepaccounts te creëren.

“Vroeger was dit het meest tijdrovende deel van hun werk; nu wordt het veel soepeler gemaakt door de technologieën die ten grondslag liggen aan de operatie”, zei hij, eraan toevoegend dat de operatie lijkt te zijn gedwarsboomd voordat deze grip kreeg.

“Kunstmatige intelligentie maakt nu deel uit van het desinformatiearsenaal”, zei mevrouw Jankovic.

De BBC heeft voor commentaar contact opgenomen met X en het Russische ministerie van Buitenlandse Zaken.