Een van de voorbeelden die in het rapport wordt genoemd, is het profiel van een vermeende jonge vrouw uit Senftenberg in Brandenburg. Op de foto’s is een glimlachende vrouw te zien tegen een achtergrond van bossen en natuur. Het profiel oogt vertrouwd en onschuldig, maar verspreidt tegelijkertijd politieke boodschappen van uiterst rechtse signatuur.
Volgens de Brandenburgse Verfassungsschutz (Duitse binnenlandse veiligheidsdienst) gaat het om een volledig kunstmatig gecreëerd account. De foto’s zijn met AI gemaakt en de identiteit bestaat niet. De berichten prijzen onder meer politici van de partij AfD en bevatten uitspraken tegen transgender personen, queergemeenschappen en linkse politieke stromingen.
Lokale herkenbaarheid als strategisch middel
Volgens de veiligheidsdienst is juist de regionale aankleding van deze rechtse AI-profielen een belangrijk onderdeel van de strategie.
Door een woonplaats in Brandenburg te vermelden en foto’s te gebruiken die doen denken aan de lokale omgeving, ontstaat de indruk dat de politieke boodschappen afkomstig zijn van iemand uit de eigen regio. Daardoor kunnen radicale standpunten overkomen als gewone meningen van een buurvrouw, klasgenoot of kennis.
In kleinere gemeenschappen speelt herkenning volgens de onderzoekers een grote rol. Mensen vragen zich sneller af of iemand “van hier” komt of bekend voorkomt. Kunstmatige intelligentie maakt het mogelijk die lokale identiteit overtuigend na te bootsen.
Niet alleen op X actief
De genoemde accounts zijn actief op verschillende sociale media, waaronder X, Instagram en TikTok. Op X bereiken sommige profielen inmiddels duizenden volgers.
Volgens eerdere onderzoeken verschijnen vergelijkbare accounts onder namen als Larissa, Sophia, Lara of Aylin. De profielen reageren op actuele politieke gebeurtenissen en nemen daarbij vrijwel altijd standpunten in die dicht bij de AfD liggen.
De Brandenburgse veiligheidsdienst benadrukt dat niet elk profiel automatisch door politieke organisaties wordt aangestuurd. Wel ziet de dienst een patroon waarbij kunstmatig gegenereerde accounts steeds vaker worden ingezet om politieke boodschappen te versterken.
Russische beïnvloeding blijft een zorg
De waarschuwing voor rechtse AI-profielen maakt deel uit van een bredere analyse van online desinformatie. Volgens de Verfassungsschutz proberen ook Russische actoren de publieke opinie in Duitsland te beïnvloeden. Daarbij worden emotioneel geladen video’s, afbeeldingen en berichten verspreid die zijn ontworpen om zoveel mogelijk reacties uit te lokken.
Als voorbeeld noemt het rapport video’s waarin vermeende Oekraïense soldaten huilen, zich overgeven of de moed verliezen. Zulke beelden zijn volgens de onderzoekers niet alleen bedoeld om informatie te verspreiden, maar vooral om emoties op te roepen zoals medelijden, woede, afkeer of moedeloosheid.
Deze gevoelens kunnen vervolgens politieke conclusies sturen, bijvoorbeeld in discussies over de oorlog in Oekraïne, sancties tegen Rusland of stijgende energieprijzen.
Vooral jongeren kwetsbaar voor extremistische beïnvloeding
De Brandenburgse veiligheidsdienst ziet vooral voor jongeren risico’s. AI-profielen kunnen fungeren als een eerste kennismaking met extremistische denkbeelden.
Volgens het rapport bestaan er in delen van Brandenburg al langer digitale netwerken waarin rechts-extremistische ideeën circuleren. Nieuwe AI-technieken maken het eenvoudiger om deze boodschappen aantrekkelijker, persoonlijker en geloofwaardiger te presenteren. Daarmee wordt de stap van nieuwsgierigheid naar verdere radicalisering kleiner.
Toekomst: meer nepaccounts, snellere verspreiding
Voor de komende jaren verwacht de Verfassungsschutz dat netwerken van kunstmatige profielen professioneler zullen worden. Ook vreest de dienst dat manipulatieve berichten tijdens verkiezingscampagnes en maatschappelijke crises nog sneller verspreid zullen worden.
Volgens het rapport heeft kunstmatige intelligentie desinformatie niet uitgevonden, maar wel veranderd in een bijzonder krachtig hulpmiddel. Juist daardoor wordt het steeds moeilijker om feit en fictie van elkaar te onderscheiden.
Voor gebruikers van sociale media betekent dat volgens de onderzoekers dat een aantrekkelijk profiel of een vertrouwd ogende regionale identiteit niet automatisch bewijst dat er ook een echt persoon achter schuilgaat.
