Αποκαλύφθηκε δίκτυο ισραηλινής προπαγάνδας με AI

Το DFRLab εντόπισε δίκτυο με περισσότερους από πενήντα λογαριασμούς στο Χ που προωθούσαν συντονισμένα αφηγήσεις υπέρ του Ισραήλ. Οι λογαριασμοί, που ισχυρίζονταν ότι ήταν Αμερικανοί, Καναδοί ή άτομα που διέμεναν σε αυτές τις χώρες, αλληλεπιδρούσαν με λογαριασμούς υπέρ του Ισραήλ και προωθούσαν τις αναρτήσεις τους με retweets, likes και απαντήσεις […]. Ενώ το περιεχόμενο που διακινούσε το δίκτυο ήταν κυρίως φιλοϊσραηλινό, ενίοτε προωθούσε κομματικά μηνύματα για τις αμερικανικές εκλογές υπέρ του πρώην προέδρου Ντόναλντ Τραμπ και κατά του Τζο Μπάιντεν.
ναδημοσίευση από το info-war.gr
Πηγή: Αλί Τσένρόουζ* | DFRLab
Η ανακάλυψη αυτή συμπληρώνει προηγούμενη έρευνα του DFRLab και άλλων ερευνητών, η οποία είχε αποκαλύψει ένα παρόμοιο δίκτυο φιλοϊσραηλινών λογαριασμών που δραστηριοποιούνταν στο Facebook, το Instagram και το X μετά την έναρξη του πολέμου στη Γάζα. Αυτό το δίκτυο στόχευε πολιτικούς των ΗΠΑ με μηνύματα κατά της Υπηρεσίας Αρωγής και Έργων των Ηνωμένων Εθνών (UNRWA). Στόχευε επίσης καναδικά μέσα ενημέρωσης με ισλαμοφοβικό περιεχόμενο. Μετά την έρευνα του DFRLab, η Meta ανακοίνωσε την αφαίρεση περισσότερων από πεντακόσιους λογαριασμούς στο Facebook, έντεκα σελίδες, μία ομάδα και τριάντα δύο λογαριασμούς στο Instagram, ενώ συνέδεσε το δίκτυο με την ισραηλινή εταιρεία πολιτικού μάρκετινγκ και επιχειρηματικών πληροφοριών Stoic. Το OpenAI διαπίστωσε επίσης ότι το δίκτυο χρησιμοποίησε τα εργαλεία τεχνητής νοημοσύνης της πλατφόρμας για τη δημιουργία περιεχομένου για την εκστρατεία. Οι New York Times, η Haaretz, και το FakeReporterέγραψαν ότι το Υπουργείο Υποθέσεων Διασποράς του Ισραήλ είχε χρηματοδοτήσει τις ενέργειες της Stoic.
Προς το παρόν είναι άγνωστο αν το νέο δίκτυο έχει συνδέσεις και με προηγούμενες εκστρατείες, ή αν απλώς η Stoic ακολούθησε παρόμοιες τακτικές και στόχους με αυτές.
Τα προφίλ είχαν δημιουργηθεί με τεχνητή νοημοσύνη
Οι λογαριασμοί του δικτύου χρησιμοποιούσαν συνήθως φωτογραφίες που είχαν παραχθεί με τεχνητή νοημοσύνη μέσω γεννητικών ανταγωνιστικών δικτύων (GAN). Το DFRLab μέτρησε τουλάχιστον 35 λογαριασμούς που χρησιμοποιούσαν εικόνες που δημιουργήθηκαν μέσω GAN και δεκαοκτώ λογαριασμούς που χρησιμοποιούσαν δημόσια διαθέσιμες φωτογραφίες που εντοπίστηκαν μέσω αντίστροφης αναζήτησης εικόνων, συμπεριλαμβανομένων εικόνων που ελήφθησαν από τα προφίλ άλλων χρηστών του X.
Οι εικόνες που δημιουργούνται μέσω GAN έχουν συνήθως συγκεκριμένα λάθη και μπορούν να εντοπιστούν από ένα εκπαιδευμένο μάτι, όπως για παράδειγμα διαφορετικά σκουλαρίκια, σφάλματα στις λεπτομέρειες των μαλλιών και μη αντιστοιχισμένες αντανακλάσεις φωτός στα μάτια- τείνουν επίσης να τοποθετούν τα μάτια στην ίδια θέση σε όλες τις εικόνες. Όλα αυτά τα χαρακτηριστικά ήταν παρόντα στις εικόνες που χρησιμοποιήθηκαν από το δίκτυο της Stoic. Επιπλέον, οι ιστότοποι και τα εργαλεία που δημιουργούν τέτοιες εικόνες δωρεάν συχνά προσθέτουν ένα υδατογράφημα στις εικόνες που δημιουργούνται. Τα εν λόγω δίκτυα για να αποφύγουν τον εντοπισμό συνήθως αφαιρούν αυτά τα υδατογραφήματα, αλλά τουλάχιστον τέσσερις λογαριασμοί σε αυτό το δίκτυο ξέχασαν να το κάνουν- καθένας από αυτούς εμφάνιζε το ίδιο υδατογράφημα στην κάτω δεξιά γωνία των avatars, γεγονός που υποδηλώνει ότι δημιουργήθηκαν με το ίδιο εργαλείο.Επιπλέον, αρκετοί λογαριασμοί που δημιουργήθηκαν τον Ιούνιο του 2016 φαίνεται να χρησιμοποιούν εικόνες που δημιουργήθηκαν με τεχνητή νοημοσύνη χωρίς τη χρήση GAN. Αυτές οι εικόνες είναι συχνά πιο ρεαλιστικές ή σε καλλιτεχνικό στυλ, που θεωρητικά θα μπορούσαν να έχουν δημιουργηθεί από ανθρώπους […]. Επιπλέον, τα τυπογραφικά λάθη προκύπτουν συχνά στις εικόνες που δημιουργούνται με τεχνητή νοημοσύνη. Για παράδειγμα, ένας από τους λογαριασμούς, ο @chrislaz87, χρησιμοποίησε μια φωτογραφία ενός άνδρα που φοράει λευκό μπλουζάκι με τη λέξη «TRUIP», πιθανώς τυπογραφικό λάθος για τη λέξη «Trump».
Άλλοι λογαριασμοί, όπως οι @MeriWharton18 και @PhylissGalvin, χρησιμοποίησαν φωτογραφίες αρχείου και δημόσια διαθέσιμες εικόνες για τα avatars τους. Τα προφίλ δημιουργήθηκαν με διαφορά λεπτών το ένα από το άλλο στις 30 Απριλίου 2024 -κατά τη στιγμή της δημοσίευσης είχαν ήδη ανασταλεί για παραβίαση των κανόνων της πλατφόρμας.
Είναι επίσης πιθανό κάποιοι λογαριασμοί να χρησιμοποίησαν τεχνητή νοημοσύνη για τη δημιουργία σύντομων περιγραφών για τα βιογραφικά τους. Για παράδειγμα, ο @Jonah__Ruben και ο @Sam_Bome είχαν και οι δύο βιογραφικά με παρόμοιο κείμενο που έλεγε ότι υποστηρίζουν «την ασφάλεια και την ευημερία του Ισραήλ». Και τα δύο βιογραφικά είχαν την ισραηλινή σημαία και emojis περιστέρι- αξιοσημείωτο είναι ότι είχαν επίσης εισαγωγικά στην αρχή των βιογραφικών τους, γεγονός που υποδηλώνει ότι το κείμενο μπορεί να έχει αντιγραφεί από άλλη πηγή.
Ψεύτικοι Αμερικανοί, Καναδοί και Βρετανοί, ω, Θεέ μου!
Αν κρίνουμε από τις τοποθεσίες που αναγράφονται στα βιογραφικά τους, οι περισσότεροι λογαριασμοί του δικτύου προσπάθησαν να παρουσιαστούν ως Αμερικανοί ή κάτοικοι πόλεων των ΗΠΑ. Χρησιμοποιούσαν επίσης κοινά αμερικανικά επώνυμα. Τουλάχιστον δύο λογαριασμοί, ο @RivkeeAshford και ο @Chai4Ashburn, ισχυρίστηκαν ως τόπο διαμονής τους τις πόλεις Ashford και Ashburn.
Επιπλέον, είκοσι λογαριασμοί χρησιμοποίησαν τόσο την ισραηλινή όσο και την αμερικανική σημαία δίπλα στα ονόματά τους. Άλλοι, όπως οι @PeggyWinnipeg και @Hennes1Theresia, χρησιμοποίησαν τα emojis της ισραηλινής και της καναδικής σημαίας. Οι λογαριασμοί χρησιμοποιούσαν επίσης αυτά τα emoji συχνά στα βιογραφικά τους.
Στοιχεία πλαστογραφίας
Χρησιμοποιώντας το εργαλείο Twitter ID Finder and Converter, το DFRLab διερεύνησε τις ημερομηνίες δημιουργίας των λογαριασμών στο δίκτυο, αποκαλύπτοντας έναν ύποπτο αριθμό λογαριασμών που δημιουργήθηκαν σε σύντομο χρονικό διάστημα, ορισμένοι μόλις τον Μάιο του 2024. Συγκεκριμένα, περισσότεροι από είκοσι λογαριασμοί δημιουργήθηκαν τον Ιούνιο και τον Ιούλιο του 2016, οκτώ στις 30 Απριλίου 2024 και πέντε στις 7 Μαΐου 2024.
Πολλοί από τους λογαριασμούς που δημιουργήθηκαν το 2016 και το 2022 ήταν ιδιαίτερα ύποπτοι, καθώς φαίνεται ότι ήταν αδρανείς για χρόνια πριν ενεργοποιηθούν ξανά κατά τη διάρκεια παρόμοιων ημερομηνιών. Σε αυτούς συμπεριλαμβάνονται οι λογαριασμοί @RivkeeAshford-δημιουργήθηκε στις 7 Ιουνίου 2016- και ο πλέον ανασταλμένος @PastorCurtisTX, που δημιουργήθηκε στις 8 Ιουνίου 2016. Κανένας από τους δύο δεν είχε αναρτήσεις μέχρι τις 21 Ιανουαρίου 2024, οπότε και άρχισαν να αναρτούν με διαφορά τεσσάρων λεπτών. Άλλοι λογαριασμοί είχαν παλαιότερες προσωπικές αναρτήσεις, γεγονός που υποδηλώνει ότι ανήκαν σε πραγματικούς χρήστες, οι λογαριασμοί των οποίων μπορεί να έχουν υποκλαπεί, πουληθεί ή επαναχρησιμοποιηθεί. Αυτή ήταν η περίπτωση του λογαριασμού @KatzTalia613, ενός λογαριασμού που δημοσίευσε περιστασιακά το 2023- μια τέτοια ανάρτηση έδειχνε μια αφίσα με κείμενο στη βεγγαλική γλώσσα που υποστήριζε ένα πολιτικό κίνημα στο Μπαγκλαντές […].
Κατά τη διάρκεια της έρευνάς του, το DFRLab παρατήρησε τουλάχιστον πέντε λογαριασμούς να αλλάζουν τα μοναδικά username τους (handles) από αλφαριθμητικά σε πιο προσωποποιημένα, ώστε να ταιριάζουν με τα ονόματά τους, προφανώς για να φαίνονται πιο αυθεντικά.
Οι θεματικές του ψηφιακού στρατού του Ισραήλ
Το νέο δίκτυο που εντοπίστηκε από το DFRLab επικεντρώθηκε στην αναδημοσίευση, απάντηση και like σε αναρτήσεις που υποστηρίζουν το Ισραήλ προερχόμενες από πραγματικούς λογαριασμούς είτε ατόμων είτε φορέων. Το περιεχόμενο που προωθούσαν κάλυπτε ένα ευρύ φάσμα θεμάτων, όπως η πολιτική των ΗΠΑ έναντι του Ισραήλ, οι ισραηλινοί όμηροι που απήχθησαν από τη Χαμάς, η υποστήριξη της ισραηλινής κυβέρνησης και του ισραηλινού στρατού, η κριτική στα Ηνωμένα Έθνη και την UNRWA, το ισλαμοφοβικό περιεχόμενο και άλλα θέματα. Οι λογαριασμοί του δικτύου δημιουργούσαν επίσης περιστασιακά πρωτότυπες αναρτήσεις σχετικές με τα ίδια θέματα.
Αξίζει να σημειωθεί ότι το δίκτυο συχνά αναρτούσε και προωθούσε περιεχόμενο που περιελάμβανε γραφικά με υδατογράφημα που χρησιμοποιούσε μια ομάδα διαδικτυακών λογαριασμών στο Χ, με την ονομασία «Ψηφιακός Στρατός του Ισραήλ» (IDA). Ένας ιστότοπος με το όνομα τομέα IsraelDigitalArmy.com ανακατεύθυνε προηγουμένως τους χρήστες σε μια φόρμα Google με τίτλο «Israel Digital Army Volunteer Form», η οποία δημιουργήθηκε «για την εύρεση εθελοντών και την οργάνωση των δεξιοτήτων των ανθρώπων με τον αποτελεσματικότερο δυνατό τρόπο». Η φόρμα ανέφερε ότι ο στόχος του IDA είναι «να κινητοποιήσει τους υποστηρικές του Ισραήλ από όλο τον κόσμο για να πολεμήσουν στην πρώτη γραμμή της μάχης του Ισραήλ – στον πόλεμο των ιδεών». Η ιστοσελίδα ανακατευθύνει τώρα στο Thelandofisraelpin.com, το οποίο πουλάει καρφίτσες με κίτρινη κορδέλα σε ένδειξη αλληλεγγύης στους Ισραηλινούς ομήρους που κρατούνται στη Γάζα.
Ένα παράδειγμα της δραστηριότητας αυτού του δικτύου είναι μια ανάρτηση του Avi Abelow. Η ανάρτηση επέκρινε τη διοίκηση Μπάιντεν επειδή δεν παρείχε επαρκή υποστήριξη στο Ισραήλ, προσθέτοντας: «ελπίζοντας ότι οι άνθρωποι εδώ στην Αμερική θα ξυπνήσουν και θα δουν την αλήθεια για τη σημερινή μας “διοίκηση”».
Τον Μάιο του 2024, ένας άλλος λογαριασμός του δικτύου, ο οποίος έχει πλέον ανασταλεί, ανέβασε ένα κείμενο στο Twitter, το οποίο απεικόνιζε τα δυτικά έθνη να υποστηρίζουν το Ισλάμ με τρόπο επιζήμιο για αυτά. «Λυπάμαι που βλέπω την Αμερική να πηγαίνει προς τα εκεί, και πηγαίνει γρήγορα», έγραφε η ανάρτηση. «Η απόδειξη αυτού, τα αμερικανικά μας πανεπιστήμια». Τον ίδιο μήνα, ένας τρίτος λογαριασμός του δικτύου έγραψε στο Twitter μια άλλη ανάρτηση που επιβεβαίωνε την αμερικανική υποστήριξη προς το Ισραήλ.
 
Σε άλλες περιπτώσεις, λογαριασμοί από το δίκτυο δημιούργησαν πρωτότυπες αναρτήσεις που περιείχαν γραφικά με το υδατογράφημα της IDA. Για παράδειγμα, οι λογαριασμοί @RafiRaSlatovik και @KevinLarryDavid δημοσίευσαν δύο διαφορετικάγραφικά καρτούν στις 31 Μαΐου 2024, καθένα από τα οποία περιείχε το υδατογράφημα στην κάτω αριστερή γωνία. Αυτά τα σκίτσα διακωμώδησαν την προσωρινή προβλήτατου αμερικανικού στρατού στη Γάζα και το ειρηνευτικό σχέδιο τριών φάσεων του προέδρου Μπάιντεν.
Ο λογαριασμός @RafiRaSlatovik ήταν από τους πιο δυναμικούς όσον αφορά την έκφραση κομματικών απόψεων. Στις 5 Μαΐου 2024, επέκρινε τον πρόεδρο Μπάιντεν, γράφοντας: «Ναι, το ποτέ ξανά είναι τώρα (ανάφέρεται στη φράση “Never again is now” του Νετανιάχου), παρόλο που ο Τζο Μπάιντεν φαίνεται να υποστηρίζει: “Ξανά μόλις η Χαμάς ανακτήσει τη βάση της”». Την επόμενη ημέρα, κατηγόρησε το Κογκρέσο των ΗΠΑ ότι δεν είναι αρκετά φιλοϊσραηλινό: «Ναι, έχει σημασία για μένα να είναι το Κογκρέσο υπέρ του Ισραήλ, αλλά θα πρέπει να έχει σημασία και για το Κογκρέσο, γιατί αν δεν είναι, το Κογκρέσο θα είναι αυτό που θα σβήσει, όχι το Ισραήλ!». Λιγότερο από δέκα λεπτά αργότερα, υποστήριζε την εθνοκάθαρση της Γάζας, γράφοντας: «Ναι, κάντε τη Γάζα ξανά εβραϊκή και μετά κάντε όλο το Ισραήλ ασφαλές για τους Εβραίους, από το ποτάμι μέχρι τη θάλασσα!».
Ορισμένοι λογαριασμοί ασχολήθηκαν επίσης με αναρτήσεις που επιτίθενται στα Ηνωμένα Έθνη και την UNRWA. Παραδείγματα περιλαμβάνουν αναδημοσιεύσεις αποσπασμάτων από τον @derrickinaround και τον @investwithcolby, με διαφορά λίγων λεπτών στις 26 Μαΐου 2024, υποστηρίζοντας ότι η UNRWA και τα Ηνωμένα Έθνη υποστηρίζουν τρομοκράτες μετά από το νομοσχέδιο του ισραηλινού κοινοβουλίου που θα χαρακτήριζε την UNRWA τρομοκρατική οργάνωση.
Άλλα μηνύματα επικεντρώθηκαν στην κριτική των προτάσεων για τη λύση των δύο κρατών. Στις 2 Μαΐου, ο λογαριασμός @HaviBernstein παρέθεσε ένα άλλο μήνυμα ενός πρώην στρατιώτη των IDF, γράφοντας: «Εάν εκλεγεί ο Τραμπ, η λύση των δύο κρατών θα είναι νεκροταφείο». Άλλοι εξέφρασαν ευνοϊκές απόψεις για τον πρώην πρόεδρο Ντόναλντ Τραμπ: «Όλα θα πάνε καλά, όπως συμβαίνει πάντα. Πιστεύω ότι ο κ. Τραμπ θα μείνει στην ιστορία για όλα τα καλά που έκανε για τον αμερικανικό λαό», έγραψε ο @ryanairmilehigh σε νήμα σχετικά με τη διατήρηση της υποστήριξης προς το Ισραήλ.
Εκτός από τα retweets και τα likes, οι λογαριασμοί συχνά απαντούσαν και σε αναρτήσεις. Για παράδειγμα, πέντε λογαριασμοί απάντησαν σε μια ανάρτηση του @aviabelow μέσα σε λιγότερο από μία ώρα. Αξίζει να σημειωθεί ότι αυτές οι απαντήσεις έλαβαν παρόμοιο αριθμό likes, ενώ κάποιες από αυτές προέρχονταν και από άλλους λογαριασμούς του δικτύου.
Ενώ οι λογαριασμοί επικεντρώνονταν κυρίως σε αναδημοσιεύσεις και like αναρτήσεων άλλων φιλοϊσραηλινών λογαριασμών ή λογαριασμών του δικτύου, ορισμένες πρωτότυπες αναρτήσεις κατάφεραν να φτάσουν σε διαφορετικά ακροατήρια εκτός του δικτύου και έλαβαν σημαντική υποστήριξη από αυθεντικούς λογαριασμούς εκτός του δικτύου. Για παράδειγμα, μια ανάρτηση του @IsraelWillWin_ προβλήθηκε πάνω από 90.000 φορές και έλαβε χιλιάδες απαντήσεις και likes.
Παρομοίως, μια άλλη ανάρτηση από τον λογαριασμό @kimcohenCA, έναν λογαριασμό που ισχυρίζεται ότι είναι «Γαλλικής καταγωγής Καναδός που ζει στο Μόντρεαλ», αλλά χρησιμοποιεί κλεμμένο avatar, προβλήθηκε πάνω από 1,1 εκατομμύρια φορές. Αυτός ο λογαριασμός είχε αρκετές αναρτήσεις που έφτασαν σε χιλιάδες χρήστες και ΄΄έλαβαν υποστήριξη από αυθεντικούς χρήστες της πλατφόρμας, συμπεριλαμβανομένης μιας περίπτωσης στην οποία η δημοσίευση κατακεραύνωσε τον Πρόεδρο Μπάιντεν και τον ΟΗΕ, γράφοντας: «Τίποτα δεν θα μας κρατήσει πίσω. Ο Μπάιντεν, ο ΟΗΕ και όλος ο κόσμος αδυνατούν να συνειδητοποιήσουν ότι το Ισραήλ έχει τη δύναμη του Σαμψών. Τα σχοινιά τους είναι άχρηστα σε σύγκριση με τη δύναμη που μας έδωσε ο Θεός». Αυτό το tweet συνοδευόταν από μια εικόνα του ψηφιακού στρατού του Ισραήλ που επίσης έφερε το σύνθημα: «Τίποτα δεν θα μας κρατήσει πίσω». Η ανάρτηση έλαβε περισσότερες από 93.000 προβολές.
Σημείωση του συντάκτη: Το «Αλί Τσενρόουζ» είναι ψευδώνυμο που χρησιμοποιείται από τους συνεργάτες του DFRLab σε ορισμένες περιπτώσεις για λόγους ασφαλείας.