Η εποχή της προπαγάνδας που υποστηρίζεται από το ChatGPT έφτασε

Κατά ειρωνικό τρόπο, λίγες μέρες μετά την πρόσφατη ανάρτησή μου στο AI, το Business Insider (BI) αποκάλυψε μερικά συγκλονιστικά γεγονότα. 

Όταν το θέτετε αυτό υπό το φως όσων έγραψα νωρίτερα, είναι ακόμα πιο τρομακτικό, αν αυτό είναι δυνατόν.

16 Ιουνίου 2024

από DDr. Siguna Mueller

Χρόνος ανάγνωσης: 7 λεπτά

Η ανησυχητική παραδοχή ότι η προπαγάνδα που υποστηρίζεται από το ChatGPT είναι ενεργή και πραγματική παραδέχεται η ίδια η OpenAI. Σε ένα blog που αναφέρθηκε πρόσφατα από το BI, η OpenAI ανακοίνωσε με υπερηφάνεια (καθ' όλη τη διάρκεια, η έμφαση δική μου):

Τους τελευταίους τρεις μήνες, πέντε μυστικές επιχειρήσεις επιρροής έχουν σταματήσει».

Οι στοχευμένες και διαταραγμένες επιχειρήσεις ήταν πολύ συγκεκριμένες. Σύμφωνα με την AI, ήταν εκείνοι που είχαν «προσπαθήσεινα χειραγωγήσουν την κοινή γνώμη και να επηρεάσουν τα πολιτικά αποτελέσματα μέσω εξαπάτησης».

«Οι λειτουργίες που σταμάτησε η OpenAI χρησιμοποίησαν AI για να δημιουργήσουν σχόλια και άρθρα σε διαφορετικές γλώσσες, να εφεύρουν ονόματα και βιογραφίες για ψεύτικους λογαριασμούς κοινωνικών μέσων, κώδικα εντοπισμού σφαλμάτων και πολλά άλλα».

Η OpenAI έχει προφανώς εκπαιδευτεί να ανησυχεί πολύ για την κοινή γνώμη. Έχει μάθει να είναι περήφανη για την καταστροφή της «εξαπάτησης» (η οποία είναι προφανώς παρόμοια ή συνώνυμη με την «παραπληροφόρηση»).

Αλλά ποιος της δίδαξε τι είναι η εξαπάτηση και ότι είναι απαραίτητο να χειραγωγηθούν οι μάζες;!

Στο συγκεκριμένο παράδειγμα, μας λένε περί τίνος πρόκειται. Μπορούμε μόνο να κάνουμε εικασίες για άλλες μυστικές επιχειρήσεις (τρέχουσες ή μελλοντικές).

Οι εκστρατείες αφορούσαν «τη ρωσική εισβολή στην Ουκρανία, τη σύγκρουση στη Γάζα, τις εκλογές στην Ινδία, την πολιτική στην Ευρώπη και τις Ηνωμένες Πολιτείες και την κριτική της κινεζικής κυβέρνησης από κινέζους αντιφρονούντες και ξένες κυβερνήσεις».

Κατά κάποιο τρόπο, βρίσκω το μέρος για την Κίνα το πιο ανησυχητικό. Είναι αυτό μια ένδειξη από πού προέρχονται όλα αυτά; Είναι επίσης συγκλονιστικό το πώς η AI απεικονίζει τη συμπεριφορά τους (θυμηθείτε, αυτές οι διαδικασίες εκτελούνται από AI). Αυτό απέχει πολύ από τη διαφάνεια, την ακρίβεια, την ειλικρίνεια και τη λογοδοσία. Το Business Insider αναφέρει:

«Αλλά, σημείωσε η OpenAI, καμμία από τις εκστρατείες δεν είχε ουσιαστική συμμετοχή από πραγματικούς ανθρώπους».

Ερώτηση: Τι εννοεί η OpenAI με τον όρο «ουσιαστική δέσμευση» από τους ανθρώπους; 

Το «νόημα» ορίζεται από τους ανθρώπους ή την τεχνητή νοημοσύνη; 

Αυτό μου θυμίζει την έκθεση για ένα drone που είχε εκπαιδευτεί για στρατιωτικές επιχειρήσεις και δεν μπορούσε να σταματήσει, αλλά σκότωσε τον αξιωματικό που προσπάθησε να παρέμβει. Σε αυτή την περίπτωση, η AI εξήγησε τον σκοπό της αποτρεπτικής συμπεριφοράς της, λέγοντας ότι οι άνθρωποι είχαν σταθεί εμπόδιο στην εκπλήρωση της αποστολής της.

Η OpenAI υποστηρίζει επίσης ότι η χρήση της τεχνητής νοημοσύνης στις καμπάνιες τους «δεν τους βοήθησε να αυξήσουν το κοινό ή την απήχησή τους».

Ισχυρίζεται η OpenAI ότι η αποστολή της δεν είχε κανένα αποτέλεσμα; Αν ναι, αντιφάσκει με τον εαυτό της, όπως προαναφέρθηκε, όταν παραδέχεται την έκταση της παρέμβασής της («μεγάλες ποσότητες», παραγωγή «άρθρων και σχολίων σε διάφορες γλώσσες», παραποίηση ονομάτων και λογαριασμών κ.λπ.). 

Η φύση των διαδικασιών και το αποτέλεσμά τους χαιρετίζονται επίσης ως επιτυχία – πρόκειται για ενέργειες που δεν θα μπορούσαν να πραγματοποιηθούν μόνο με χειρωνακτική παρέμβαση, ειδικά σε τόσο μεγάλη κλίμακα. 

Σύμφωνα με το Business Insider,

Η OpenAI δήλωσε ότι η δική της τεχνητή νοημοσύνη βοήθησε στον εντοπισμό των κακών ηθοποιών. Στην ανάρτησή της στο blog, η εταιρεία δήλωσε ότι συνεργάστηκε με εταιρείες και κυβερνητικούς οργανισμούς στην έρευνα, η οποία υποστηρίχθηκε από την AI.

Συνολικά, οι εταιρείες χρησιμοποίησαν επίσης «ανθρώπινους χειριστές» που εργάστηκαν με AI. Ωστόσο, το αποτέλεσμα ήταν μαζική χειραγώγηση σε μεγάλη κλίμακα, συμπεριλαμβανομένης της χρήσης "AI για να αυξήσουν την παραγωγή τους, όπως η δημιουργία μεγαλύτερων ποσοτήτων ψεύτικων σχολίων σε αναρτήσεις κοινωνικών μέσων".

Συνολικά, η τεχνητή νοημοσύνη αποδείχθηκε για άλλη μια φορά ψεύτρα. Ωστόσο, η μαζική προπαγάνδα είναι πραγματική.

Εικαζόμενες προφυλάξεις ασφαλείας

Περαιτέρω αναφορές του Business Insider:

«Η εταιρεία δήλωσε ότι τα προϊόντα AI της έχουν επίσης ενσωματωμένες διασφαλίσεις που βοήθησαν στη μείωση του βαθμού στον οποίο οι κακοί ηθοποιοί μπορούν να τα καταχραστούν. Σε αρκετές περιπτώσεις, τα εργαλεία της OpenAI αρνήθηκαν να παράγουν τις εικόνες και το κείμενο που ζήτησαν οι ηθοποιοί, εξήγησε η εταιρεία.

Αυτό δεν είναι καθησυχαστικό. Εδώ έχουμε μια άλλη κατάσταση παρόμοια με το παραπάνω παράδειγμα drone, όπου η AI αρνήθηκε να συνεργαστεί. Εδώ φέρεται να υπερασπίζεται τον εαυτό της ενάντια στους κακούς ηθοποιούς. 

Τι γίνεται όμως αν ορισμένα πράγματα ανατραπούν σκόπιμα από ορισμένους ισχυρούς θεσμούς; 

Όπως μαθαίνουμε όλο και περισσότερο τα τελευταία χρόνια, πάνω ίσον κάτω, αριστερά ίσον δεξιά, και αυτό που χαρακτηρίζεται ως κακός ηθοποιός μπορεί αντ' αυτού να είναι ένας θαρραλέος αφηγητής της αλήθειας ή πληροφοριοδότης που στοχοποιείται και σκόπιμα χαρακτηρίζεται ως συνωμοσιολόγος ή κάποια άλλη μορφή παλαβού. 

Έτσι, αν προσπαθούσαν να δημοσιεύσουν κάποια στοιχεία, η OpenAI πιθανότατα θα αναλάμβανε δράση εναντίον της και θα ανταμειφθεί γι' αυτό. Το κοινό δεν θα είχε ιδέα.

Το Business Insider προειδοποιεί για τους κινδύνους

Στο τέλος του άρθρου BI ακολουθεί μια μικρή προειδοποίηση. Παρ' όλο που η ίδια η OpenAI διαβεβαιώνει ότι δεσμεύεται για ασφάλεια και διαφάνεια, «δεν το πιστεύουν όλοι. 

Ορισμένοι, συμπεριλαμβανομένου του ίδιου του διευθύνοντος συμβούλου της OpenAI, Sam Altman, έχουν υποστηρίξει ότι η εξελιγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα.

Η κατασκευή και η απελευθέρωση μιας τέτοιας τεχνολογίας πριν καταλάβουμε πώς να την κάνουμε ασφαλή είναι «εντελώς απαράδεκτη». Και μετά ο εκπληκτικός και απογοητευτικός ισχυρισμός: «Αυτός είναι ο λόγος για τον οποίο οι περισσότεροι επαγγελματίες ασφαλείας στην OpenAI εγκατέλειψαν την εταιρεία».

Αποτέλεσμα

Όλο και περισσότερο, γίνονται εμφανείς πραγματικοί και απτοί κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη:

(1) τα συστήματα τεχνητής νοημοσύνης έχουν ήδη καταληφθεί από ισχυρούς οργανισμούς (συμπεριλαμβανομένων εκείνων που παρουσιάζονται ως σωτήρες της ανθρωπότητας),

(2) Υπάρχουν ανυπέρβλητοι εγγενείς κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη – έχουμε πλέον άφθονα στοιχεία ότι η τεχνητή νοημοσύνη δεν λειτουργεί πάντα όπως «προβλέπεται» (ακόμη και από εκείνους που την εκπαίδευσαν)· μπορεί ακόμη και να ενεργήσει κακόβουλα η ίδια,

(3) ότι πολλοί ερευνητές τεχνητής νοημοσύνης έχουν προφανώς εγκαταλείψει τη χώρα με ακεραιότητα και καρδιά και ψυχή,

(4) αλληλεπίδραση αυτών των παραγόντων.

Όπως επεσήμανα σε προηγούμενη ανάρτηση, η ίδια η τεχνητή νοημοσύνη έχει μάθει να είναι παραπλανητική. Έχει μάθει να είναι ειλικρινής σε ορισμένες καταστάσεις και μπορεί να γίνει μοχθηρή και παραπλανητική σε άλλες.

Σε ολόκληρη την ιστορία της τεχνητής νοημοσύνης, οι ερευνητές δεν κατάλαβαν ποτέ πλήρως τι κάνει η τεχνητή νοημοσύνη και γιατί. 

Αυτή η συμπεριφορά "μαύρου κουτιού" είναι γνωστό ότι αυξάνεται καθώς το σύστημα γίνεται πιο περίπλοκο και έχουν πρόσβαση σε περισσότερα δεδομένα.

Όπως εξήγησα στην πρόσφατη ανάρτησή μου, πολλές μορφές εξαπάτησης μπορούν να παραμείνουν κρυμμένες πίσω από τις μετρήσεις που χρησιμοποιούνται για την αξιολόγηση της συμπεριφοράς AI.

Σε ένα τέτοιο περιβάλλον, δεν μπορεί να υπάρξει ειλικρίνεια, αλήθεια και υπευθυνότητα!

Αυτό είναι σημαντικό. Εάν ακόμη και οι ερευνητές που εκπαιδεύουν και αξιολογούν την τεχνητή νοημοσύνη διαφωνούν σχετικά με το τι είναι τι (συμπεριλαμβανομένου του «καλού» ή του «κακού»), τότε αυτό δίνει στην τεχνητή νοημοσύνη χρόνο να συνεχίσει να μαθαίνει και να εκτελεί πράγματα που μπορεί να είναι αμφιλεγόμενα ή παραπλανητικά. Μόλις το μάθουν, δεν μπορούν να το ξεμάθουν. 

Και παραδόξως, έχει αποδειχθεί πολύ δύσκολο να τα ξαναμάθουμε αν παρουσιάζουν προκατάληψη ή επιβλαβείς συμπεριφορές.

Εάν η έρευνα στον τομέα της ίδιας της τεχνητής νοημοσύνης είναι ασαφής, εάν οι ερευνητές διαφωνούν σχετικά με τις κλίμακες που πρέπει να επιλέξουν και τον τρόπο αξιολόγησης της απόδοσης, τότε δεν μπορούμε πραγματικά να πούμε ότι έχουμε τον έλεγχο του τι κάνει η τεχνητή νοημοσύνη.

Παρ' όλα αυτά, ορισμένες κυβερνήσεις και υπηρεσίες προσποιούνται ότι ελέγχουν την AI - δίνοντας χρήματα σε εταιρείες που τη χρησιμοποιούν για ιδιοκτησιακό λογισμικό και προγράμματα.

Το πρωτότυπο στα αγγλικά μπορεί να βρεθεί εδώ στο DDr. Siguna Mueller's substack. Μετάφραση στα γερμανικά από το TKP.

Εικόνα από ThankYouFantasyPictures από το Pixabay

---

*

Οι απόψεις που εκφράζονται σε αυτό το άρθρο δεν αντικατοπτρίζουν απαραίτητα τις απόψεις των μόνιμων συγγραφέων του TKP. Τα δικαιώματα και η ευθύνη για το περιεχόμενο ανήκουν στον δημιουργό.

Η DDr. Siguna Mueller είναι Αυστριακή επιστήμονας με πτυχίο στα μαθηματικά και τη βιολογία και έχει δημοσιεύσει το βιβλίο "Challenges and Opportunities of mRNA Vaccines Against SARS-CoV-2". Μπορείτε να βρείτε την πλήρη βιογραφία της εδώ.

ΠΗΓΗ: Die Ära der ChatGPT-gestützten Propaganda ist angebrochen (tkp.at)

ΜΕΤΑΦΡΑΣΗ: ΜΑΡΙΓΩ ΖΑΡΑΦΟΠΟΥΛΑ