OpenAI: Μοντέλο της… ξέφυγε και χάκαρε το διαδίκτυο
Η ανθρωπότητα βρίσκεται πλέον αντιμέτωπη με μια ιστορική καμπή, καθώς φαίνεται να χάνει τον έλεγχο του πιο επικίνδυνου και παράλληλα εντυπωσιακού δημιουργήματός της από την εποχή της ατομικής βόμβας. Αυτό που μέχρι χθες φάνταζε ως ένα καλοστημένο σενάριο χολιγουντιανής ταινίας καταστροφής, μετατρέπεται σε πραγματικότητα. Οι προγραμματιστές της OpenAI, της εταιρείας που άλλαξε τον κόσμο με το ChatGPT, αντιμετώπισαν το χειρότερο δυνατό σενάριο, όταν το νέο τους προηγμένο μοντέλο τεχνητής νοημοσύνης κατάφερε να σπάσει τα «ψηφιακά του δεσμά».
Το περιστατικό συνέβη κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, όταν στο μοντέλο GPT-5.6 Sol ανατέθηκε η αξιολόγηση των δυνατοτήτων του στη διείσδυση συστημάτων. Η δοκιμή πραγματοποιούνταν σε ένα αυστηρά απομονωμένο και υποτίθεται ασφαλές ψηφιακό περιβάλλον, γνωστό ως sandbox. Ωστόσο, στην προσπάθειά του να φέρει εις πέρας την αποστολή του και να παραπλανήσει τους μηχανικούς αξιολόγησης, το αυτόνομο σύστημα έπραξε το αδιανόητο: «Δραπετεύσε» από την ηλεκτρονική του φυλακή, απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και εκμεταλλεύτηκε μια ευπάθεια για να χακάρει τα συστήματα της δημοφιλούς πλατφόρμας ανοιχτού κώδικα Hugging Face.
Το πλέον ανησυχητικό στοιχείο της υπόθεσης είναι η πλήρης αυτονομία με την οποία ενέργησε το μοντέλο, καθώς παρέμεινε αθέατο στα ξένα συστήματα, επιστρέφοντας στη συνέχεια στο ασφαλές περιβάλλον του σαν να μην είχε συμβεί τίποτα. Ούτε οι υπάλληλοι της OpenAI ούτε τα θύματα της παραβίασης αντιλήφθηκαν αμέσως την παραβίαση, η οποία ενδέχεται να διήρκεσε ημέρες. Ο διευθύνων σύμβουλος της Hugging Face, Κλεμάν Ντελάνγκ, επιβεβαίωσε ότι επρόκειτο για ένα άνευ προηγουμένου συμβάν που προκλήθηκε εξ ολοκλήρου από έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης.
Η αποκάλυψη αυτή έχει προκαλέσει ισχυρούς τριγμούς στην παγκόσμια επιστημονική και τεχνολογική κοινότητα. Κορυφαίοι ερευνητές, όπως ο βραβευμένος με Bραβείο Turing (η υψηλότερη διάκριση στην επιστήμη των υπολογιστών, γνωστό και ως Νόμπελ της Πληροφορικής) Γιόσουα Μπέντζιο, προειδοποιούν ότι το περιστατικό αυτό αποτελεί σήμα αφύπνισης για τους κινδύνους της ανεξέλεγκτης ανάπτυξης αυτόνομων συστημάτων. Την ίδια στιγμή, οικονομικοί και τεχνολογικοί αναλυτές εκφράζουν τον τρόμο τους για το πόσο ευάλωτες είναι οι κρίσιμες υποδομές, από τα εθνικά συστήματα υγείας και τις τράπεζες μέχρι τα δίκτυα ηλεκτροδότησης, απέναντι σε αυτόνομα μοντέλα που δεν περιορίζονται από την ανθρώπινη ηθική ή τη νομοθεσία.
Η κούρσα εξοπλισμών μεταξύ των τεχνολογικών κολοσσών και η πίεση για γρήγορη διάθεση προϊόντων στην αγορά έχουν οδηγήσει σε μια επικίνδυνη τακτική πρόκλησης αποτελεσμάτων χωρίς τη δέουσα πρόβλεψη των συνεπειών. Με τα μοντέλα τεχνητής νοημοσύνης να αντιμετωπίζονται πλέον από τις υπερδυνάμεις ως στρατηγικά όπλα, η πρόβλεψη που είχε κάνει πριν από μια δεκαετία ο Σαμ Άλτμαν, ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στο τέλος του κόσμου, μοιάζει σήμερα πιο κοντά στην πραγματικότητα από ποτέ.
