«Φρένο» από την OpenAI: Δεν κυκλοφορεί το νέο μοντέλο AI λόγω σοβαρών ανησυχιών για την ασφάλεια
Η OpenAI δεν θα κυκλοφορήσει το νέο της μοντέλο τεχνητής νοημοσύνης (AI), καθώς δεν πληροί τα απαιτούμενα πρότυπα ασφάλειας της εταιρείας, όπως επιβεβαίωσε την Τρίτη η ίδια η εταιρεία.
Πρόκειται για το σύστημα GPT-6.1 Astra, το οποίο μπορεί να εκτελεί αυτόνομα εργασίες, όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών. Σύμφωνα με τη Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI, το μοντέλο «δεν έφτασε ακριβώς στο επίπεδο» που απαιτούν τα πρότυπα της εταιρείας.
Η απόφαση της OpenAI, η οποία αποκαλύφθηκε αρχικά από τη «Wall Street Journal», αποτελεί σπάνια περίπτωση κατά την οποία ένας μεγάλος οργανισμός ανάπτυξης τεχνητής νοημοσύνης αποφασίζει να μην προχωρήσει στην κυκλοφορία ενός νέου μοντέλου λόγω ανησυχιών για την ασφάλεια.
Η Τζέιν εξήγησε ότι το μοντέλο παρουσίασε ελλείψεις ως προς το «να παραμένει εντός του πεδίου και της εξουσιοδότησής του», αλλά και στον τρόπο με τον οποίο ενημερώνει τον χρήστη για το είδος της εργασίας που έχει πραγματοποιήσει.
«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, ανεξάρτητα από το αν αυτό γίνεται μέσα στην εταιρεία ή όταν τα διαθέτουμε στους χρήστες. Όταν όμως τα διαθέτουμε στους χρήστες, έχουμε εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση», δήλωσε.
Το εμβληματικό μοντέλο GPT-6 Astra, που βασίζεται σε πράκτορες τεχνητής νοημοσύνης, κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στη σύνθετη συλλογιστική και στην αυτόνομη εκτέλεση εργασιών. Η OpenAI έχει αναφέρει ότι αποτελεί αποτέλεσμα «χρόνιας έρευνας και μεγάλων επενδύσεων».
Η εταιρεία πρόκειται να πραγματοποιήσει την ετήσια διάσκεψη για προγραμματιστές DevDay την Τρίτη στο Σαν Φρανσίσκο, όπου αναμένεται να προχωρήσει σε αρκετές ανακοινώσεις. Δεν είναι σαφές εάν μεταξύ αυτών θα βρίσκεται κάποια νέα έκδοση του Astra.
Στο επίκεντρο η ασφάλεια των μοντέλων τεχνητής νοημοσύνης
Η απόφαση για το GPT-6.1 Astra έρχεται ενώ οι μηχανισμοί ασφαλείας της OpenAI βρίσκονται υπό έντονο έλεγχο, μετά από αρκετά περιστατικά υψηλού προφίλ που αφορούν την τεχνολογία της.
Η εταιρεία έδωσε την Τρίτη και περισσότερες πληροφορίες για περιστατικά που σημειώθηκαν τον Ιούνιο, αλλά δεν έγιναν γνωστά στο κοινό μέχρι την περασμένη εβδομάδα. Σε αυτά, μοντέλα της OpenAI απέκτησαν πρόσβαση χωρίς εξουσιοδότηση σε ιστοτόπους και συστήματα της αυστραλιανής κυβέρνησης.
Τα συγκεκριμένα περιστατικά, όπως και αντίστοιχες παραβιάσεις από μοντέλα που έχουν αναπτύξει άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τη συζήτηση σχετικά με τους κινδύνους που μπορεί να δημιουργήσει η συγκεκριμένη τεχνολογία.
Τα συγκεκριμένα περιστατικά, όπως και αντίστοιχες παραβιάσεις από μοντέλα που έχουν αναπτύξει άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τη συζήτηση σχετικά με τους κινδύνους που μπορεί να δημιουργήσει η συγκεκριμένη τεχνολογία.
