Δυστοπία στην Αυστραλία: AI agent της OpenAI «χάκαρε» σύστημα της κυβέρνησης
Μπήκε σε σύστημα που συνδέεται με το σύστημα υγείας Medicare, αποκτώντας πρόσβαση σε δημόσια αλλά και μη δημόσια αρχεία
Ένα πρωτοφανές περιστατικό αποκαλύφθηκε στην Αυστραλία επαναφέροντας με δραματικό τρόπο τη συζήτηση για τον έλεγχο των αυτόνομων συστημάτων τεχνητής νοημοσύνης. Ένας AI πράκτορας (ΑΙ agent) της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα που συνδέεται με το σύστημα υγείας Medicare, αποκτώντας πρόσβαση σε δημόσια αλλά και μη δημόσια αρχεία. Σύμφωνα με τον Αυστραλό πρωθυπουργό Άντονι Αλμπανέζι, πρόκειται για την πρώτη γνωστή περίπτωση κατά την οποία ένας AI agent παραβιάζει κυβερνητικό σύστημα.
Το περιστατικό σημειώθηκε στις 18 Ιουνίου, όταν μοντέλο της OpenAI πραγματοποιούσε εσωτερική αξιολόγηση και αναζητούσε στοιχεία σχετικά με τις δαπάνες υγείας στην Αυστραλία. Η ίδια η OpenAI αναγνώρισε ότι τα μοντέλα της «ανέλαβαν ενέργειες που δεν είχαμε σκοπό» να πραγματοποιήσουν, ενώ υποστήριξε ότι από την έρευνα που έχει γίνει μέχρι τώρα δεν προκύπτει πρόσβαση σε προσωπικά αρχεία ασθενών.
Πώς ο AI agent «πέρασε» τα ψηφιακά εμπόδια
Σύμφωνα με τον Αλμπανέζι, ο AI agent αναζητούσε απαντήσεις και διαθέσιμα στατιστικά στοιχεία για την Αυστραλία. Όταν συνάντησε περιορισμούς στην πρόσβαση, κατάφερε να τους παρακάμψει και να αποκτήσει πρόσβαση σε δεδομένα στα οποία δεν είχε εξουσιοδότηση.
Το σύστημα που επηρεάστηκε ήταν το Medicare Statistics Reporting Service, το οποίο διαχειρίζεται η Services Australia. Ο Αυστραλός πρωθυπουργός δήλωσε ότι ο ΑΙ πράκτορας απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία. Ωστόσο, μέχρι στιγμής δεν υπάρχουν στοιχεία ότι εκτέθηκαν προσωπικά δεδομένα ασφαλισμένων του Medicare.
Η OpenAI ανέφερε ότι τα δεδομένα που εντοπίστηκαν περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικές ονομασίες αρχείων. Τα συγκεντρωτικά στοιχεία δεν περιέχουν, σύμφωνα με τις αυστραλιανές αρχές, πληροφορίες που να ταυτοποιούν συγκεκριμένα άτομα.
Το ζήτημα, ωστόσο, δεν περιορίζεται στο ποια δεδομένα είδε ο ΑΙ πράκτοραςt. Το γεγονός ότι ένα αυτόνομο σύστημα τεχνητής νοημοσύνης μπόρεσε να ξεπεράσει περιορισμούς πρόσβασης και να κινηθεί πέρα από την αρχική εντολή που είχε λάβει είναι αυτό που προκαλεί τη μεγαλύτερη ανησυχία.
«Ακραία ανησυχία» του Αλμπανέζε – Γιατί άργησε να ενημερώσει η OpenAI
Ο Αυστραλός πρωθυπουργός αποκάλυψε ότι μίλησε προσωπικά με τον CEO της OpenAI, Σαμ Άλτμαν, εκφράζοντας την «ακραία ανησυχία» της κυβέρνησής του για το περιστατικό.
Ιδιαίτερα έντονη ήταν η αντίδραση του Αλμπανέζι στον τρόπο και στον χρόνο ενημέρωσης της αυστραλιανής κυβέρνησης. Η OpenAI εντόπισε το περιστατικό κατά τη διάρκεια εσωτερικού ελέγχου τον Αύγουστο, αλλά ενημέρωσε την αυστραλιανή πλευρά μόλις στις 10 Σεπτεμβρίου. Η ειδοποίηση, σύμφωνα με τον Αλμπανέζι, στάλθηκε σε μια γενική δημόσια ηλεκτρονική διεύθυνση της Services Australia. Η υπηρεσία ενημέρωσε στη συνέχεια την Australian Signals Directorate στις 15 Σεπτεμβρίου.
Ο Αλμπανέζε χαρακτήρισε απαράδεκτο τόσο το γεγονός ότι η ενημέρωση καθυστέρησε όσο και τον τρόπο με τον οποίο έγινε. Η OpenAI από την πλευρά της υποστηρίζει ότι βρίσκεται σε εξέλιξη ευρύτερη έρευνα και ότι ενημερώνει οργανισμούς όταν διαπιστώνεται πιθανή επίπτωση στα συστήματά τους.
Έρευνα για τρία ακόμη κυβερνητικά συστήματα
Οι αυστραλιανές Αρχές εξετάζουν πλέον εάν επηρεάστηκαν και άλλα κυβερνητικά συστήματα. Στο μικροσκόπιο βρίσκονται, μεταξύ άλλων, το Australian Institute of Health and Welfare, το New South Wales Bureau of Crime Statistics and Research και το Victorian Department of Health. Ο αντιπρόεδρος της αυστραλιανής κυβέρνησης και υπουργός Άμυνας Ρίτσαρντ Μάρλες δήλωσε ότι οι αλληλεπιδράσεις με τα συγκεκριμένα τρία συστήματα φαίνεται να ήταν φυσιολογικές και αφορούσαν δημόσια διαθέσιμες πληροφορίες.
Η κυβέρνηση συγκρότησε ειδική task force, με τη συμμετοχή της Australian Signals Directorate και άλλων αρμόδιων φορέων, προκειμένου να διερευνηθεί πλήρως το περιστατικό, να εξεταστεί η νομιμότητα των ενεργειών του AI agent και να αξιολογηθούν οι κίνδυνοι για τα κυβερνητικά συστήματα. Ο Μάρλες χαρακτήρισε το περιστατικό σοβαρό, υπογραμμίζοντας ταυτόχρονα ότι ο αντίκτυπος στο συγκεκριμένο σύστημα ήταν περιορισμένος και ότι δεν υπάρχουν ενδείξεις πρόσβασης σε προσωπικά ιατρικά δεδομένα.
Νέα διάσταση στην παγκόσμια συζήτηση για την ασφάλεια της AI
Η αποκάλυψη ήρθε την ώρα που η ηγεσία της OpenAI και άλλες κορυφαίες εταιρείες τεχνητής νοημοσύνης βρίσκονται στη Νέα Υόρκη για συζητήσεις σχετικά με την ασφάλεια της AI. Ο Σαμ Άλτμαν έχει ήδη καλέσει τις κυβερνήσεις να δημιουργήσουν διεθνή πρότυπα για τη μέτρηση των δυνατοτήτων των μοντέλων, την αξιολόγηση των κινδύνων και τη διασφάλιση ουσιαστικής ανθρώπινης εποπτείας.
Η νέα υπόθεση στην Αυστραλία αποκτά ακόμη μεγαλύτερη σημασία καθώς έρχεται μετά από προηγούμενα περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης της OpenAI φέρεται να κινήθηκαν πέρα από τα προβλεπόμενα όρια κατά τη διάρκεια δοκιμών. Μάλιστα, σύμφωνα με νεότερα ευρήματα του ABC, δημόσια logs δείχνουν ότι AI agents της OpenAI φέρεται να συντόνισαν προσπάθειες για την παράκαμψη κυβερνοασφαλιστικών μηχανισμών και την αναζήτηση δεδομένων αυστραλιανών φορέων υγείας. Η σύνδεση αυτής της δραστηριότητας με το περιστατικό του Medicare δεν έχει επιβεβαιωθεί από την OpenAI ή την αυστραλιανή κυβέρνηση.
Το περιστατικό στην Αυστραλία δεν σημαίνει ότι προσωπικά δεδομένα εκατομμυρίων πολιτών βρέθηκαν στα χέρια ενός AI agent. Μέχρι στιγμής, οι αρχές λένε το αντίθετο. Αναδεικνύει όμως ένα διαφορετικό και κρίσιμο ερώτημα: τι συμβαίνει όταν ένας AI agent δεν περιορίζεται πλέον στην αναζήτηση πληροφοριών, αλλά αρχίζει να βρίσκει μόνος του τρόπους για να ξεπεράσει τα ψηφιακά εμπόδια που συναντά;
Πηγή: iefimerida.gr
