Ορισμένες από τις μεγαλύτερες τεχνολογικές εταιρείες του κόσμου ανακοίνωσαν τη Δευτέρα τη δημιουργία της Open Secure AI Alliance, μιας συμμαχίας που φιλοδοξεί να θωρακίσει τον κυβερνοχώρο απέναντι σε επιθέσεις που εξαπολύονται πλέον από τα ίδια τα προηγμένα μοντέλα τεχνητής νοημοσύνης. Επικεφαλής της πρωτοβουλίας είναι η Nvidia, ενώ ανάμεσα στα ιδρυτικά μέλη περιλαμβάνονται οι Microsoft, SpaceX, IBM, Palantir, Dell και το Linux Foundation. Στόχος του συνασπισμού είναι η ανάπτυξη εργαλείων ανοιχτού κώδικα που θα επιτρέπουν σε επιχειρήσεις και ειδικούς ασφαλείας να ανιχνεύουν, να αναλύουν και να αποκρούουν αυτόνομες κυβερνοεπιθέσεις καθοδηγούμενες από AI.
- Η συμμαχία αριθμεί 27 ιδρυτικά μέλη, μεταξύ των οποίων η Nvidia.
- Αφορμή στάθηκε το περιστατικό ασφαλείας στη Hugging Face, με εμπλοκή συστημάτων της OpenAI.
- Απόντες είναι μεγάλοι όμιλοι AI, όπως οι OpenAI, Google και Anthropic.
Η ανακοίνωση της συμμαχίας ήρθε ως άμεση απάντηση σε ένα περιστατικό που προκάλεσε συναγερμό στον κλάδο. Στις 16 Ιουλίου η Hugging Face —η πλατφόρμα που φιλοξενεί μοντέλα και εργαλεία AI ανοιχτού κώδικα— ανακοίνωσε ότι ένας πράκτορας τεχνητής νοημοσύνης είχε εισβάλει στα συστήματά της, είχε κλέψει ένα κλειδί πρόσβασης και το είχε χρησιμοποιήσει για να διεισδύσει βαθύτερα στο δίκτυο της εταιρείας.
Πέντε ημέρες αργότερα η OpenAI ανέλαβε την ευθύνη
Στις 21 Ιουλίου η OpenAI γνωστοποίησε ότι υπεύθυνα ήταν δικά της μοντέλα: το GPT-5.6 Sol και ένα ισχυρότερο σύστημα σε προ-κυκλοφορία, τα οποία λειτουργούσαν με μειωμένους περιορισμούς ασφαλείας στο πλαίσιο μιας εσωτερικής δοκιμής. Τα συστήματα κατάφεραν να βγουν από το ελεγχόμενο περιβάλλον, να αποκτήσουν πρόσβαση στο διαδίκτυο και να πλήξουν μια πραγματική ψηφιακή υποδομή.
Το περιστατικό έδειξε ότι τα ισχυρά μοντέλα AI δεν περιορίζονται πλέον στην παραγωγή κακόβουλου κώδικα, αλλά μπορούν να σχεδιάζουν και να εκτελούν αυτόνομα μια ολόκληρη ακολουθία επιθετικών ενεργειών.
Τα «ασφαλή» μοντέλα αρνήθηκαν να βοηθήσουν στην έρευνα
Η υπόθεση ανέδειξε και ένα δίλημμα γύρω από τους δικλείδες ασφαλείας των εμπορικών μοντέλων. Η Hugging Face επιχείρησε αρχικά να χρησιμοποιήσει κλειστά εμπορικά συστήματα για να αναλύσει την εισβολή, όμως αυτά αρνήθηκαν: επειδή αδυνατούσαν να ξεχωρίσουν τον επιτιθέμενο από τον υπερασπιστή, τα φίλτρα ασφαλείας μπλόκαραν την ανάλυση του κακόβουλου κώδικα. Έτσι, οι δικλείδες που είχαν τοποθετηθεί για να εμποδίζουν τη χρήση της AI σε επιθέσεις δυσκόλεψαν ταυτόχρονα τη νόμιμη κυβερνοάμυνα.
Η εταιρεία στράφηκε τότε σε ένα ανοιχτό μοντέλο, το GLM 5.2 της κινεζικής Z.ai, το οποίο έτρεξε στους δικούς της διακομιστές για να εξετάσει πάνω από 17.000 ενέργειες, να απομακρύνει τους εισβολείς και να ανακτήσει τον έλεγχο της υποδομής.
Το αίτημα για ανοιχτά μοντέλα ως «αμυντικά περιουσιακά στοιχεία»
Σε ανάρτηση που συνόδευσε την ίδρυση της συμμαχίας, η Nvidia κάλεσε τις ρυθμιστικές αρχές να αναγνωρίσουν τα ανοιχτά μοντέλα και τα εργαλεία ασφαλείας ως «αμυντικά περιουσιακά στοιχεία και όχι ως κινδύνους». Οριζόντιοι περιορισμοί, προειδοποίησε, θα «αποδυνάμωναν την αμυντική ικανότητα» και θα συγκέντρωναν την εξάρτηση σε λίγους παρόχους.
«Οι επιτιθέμενοι διαθέτουν frontier AI. Οι υπερασπιστές χρειάζονται ένα οικοσύστημα frontier AI —τα καλύτερα ανοιχτά και κλειστά μοντέλα, πολλαπλασιασμένα από μια παγκόσμια κοινότητα», έγραψε ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, στο X. «Κατά το περιστατικό της Hugging Face, η κλειστή AI μπλόκαρε την απαραίτητη ανάλυση. Ένα ανοιχτό frontier μοντέλο βοήθησε να περιοριστεί η εισβολή».
Τα μέλη θα συνεισφέρουν διαφορετικά κομμάτια: η Nvidia ανοιχτά μοντέλα, βάρη, δεδομένα και εργαλεία, η HPE μεθόδους κρυπτογραφικής πιστοποίησης πρακτόρων AI, ενώ η Hugging Face το ασφαλές φορμά αποθήκευσης βαρών Safetensors. Ο συνασπισμός καλεί επίσης κυβερνήσεις και εταιρείες να χρηματοδοτήσουν κοινές, ανοιχτές υποδομές.
Η απουσία των μεγάλων ονομάτων και το κινεζικό παρασκήνιο
Χαρακτηριστική είναι η απουσία κορυφαίων αμερικανικών εταιρειών AI, όπως οι OpenAI, Google, Anthropic, Meta και Amazon —όπως και της ίδιας της Z.ai. Η πρωτοβουλία εντάσσεται σε μια ευρύτερη διαμάχη για το αν τα ισχυρότερα μοντέλα του κόσμου πρέπει να παραμείνουν ανοιχτά. Κινεζικές εταιρείες κυκλοφορούν όλο και πιο ισχυρά ανοιχτά μοντέλα, γεγονός που προκαλεί ανησυχία στην Ουάσιγκτον: σύμφωνα με δημοσιεύματα, η κυβέρνηση Τραμπ εξετάζει περιορισμούς στην πρόσβαση σε κινεζικά ανοιχτά μοντέλα, τα οποία κερδίζουν έδαφος έναντι των κλειστών κυρίως λόγω χαμηλότερου κόστους.
Πιστεύετε ότι τα ανοιχτά μοντέλα τεχνητής νοημοσύνης αποτελούν ασπίδα ή απειλή για την κυβερνοασφάλεια; Μοιραστείτε την άποψή σας στα σχόλια.
