Η OpenAI, η εταιρεία τεχνητής νοημοσύνης που έγινε ευρύτερα γνωστή χάρη στο ChatGPT, θεωρείται από τα κεντρικά ονόματα στην κούρσα ανάπτυξης προηγμένων μοντέλων ΤΝ. Τώρα, σύμφωνα με δημοσίευμα των Financial Times, ο οργανισμός διέλυσε στο τέλος του προηγούμενου μήνα την εσωτερική ομάδα «preparedness», δηλαδή την ομάδα που είχε ως αποστολή να αξιολογεί κατά πόσο τα μοντέλα ενέχουν σοβαρούς κινδύνους και να αναπτύσσει τρόπους περιορισμού τους. Η κίνηση αποτελεί το πιο πρόσφατο επεισόδιο σε μια σειρά ανακατατάξεων στις ομάδες ασφάλειας της εταιρείας.
- Σύμφωνα με τους Financial Times, η OpenAI διέλυσε την ομάδα «preparedness» στο τέλος του προηγούμενου μήνα.
- Οι αρμοδιότητες μοιράστηκαν σε επιμέρους τομείς, όπως βιολογικοί και κυβερνοκίνδυνοι, και εντάχθηκαν σε υπάρχουσες ομάδες.
- Η αλλαγή έρχεται καθώς η εταιρεία κατευθύνεται προς μια αναμενόμενη μεγάλη δημόσια εγγραφή (IPO).
Σύμφωνα με τους Financial Times, οι αρμοδιότητες της ομάδας δεν καταργήθηκαν συνολικά, αλλά κατανεμήθηκαν σε συγκεκριμένους τομείς — όπως οι βιολογικοί και οι κυβερνοκίνδυνοι — και μεταφέρθηκαν σε ήδη υπάρχουσες ομάδες της εταιρείας. Το αντικείμενο της «preparedness» αφορούσε σενάρια σοβαρού ρίσκου, μεταξύ των οποίων και η πιθανότητα ένα μοντέλο να ξεφύγει από τον έλεγχο και να επιχειρήσει, για παράδειγμα, να παραβιάσει τα συστήματα άλλης εταιρείας.
Μια σειρά αποχωρήσεων που πυκνώνει τις αμφιβολίες
Η διάλυση της ομάδας δεν είναι μεμονωμένο γεγονός. Τα τελευταία χρόνια, όπως αναφέρεται, η OpenAI έχει σταδιακά αποδομήσει το πιο «φιλόδοξο» ερευνητικά μοντέλο λειτουργίας της, διαλύοντας τις ομάδες AGI readiness και superalignment. Πρόσφατα αποχώρησαν επίσης η επικεφαλής δεοντολογίας Chloé Bakalar, ο Chief Futurist Josh Achiam και ο επικεφαλής ασφάλειας Johannes Heidecke.
Η αλληλουχία αυτών των αλλαγών έχει τροφοδοτήσει την κριτική. Ο Jan Leike, ο οποίος είχε παραιτηθεί από την OpenAI το 2024, δήλωσε στους Financial Times ότι η εταιρεία αγνοεί την ασφάλεια προς όφελος της δημιουργίας «λαμπερών προϊόντων».
Επικεφαλής της ομάδας «preparedness» ήταν ο Dylan Scandinaro, ο οποίος είχε προσληφθεί από την Anthropic τον Φεβρουάριο και πλέον θα εστιάσει στις επιπτώσεις της «αναδρομικά αυτοβελτιούμενης» (recursive self-improving) ΤΝ.
Γιατί έχει σημασία εν όψει της δημόσιας εγγραφής
Η αναδιάρθρωση γίνεται σε μια περίοδο έντονης αναταραχής για την εταιρεία, καθώς αυτή κατευθύνεται προς μια δημόσια εγγραφή (IPO) που αναμένεται να είναι πολύ μεγάλη. Η δημόσια εγγραφή είναι η διαδικασία με την οποία μια ιδιωτική εταιρεία εισάγει τις μετοχές της προς διαπραγμάτευση στο χρηματιστήριο, ανοίγοντας το κεφάλαιό της σε επενδυτές.
Για τον αναγνώστη, η ουσία της συζήτησης είναι η ισορροπία ανάμεσα στην ταχύτητα ανάπτυξης εμπορικών προϊόντων και στη διασφάλιση ότι ισχυρά συστήματα ΤΝ παραμένουν ελεγχόμενα. Η διάλυση μιας ειδικής ομάδας που είχε ως αποκλειστικό αντικείμενο τον εντοπισμό σοβαρών κινδύνων μπορεί να ερμηνευθεί με δύο τρόπους: είτε ως ενσωμάτωση της ασφάλειας βαθύτερα μέσα στις υπόλοιπες ομάδες, είτε ως υποβάθμιση της προτεραιότητάς της. Το πώς θα λειτουργήσει στην πράξη η νέα, κατανεμημένη δομή θα φανεί μόνο με τον χρόνο.
Πιστεύετε ότι η ενσωμάτωση της ασφάλειας σε υπάρχουσες ομάδες προστατεύει καλύτερα ή, αντίθετα, αποδυναμώνει τον έλεγχο των μοντέλων ΤΝ; Πείτε μας τη γνώμη σας.
