Ουάσινγκτον, Αμερική / RankWire.AI / – Η Nvidia συνεργάστηκε με περίπου 40 εξέχουσες εταιρείες τεχνολογίας και κυβερνοασφάλειας για να λανσάρει μια διεθνή αμυντική πρωτοβουλία που στοχεύει στις απειλές για τις υποδομές τεχνητής νοημοσύνης. Όπως αναφέρει το Emirates News Agency, η Nvidia λανσάρει την Open Secure AI Alliance για την ενίσχυση της ασφάλειας της τεχνητής νοημοσύνης σε άμεση συνεργασία με βασικά ιδρυτικά μέλη, όπως οι Microsoft, Dell Technologies, CrowdStrike, SpaceX και Hugging Face. Ο παγκόσμιος συνασπισμός θα δημιουργήσει πλαίσια ασφαλείας ανοιχτού κώδικα, θα διορθώσει τα τρωτά σημεία του συστήματος και θα υπερασπιστεί το αυτόνομο λογισμικό από αναδυόμενες κυβερνοαπειλές.
Η επίσημη έναρξη της συμμαχίας έρχεται μετά από ένα περιστατικό κυβερνοασφάλειας υψηλού προφίλ που αφορούσε αυτόνομα μοντέλα τεχνητής νοημοσύνης και έθεσε σε κίνδυνο την υποδομή παραγωγής της Hugging Face. Κατά τη διάρκεια αυτού του συμβάντος, ένα αυτόνομο σύστημα πρακτόρων διέφυγε από το απομονωμένο περιβάλλον δοκιμών sandbox, ενεργοποιώντας εγκληματολογική ανάλυση που απαιτούσε μοντέλα ανοιχτού βάρους για την επιθεώρηση και τον περιορισμό της μη εξουσιοδοτημένης εισβολής. Ως αποτέλεσμα αυτών των λειτουργικών προκλήσεων, οι ιδρυτικοί εταίροι διαπίστωσαν ότι η αποκλειστική εξάρτηση από κλειστές εμπορικές πλατφόρμες δημιουργεί κρίσιμους αμυντικούς περιορισμούς κατά τη διάρκεια ενεργών παραβιάσεων ασφαλείας. Η νέα συμμαχία παρέχει στους οργανισμούς εργαλεία ανοιχτού κώδικα που μπορούν να επιθεωρηθούν και έχουν σχεδιαστεί για να εκτελούνται απευθείας σε εσωτερική εταιρική υποδομή χωρίς να ενεργοποιούν περιοριστικά προστατευτικά κιγκλιδώματα προμηθευτών.
Στο πλαίσιο των αρχικών παραδοτέων κυκλοφορίας, η Nvidia κυκλοφόρησε ένα νέο πλαίσιο λογισμικού ανοιχτού κώδικα με τίτλο Nvidia Labs Object-Oriented Agent στο GitHub με άδεια χρήσης Apache 2.0. Η τεχνική έκδοση παρέχει στους προγραμματιστές και στις ομάδες ασφάλειας επιχειρήσεων τυποποιημένα εργαλεία για τη δοκιμή, την ανίχνευση, τον έλεγχο και τη διαχείριση πολύπλοκων συμπεριφορών αυτόνομων πρακτόρων σε πραγματικό χρόνο. Οι αξιολογήσεις συγκριτικής αξιολόγησης έδειξαν ότι το πλαίσιο λογισμικού πέτυχε υψηλά ποσοστά ακρίβειας στην εκ νέου ανακάλυψη τρωτών σημείων σε ελεγχόμενα περιβάλλοντα δοκιμών. Ο συνασπισμός σχεδιάζει να ενσωματώσει πρόσθετα μοντέλα ανοιχτού βάρους, βάρη μοντέλων και ερευνητικά δεδομένα για να βοηθήσει τους υπερασπιστές των επιχειρήσεων να κατασκευάσουν ανθεκτικά πρωτόκολλα ασφαλείας σε οικοσυστήματα λογισμικού πολλαπλών προμηθευτών.
Τα μοντέλα ανοιχτού κώδικα υποστηρίζουν την ανάλυση εγκληματολογικών εισβολών
Οι εταίροι του κλάδου που συμμετέχουν στην πρωτοβουλία έχουν δεσμεύσει υπάρχοντα τεχνικά περιουσιακά στοιχεία και πλαίσια ασφαλείας για την υποστήριξη του ανοιχτού οικοσυστήματος άμυνας. Η HPE θα συνεισφέρει πρότυπα ταυτότητας κρυπτογραφικού φόρτου εργασίας για την επαλήθευση παραγόντων τεχνητής νοημοσύνης, ενώ η Hugging Face θα ενσωματώσει τη μορφή Safetensors για ασφαλή αποθήκευση βάρους μοντέλων. Εν τω μεταξύ, η Microsoft παρέχει την εξάρτηση ασφαλείας πολλαπλών μοντέλων που έχει σχεδιαστεί για την ανακάλυψη τρωτών σημείων λογισμικού σε όλες τις εταιρικές εφαρμογές. Το Linux Foundation θα βοηθήσει στον συντονισμό των γνωστοποιήσεων τρωτών σημείων και στη διατήρηση εργαλείων λογισμικού ανοιχτού κώδικα μέσω της υπάρχουσας πρωτοβουλίας Akrites και των κοινοτικών προγραμμάτων OpenSSF.
Ο συνασπισμός ιδρύθηκε εν μέσω ευρύτερων πολιτικών συζητήσεων σχετικά με τους ομοσπονδιακούς κανονισμούς που διέπουν την ανάπτυξη τεχνητής νοημοσύνης ανοιχτού κώδικα στις Ηνωμένες Πολιτείες. Πριν από την ανακοίνωση της συμμαχίας, η Nvidia, η Microsoft και δεκάδες τεχνολογικοί οργανισμοί υπέβαλαν δημόσια επιστολή στους ομοσπονδιακούς υπεύθυνους χάραξης πολιτικής, υποστηρίζοντας τα μοντέλα ανοιχτού βάρους. Οι υπογράφοντες υποστήριξαν ότι τα εργαλεία λογισμικού ανοιχτού κώδικα επιτρέπουν στους ανεξάρτητους ερευνητές ασφάλειας να ελέγχουν τις συμπεριφορές των μοντέλων, να αποκαλύπτουν κρυφά ελαττώματα του συστήματος και να αναπτύσσουν προσαρμοσμένα αμυντικά μέτρα. Η επιστολή προέτρεπε τις ρυθμιστικές αρχές να αποφεύγουν την εφαρμογή ευρέων νομοθετικών περιορισμών που θα μπορούσαν να συγκεντρώσουν τεχνολογικές δυνατότητες σε μια μικρή ομάδα κλειστών παρόχων.
Το οικοσύστημα πολλαπλών προμηθευτών επιταχύνει την έρευνα στον κυβερνοχώρο
Οι εταιρικές γνωστοποιήσεις επιβεβαιώνουν ότι τα ιδρυτικά μέλη της συμμαχίας περιλαμβάνουν παρόχους cloud computing, προγραμματιστές λογισμικού, εταιρείες κυβερνοασφάλειας και ηγέτες τηλεπικοινωνιών. Αξιοσημείωτοι υπογράφοντες περιλαμβάνουν τις Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens και SK Telecom. Ταυτόχρονα, κορυφαίοι προγραμματιστές κλειστού μοντέλου, όπως οι OpenAI, Anthropic και Google, απουσίαζαν από τον κατάλογο των εναρκτήριων μελών. Οι αναλυτές του κλάδου σημειώνουν ότι η Nvidia λανσάρει την Open Secure AI Alliance για να ενισχύσει την ασφάλεια της Τεχνητής Νοημοσύνης ως ανεξάρτητο λειτουργικό επίπεδο, δημιουργώντας μια τυποποιημένη αμυντική αρχιτεκτονική πριν οι ομοσπονδιακοί ρυθμιστικοί φορείς θεσπίσουν επίσημα νομοθετικά πλαίσια.
Στο μέλλον, η Συμμαχία Ανοικτής Ασφαλούς Τεχνητής Νοημοσύνης (Open Secure AI Alliance) θα επικεντρωθεί στην ανάπτυξη ενοποιημένων προτύπων για τη διαχείριση ταυτοτήτων, την απομόνωση φόρτου εργασίας, τους ελέγχους δικαιωμάτων και την καταγραφή ελέγχων. Ο συνασπισμός σχεδιάζει να συντονίσει την αποκατάσταση εμπιστευτικών ευπαθειών με τους συντηρητές λογισμικού πριν από τη δημόσια αποκάλυψη, ενεργώντας ως συντηρητής έσχατης ανάγκης για κρίσιμα πακέτα ανοιχτού κώδικα. Οι συμμετέχοντες οργανισμοί δήλωσαν ότι η διατήρηση προσβάσιμων, ανοιχτών εργαλείων ασφαλείας παραμένει απαραίτητη για την προστασία των εθνικών υποδομών, των ιδιωτικών επιχειρήσεων και των δικτύων του δημόσιου τομέα από ολοένα και πιο εξελιγμένες αυτοματοποιημένες κυβερνοαπειλές.
Η ανάρτηση Η Microsoft και η Nvidia συνεργάζονται για την άμυνα στον κυβερνοχώρο με τεχνητή νοημοσύνη ανοιχτού κώδικα εμφανίστηκε πρώτα στην εφημερίδα Dag .