Η συμφωνία, που ονομάστηκε Κοινή Δέσμευση για τις Ευθύνες των Συνόρων, ανακοινώθηκε στις 29 Σεπτεμβρίου μετά από συνάντηση του Λευκού Οίκου με τον Πρόεδρο Ντόναλντ Τραμπ και ηγετικά στελέχη τεχνολογίας.
Το έγγραφο υπογράφηκε από στελέχη που εκπροσωπούν το Google , Meta , OpenAI , Nvidia , Anthropic και X , σύμφωνα με το Reuters.
UOL Notícias +1
Σε αντίθεση με έναν ομοσπονδιακό κανονισμό, η συμφωνία είναι εθελοντική. Η διοίκηση την χαρακτήρισε ως δέσμευση με σκοπό τη θέσπιση ισχυρότερων διασφαλίσεων στο εσωτερικό των εταιρειών που αναπτύσσουν ολοένα και περισσότερο ικανά μοντέλα τεχνητής νοημοσύνης.
Η ανάπτυξη έρχεται ως κυβερνήσεις, εταιρείες τεχνολογίας και ερευνητές συνεχίζουν να συζητούν για το πόσο γρήγορα θα πρέπει να ελέγχεται η AI χωρίς να εμποδίζεται η καινοτομία.
Τι συμφώνησαν να κάνουν οι AI εταιρείες
Η συμφωνία θεσπίζει τέσσερα ευρύτατα επίπεδα ελέγχων ασφαλείας.
Οι συμμετέχουσες εταιρείες αναμένεται να διατηρούν εσωτερικά συστήματα που παρακολουθούν τις δυνατότητες και τη συμπεριφορά των μοντέλων τους AI κατά τη διάρκεια τόσο της εκπαίδευσης όσο και της ανάπτυξης.
Οι εν λόγω έλεγχοι αποσκοπούν στον εντοπισμό πιθανών κινδύνων που αφορούν τομείς όπως η ασφάλεια στον κυβερνοχώρο, οι βιολογικές απειλές και οι χημικές απειλές.
Η συμφωνία απαιτεί ειδικά διασφαλίσεις που αποσκοπούν στην πρόληψη της πρόσβασης ή της παρεμπόδισης τεχνικών συστημάτων με ακούσιους τρόπους στα μοντέλα της AI.
UOL Notícias
Οι εταιρείες αναμένεται επίσης να διατηρήσουν εσωτερικές ομάδες υπεύθυνες για τον έλεγχο της λειτουργίας των συστημάτων παρακολούθησης και ανίχνευσης όπως προβλέπεται.
Ένα ξεχωριστό επίπεδο εποπτείας θα προερχόταν από τις ίδιες τις εταιρείες.
Οι ανεξάρτητες αξιολογήσεις ΤΝ αποτελούν μέρος της συμφωνίας
Μία από τις σημαντικότερες διατάξεις απαιτεί από τις συμμετέχουσες εταιρείες να συνεργάζονται με εξωτερικούς ελεγκτές ή αξιολογητές.
Αυτές οι ανεξάρτητες αξιολογήσεις θα εξέταζαν κατά πόσον τα συστήματα παρακολούθησης και ελέγχου των ΤΠΕ των εταιρειών λειτουργούν κατά τον προβλεπόμενο τρόπο.
Η συμφωνία καλεί επίσης τις εταιρείες να συστήσουν ανεξάρτητες επιτροπές διοικητικού συμβουλίου που θα λαμβάνουν πληροφορίες τόσο από εσωτερικές ομάδες όσο και από εξωτερικούς αξιολογητές.
UOL Notícias +1
Οι συμμετέχουσες εταιρείες αναμένεται να πληρούν τακτικά πρότυπα και βέλτιστες πρακτικές για τη βελτίωση της ασφάλειας των συστημάτων τους.
Το έγγραφο αναγνωρίζει επίσης ότι ορισμένα από αυτά τα μέτρα θα μπορούσαν τελικά να αποτελέσουν μέρος επίσημων νόμων ή κανονισμών.
UOL Notícias
Προς το παρόν, ωστόσο, οι δεσμεύσεις δεν είναι νομικά δεσμευτικοί ομοσπονδιακοί κανόνες.
Γιατί η συμφωνία έχει σημασία
Η συμφωνία φτάνει σε μια κρίσιμη στιγμή για τη βιομηχανία τεχνητής νοημοσύνης.
Τα συστήματα AI κινούνται όλο και περισσότερο πέρα από την απάντηση ερωτήσεων και την παραγωγή κειμένου, εικόνων ή κώδικα υπολογιστή.
Οι εταιρείες αναπτύσσουν πράκτορες της AI ικανούς να εκτελούν μεγαλύτερες ακολουθίες δράσεων, χρησιμοποιώντας εργαλεία λογισμικού και ολοκληρώνοντας εργασίες με λιγότερη άμεση ανθρώπινη εποπτεία.
Αυτή η επέκταση έχει αυξήσει την προσοχή στο πώς οι εταιρείες δοκιμάζουν ισχυρά μοντέλα πριν τα απελευθερώσουν.
Η νέα συμφωνία επιχειρεί να δημιουργήσει ένα κοινό πλαίσιο μεταξύ των μεγάλων προγραμματιστών της AI ενώ αφήνει μεμονωμένες εταιρείες υπεύθυνες για την εφαρμογή πολλών από τους ελέγχους.
Το Associated Press ανέφερε ότι η συμφωνία περιλαμβάνει εσωτερικές διασφαλίσεις, ανεξάρτητες εξωτερικές επανεξετάσεις και μηχανισμούς εποπτείας εντός των συμμετεχόντων εταιρειών.
AP Ειδήσεις
Οι μεγαλύτερες AI εταιρείες ήταν στην Ουάσιγκτον
Η συγκέντρωση του Λευκού Οίκου συγκέντρωσε πολλές από τις πιο ισχυρές προσωπικότητες της παγκόσμιας τεχνολογίας.
Τα στελέχη που συμμετείχαν συμπεριέλαβαν ηγέτες συνδεδεμένους με Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon και X, σύμφωνα με αναφορές από την εκδήλωση.
AP Ειδήσεις +1
Η συμμετοχή τους δείχνει πόσο στενά συνδέεται η πολιτική της AI με τις μεγαλύτερες εταιρείες τεχνολογίας στις Ηνωμένες Πολιτείες.
Οι εμπλεκόμενες εταιρείες επενδύουν σε μεγάλο βαθμό σε μοντέλα AI, υπολογιστική υποδομή, τσιπ και data centers.
Ταυτόχρονα, οι κυβερνήσεις σε όλο τον κόσμο προσπαθούν να καθορίσουν ποιες διασφαλίσεις πρέπει να ισχύουν καθώς αυτά τα συστήματα γίνονται πιο ικανά.
Η Αμερική.Γωβ εκτοξεύει επίσης
Η συμφωνία ασφάλειας της ΤΝ δεν ήταν η μόνη σημαντική ανακοίνωση τεχνολογίας από την Ουάσιγκτον.
Ο Λευκός Οίκος εγκαινίασε επίσης το America.gov, μια νέα ψηφιακή πύλη με σκοπό να δώσει στους Αμερικανούς ένα ενιαίο μέρος για πρόσβαση σε πληροφορίες και υπηρεσίες της ομοσπονδιακής κυβέρνησης.
Σύμφωνα με τον Λευκό Οίκο, οι χρήστες μπορούν να επικοινωνούν με την υπηρεσία χρησιμοποιώντας συνηθισμένη γλώσσα και να λαμβάνουν απαντήσεις χωρίς να χρειάζεται να περιηγηθούν σε πολυάριθμες μεμονωμένες ιστοσελίδες ομοσπονδιακών υπηρεσιών.
Ο Λευκός Οίκος
Η διοίκηση αναφέρει ότι η πλατφόρμα έχει σχεδιαστεί τελικά για να επιτρέψει στους ανθρώπους να ολοκληρώσουν ορισμένες κρατικές συναλλαγές άμεσα όταν είναι διαθέσιμη η έγκριση και η τεχνική υποδομή.
Ο Λευκός Οίκος αναφέρει επίσης ότι η προστασία της ιδιωτικής ζωής προορίζεται να ενσωματωθεί στην υπηρεσία.
Ο Λευκός Οίκος
Το λανσάρισμα αποτελεί ένα άλλο παράδειγμα γενιστικής AI που κινείται από πειραματικές εφαρμογές σε δημόσιες υπηρεσίες που χρησιμοποιούν οι απλοί πολίτες.
Ο κανονισμός AI παραμένει μια σημαντική συζήτηση
Ο εθελοντικός χαρακτήρας της συμφωνίας είναι πιθανό να παραμείνει σημαντικό μέρος της ευρύτερης συζήτησης σχετικά με τον κανονισμό ΤΠ.
Οι υποστηρικτές των προτύπων της βιομηχανίας υποστηρίζουν ότι η τεχνητή νοημοσύνη αναπτύσσεται τόσο γρήγορα που η αυστηρή ρύθμιση θα μπορούσε να αγωνιστεί για να συμβαδίσει με την τεχνολογική πρόοδο.
Οι επικριτές των εθελοντικών συστημάτων υποστηρίζουν ότι οι εταιρείες που αναπτύσσουν ισχυρά μοντέλα AI πρέπει να αντιμετωπίζουν εκτελεστά εξωτερικά πρότυπα αντί να βασίζονται κυρίως σε εσωτερικούς ελέγχους.
Το νέο σύμφωνο περιλαμβάνει ανεξάρτητη αξιολόγηση, αλλά οι εταιρείες διατηρούν ουσιαστική ευθύνη για την εφαρμογή των δικών τους συστημάτων ασφάλειας.
Η ίδια η συμφωνία αφήνει ανοιχτή τη δυνατότητα να ενσωματωθούν τελικά οι αρχές της στη νομοθεσία ή στον επίσημο κανονισμό.
UOL Notícias
Αυτό σημαίνει ότι η ανακοίνωση της 29ης Σεπτεμβρίου μπορεί να αντιπροσωπεύει ένα πρώιμο πλαίσιο και όχι το τελικό σχήμα της αμερικανικής AI εποπτείας.
Η Ευρώπη ακολουθεί διαφορετικό δρόμο
Οι Ηνωμένες Πολιτείες δεν αναπτύσσουν την πολιτική της τεχνητής νοημοσύνης μεμονωμένα.
Ευρώπη ακολούθησε μια πιο ρυθμιστική προσέγγιση μέσω των κανόνων τεχνητής νοημοσύνης της Ευρωπαϊκής Ένωσης και της ευρύτερης ψηφιακής νομοθεσίας.
Η αντίθεση έχει δημιουργήσει ένα σημαντικό ζήτημα διεθνούς πολιτικής: αν η προηγμένη τεχνητή νοημοσύνη θα πρέπει να διέπεται κυρίως από νομοθεσία, δεσμεύσεις της βιομηχανίας, ανεξάρτητο έλεγχο, ή κάποιο συνδυασμό και των τριών.
Οι εταιρείες τεχνολογίας που λειτουργούν παγκοσμίως μπορεί τελικά να χρειαστεί να συμμορφωθούν με διαφορετικά ρυθμιστικά συστήματα ανάλογα με το πού προσφέρονται τα προϊόντα τους.
Αυτό καθιστά τις αποφάσεις στην Ουάσιγκτον και τις Βρυξέλλες ιδιαίτερα σημαντικές για τις επιχειρήσεις που αναπτύσσουν μοντέλα που χρησιμοποιούνται από εκατοντάδες εκατομμύρια ανθρώπους.
Οι ανησυχίες για την ασφάλεια της AI αυξάνονται με ικανότητα
Η συμφωνία φτάνει επίσης καθώς αρκετές ηγετικές εταιρείες AI συζητούν δημόσια τους κινδύνους που συνδέονται με τα ολοένα και πιο ικανά συστήματα.
Οι προγραμματιστές δοκιμάζουν μοντέλα για συμπεριφορά που περιλαμβάνει κυβερνοασφάλεια, αυτόνομη λήψη αποφάσεων, βιολογικές πληροφορίες και την ικανότητα να λειτουργούν εξωτερικά εργαλεία λογισμικού.
Αυτές οι δυνατότητες μπορούν να δημιουργήσουν χρήσιμες εφαρμογές, αλλά εγείρουν επίσης ερωτήματα σχετικά με το τι συμβαίνει όταν τα συστήματα συμπεριφέρονται διαφορετικά από αυτό που σκόπευαν οι προγραμματιστές.
Το νέο σύμφωνο επιχειρεί να αντιμετωπίσει το ζήτημα αυτό απαιτώντας πολλαπλά επίπεδα παρακολούθησης αντί να βασίζεται σε μια ενιαία εσωτερική διαδικασία ασφάλειας.
Η εξωτερική αξιολόγηση θα μπορούσε να γίνει ιδιαίτερα σημαντική καθώς οι εταιρείες απελευθερώνουν όλο και πιο αυτόνομους πράκτορες της AI.
Τι θα γίνει μετά;
Το άμεσο ερώτημα είναι πώς οι συμμετέχουσες εταιρείες θα μεταφράσουν τη συμφωνία σε επιχειρησιακές διασφαλίσεις.
Το έγγραφο θεσπίζει αρχές, αλλά η αποτελεσματικότητα αυτών των αρχών θα εξαρτηθεί από την εφαρμογή, συμπεριλαμβανομένου του τρόπου επιλογής των ανεξάρτητων αξιολογητών, των προτύπων που εφαρμόζουν και του τρόπου με τον οποίο οι εταιρείες ανταποκρίνονται όταν ανακαλύπτονται κίνδυνοι.
Ένα άλλο ερώτημα είναι η διαφάνεια.
Το κοινό μπορεί να αναμένει όλο και περισσότερο από τις εταιρείες να εξηγήσουν πώς αξιολογήθηκαν τα προηγμένα μοντέλα πριν από την κυκλοφορία και ποιες διασφαλίσεις λειτουργούν μετά την ανάπτυξη.
Προς το παρόν, η συμφωνία αντιπροσωπεύει μια σημαντική συντονισμένη δέσμευση που περιλαμβάνει αρκετές από τις εταιρείες που κατασκευάζουν τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης στον κόσμο.
Το αν αυτές οι εθελοντικές διασφαλίσεις θα γίνουν τελικά υποχρεωτικοί κανόνες θα εξαρτηθεί από μελλοντικές αποφάσεις των νομοθετών, των ρυθμιστικών αρχών και των ίδιων των εταιρειών.
Αυτό που είναι ήδη σαφές είναι ότι η ασφάλεια της AI μετακινήθηκε από μια εξειδικευμένη συζήτηση τεχνολογίας σε ένα κεντρικό ζήτημα για τις κυβερνήσεις, τις επιχειρήσεις και εκατοντάδες εκατομμύρια ανθρώπους που χρησιμοποιούν τεχνητή νοημοσύνη κάθε μέρα.