Ορισμένα από τα μεγαλύτερα ονόματα της τεχνητής νοημοσύνης έχουν συμφωνήσει σε ένα νέο πλαίσιο που αποσκοπεί στη διατήρηση υπό έλεγχο των συστημάτων τεχνητής νοημοσύνης ταχείας ανάπτυξης, σηματοδοτώντας μια σημαντική στιγμή στη συζήτηση για τον τρόπο με τον οποίο θα πρέπει να διέπεται η τεχνολογία.
Ο Πρόεδρος Ντόναλντ Τραμπ ανακοίνωσε στις 29 Σεπτεμβρίου ότι στελέχη από ηγετικές εταιρείες της AI είχαν υπογράψει ένα σύμφωνο που κάλυπτε τα πρότυπα ασφαλείας και την εποπτεία της ανάπτυξης τεχνητής νοημοσύνης.
Οι εταιρείες που εκπροσωπήθηκαν περιλάμβαναν [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.anthropic.com/?utm source=chatgpt.com), [Nvidia](https://www.nvidia.com/?utm source=chatgpt.com) και [xAI](https://x.ai/?utm source=chatgpt.com).
Η συμφωνία έρχεται καθώς η βιομηχανία της AI αντιμετωπίζει αυξανόμενο έλεγχο για το αν όλο και πιο αυτόνομα συστήματα μπορούν να αναπτυχθούν με ασφάλεια, ενώ οι εταιρείες αγωνίζονται να κυκλοφορήσουν πιο ικανά μοντέλα.
Σύμφωνα με το Associated Press, η εθελοντική συμφωνία περιλαμβάνει δεσμεύσεις που περιλαμβάνουν ισχυρούς εσωτερικούς ελέγχους, ανεξάρτητες επανεξετάσεις και εποπτεία σε επίπεδο συμβουλίου.
Η ανάπτυξη θα μπορούσε να διαμορφώσει την επόμενη φάση της παγκόσμιας συζήτησης για την τεχνητή νοημοσύνη, ιδίως επειδή οι \"νωμένες Πολιτείες έχουν ευνοήσει μέχρι στιγμής μια συγκριτικά επικεντρωμένη προσέγγιση καινοτομίας, ενώ η Ευρώπη έχει κινηθεί προς μια πιο εκτεταμένη ρύθμιση.
AI εταιρείες συμφωνούν να αστυνομικές ίδιες
Η κεντρική ιδέα πίσω από τη συμφωνία είναι ότι οι εταιρείες AI θα αναλάβουν μεγαλύτερη ευθύνη για την αξιολόγηση των κινδύνων που δημιουργούνται από τα δικά τους συστήματα.
Το σύμφωνο απαιτεί εσωτερικές διαδικασίες ασφάλειας καθώς και εξωτερικές αναθεωρήσεις σχεδιασμένες να παρέχουν πρόσθετο έλεγχο των ολοένα και πιο ισχυρών μοντέλων AI.
Ο Τραμπ χαρακτήρισε τη συμφωνία ηθικά δεσμευτική και όχι συμβατική ρυθμιστική εντολή.
Το Reuters ανέφερε ότι η κυβέρνηση εξετάζει επίσης τη σύσταση μιας επιτροπής 10 μελών για την επίβλεψη των εξελίξεων στον κλάδο της τεχνητής νοημοσύνης. Δεν έχουν ακόμη οριστικοποιηθεί λεπτομέρειες σχετικά με την επιτροπή, συμπεριλαμβανομένης της πιθανής εξουσίας και της συμμετοχής της.
Ο Πρόεδρος της Βουλής Μάικ Τζόνσον επιβεβαίωσε ξεχωριστά ότι τα στελέχη της βιομηχανίας της AI είχαν υπογράψει συμφωνία σχετικά με τα τεχνολογικά πρότυπα κατά τη διάρκεια της συνάντησης του Λευκού Οίκου.
Για τη Silicon Valley, η εθελοντική προσέγγιση θα μπορούσε να προσφέρει μια εναλλακτική λύση στην πιο περιοριστική ομοσπονδιακή νομοθεσία.
Για τους κριτικούς, ωστόσο, το ερώτημα είναι αν οι εταιρείες που αναπτύσσουν την τεχνολογία μπορούν να ρυθμιστούν αποτελεσματικά ενώ ταυτόχρονα ανταγωνίζονται για τους πελάτες, τις επενδύσεις και την τεχνολογική ηγεσία.
Το Google, το Meta και άλλοι ηγέτες της AI συμμετέχουν σε συνομιλίες
Στις συζητήσεις συμμετείχαν αρκετά από τα πρόσωπα με τη μεγαλύτερη επιρροή στην τεχνολογία.
Οι Sundar Pichai και Mark Zuckerberg ήταν μεταξύ των στελεχών που συμμετείχαν, ενώ εκπροσωπήθηκαν και εταιρείες στο κέντρο της γενιστικής άνθησης AI.
Η συμφωνία φτάνει σε μια ασυνήθιστα ευαίσθητη στιγμή για τη βιομηχανία.
Τα μοντέλα AI γίνονται ικανά να εκτελούν όλο και πιο πολύπλοκες εργασίες με λιγότερη άμεση ανθρώπινη επίβλεψη. Η ταχεία εμφάνιση παραγόντων της τεχνητής νοημοσύνης, συστημάτων ικανών να εκτελούν ακολουθίες δράσεων και όχι απλώς να απαντούν σε ερωτήσεις, έχει εντείνει τις ανησυχίες για την ασφάλεια και τον έλεγχο.
Ερευνητές από τα κορυφαία εργαστήρια AI έχουν επίσης προειδοποιήσει δημόσια για την ταχύτητα της ανάπτυξης.
Το Reuters ανέφερε στις 29 Σεπτεμβρίου ότι οι σημερινοί και πρώην ερευνητές από το OpenAI και το Google DeepMind είχαν εγείρει ανησυχίες σχετικά με εταιρείες που επιδιώκουν συστήματα ικανά να βελτιώσουν τις δικές τους ικανότητες, ενώ τα μέτρα ασφάλειας αγωνίζονται να διατηρήσουν το ρυθμό τους.
Οι ανησυχίες αυτές κυμαίνονται από τη διαταραχή της απασχόλησης και τις απειλές για την ασφάλεια στον κυβερνοχώρο έως πολύ πιο σοβαρά σενάρια που αφορούν συστήματα AI να συμπεριφέρονται με τρόπους που οι προγραμματιστές τους δεν είχαν πρόθεση.
Το OpenAI σταμάτησε ένα μοντέλο λόγω ανησυχιών για την ασφάλεια
Μια λεπτομέρεια από τη συγκέντρωση του Λευκού Οίκου έδειξε πόσο σοβαρά μερικά εργαστήρια αντιμετωπίζουν το πρόβλημα.
Ο διευθύνων σύμβουλος του OpenAI Σαμ Άλτμαν δήλωσε ότι η εταιρεία του είχε διακόψει την κυκλοφορία ενός μοντέλου λόγω ανησυχιών για την ασφάλεια, σύμφωνα με το Associated Press.
Η αποκάλυψη έρχεται καθώς οι εταιρείες AI δοκιμάζουν όλο και περισσότερο προηγμένα μοντέλα πριν από την ανάπτυξη του κοινού για να διαπιστώσουν αν θα μπορούσαν να κάνουν κατάχρηση ή να συμπεριφερθούν απροσδόκητα.
Ταυτόχρονα, η βιομηχανία αντιμετωπίζει τεράστια εμπορική πίεση να κινηθεί γρήγορα.
Το OpenAI, το Google, το Anthropic, το Meta και άλλες εταιρείες ξοδεύουν πολύ σε υπολογιστικές υποδομές και ανταγωνίζονται για να κατασκευάσουν όλο και πιο ικανά συστήματα τεχνητής νοημοσύνης.
Αυτό δημιουργεί μια δύσκολη ισορροπία μεταξύ της τεχνολογικής ταχύτητας και της ασφάλειας.
Η Νβίντια εκτοξεύει τεχνολογία σχεδιασμένη για να σταματήσει τους απατεώνες πράκτορες της τεχνητής νοημοσύνης.
Η νέα συμφωνία ακολουθεί επίσης μια σημαντική ανακοίνωση ασφάλειας της AI από την Nvidia.
Στις 28 Σεπτεμβρίου, η Nvidia εισήγαγε την Πλατφόρμα Ασφαλείας Ανοιχτού Πράκτορα, ένα σύστημα ασφαλείας με σκοπό να αποτρέψει αυτόνομους πράκτορες της AI από την εκτέλεση μη εξουσιοδοτημένων ενεργειών.
Η πλατφόρμα περιλαμβάνει τεχνολογία που επαληθεύει τι επιτρέπεται να κάνει ένας πράκτορας της AI και ένα άλλο συστατικό ικανό να παρακολουθεί ύποπτη δραστηριότητα και να εγγυάται δυνητικά επικίνδυνη συμπεριφορά.
Περισσότεροι από 100 οργανισμοί ήδη χρησιμοποιούν την τεχνολογία, σύμφωνα με το Associated Press.
Η Nvidia CEO Jensen Huang έχει υποστηρίξει ότι η ασφάλεια AI μπορεί να αντιμετωπιστεί εν μέρει ως μια πρόκληση μηχανικής, με ισχυρότερες προστασία λογισμικού που παρέχει όρια γύρω από όλο και πιο αυτόνομα συστήματα.
Η Ουάσιγκτον σταθμίζει μια διαφορετική προσέγγιση από την Ευρώπη
Η συζήτηση υπογραμμίζει επίσης τη διεύρυνση της διαφοράς μεταξύ των αμερικανικών και ευρωπαϊκών προσεγγίσεων στην τεχνητή νοημοσύνη.
Η διοίκηση Τραμπ έχει επανειλημμένα τονίσει τη διατήρηση της τεχνολογικής ηγεσίας των ΗΠΑ και την αποφυγή περιορισμών που πιστεύει ότι θα μπορούσαν να επιβραδύνουν την καινοτομία.
Το Σχέδιο Δράσης του Λευκού Οίκου AI περιγράφει την ηγεσία στην τεχνητή νοημοσύνη ως προτεραιότητα εθνικής ασφάλειας και υποστηρίζει ότι οι Ηνωμένες Πολιτείες πρέπει να παραμείνουν μπροστά από τους παγκόσμιους ανταγωνιστές.
Οι ευρωπαϊκές ρυθμιστικές αρχές έχουν υιοθετήσει μια πιο παρεμβατική προσέγγιση.
Την ίδια ημέρα με τη συνεδρίαση της AI του Λευκού Οίκου, η Google αμφισβήτησε τις κανονιστικές εντολές της Ευρωπαϊκής Ένωσης, απαιτώντας να παρέχει μεγαλύτερη πρόσβαση σε ορισμένες υπηρεσίες για προγραμματιστές της AI και ανταγωνιστικές μηχανές αναζήτησης.
Η Google υποστηρίζει ότι οι απαιτήσεις θα μπορούσαν να εκθέσουν ευαίσθητες πληροφορίες για τους χρήστες, ενώ η Ευρωπαϊκή Επιτροπή υποστηρίζει ότι περιλαμβάνονται οι κατάλληλες διασφαλίσεις απορρήτου.
Η διαφορά καταδεικνύει πώς οι κυβερνήσεις αγωνίζονται να εξισορροπήσουν τον ανταγωνισμό, την ιδιωτικότητα, την καινοτομία και την ασφάλεια καθώς η AI ενσωματώνεται στην παγκόσμια οικονομία.
Η επόμενη μάχη για τη ρύθμιση της ΤΝ
Η εθελοντική συμφωνία δεν επιλύει το μεγαλύτερο ζήτημα του κατά πόσον θα απαιτηθεί τελικά δεσμευτικός ομοσπονδιακός κανονισμός ΤΠ.
Αντίθετα, καθιερώνει ένα πλαίσιο που υποστηρίζεται από τη βιομηχανία σε μια εποχή κατά την οποία νομοθέτες, ερευνητές και εταιρείες τεχνολογίας συζητούν για το πόσο γρήγορα θα πρέπει να εξελιχθεί η κυβερνητική εποπτεία.
Τα στοιχήματα αυξάνονται καθώς η AI κινείται πέρα από τα chatbots και σε αυτόνομους πράκτορες ικανούς να αλληλεπιδρούν με συστήματα υπολογιστών, να γράφουν λογισμικό, να διεξάγουν έρευνα και να εκτελούν περίπλοκες ψηφιακές εργασίες.
Προς το παρόν, η Ουάσιγκτον δίνει στη βιομηχανία τεχνολογίας σημαντική ευθύνη για τη θέσπιση διασφαλίσεων γύρω από τα δικά της προϊόντα.
Το αν οι εθελοντικές δεσμεύσεις θα αποδειχθούν επαρκείς μπορεί να αποτελέσει ένα από τα καθοριστικά ζητήματα της τεχνολογικής πολιτικής των επόμενων ετών.