وقد أُعلن عن الاتفاق، الذي يُسمى الالتزام المشترك بشأن مسؤوليات الحدود، في 29 أيلول/سبتمبر عقب اجتماع البيت الأبيض ضم الرئيس دونالد ترامب وكبار المسؤولين التنفيذيين في مجال التكنولوجيا.
The document was signed by executives representing Google., Meta., OpenAI., Nvidia., Anthropic. and X., according to Reuters.
UOL Notícias +1
وخلافاً للائحة الاتحادية، فإن الاتفاق طوعي. ووصفتها الإدارة بأنها التزام يرمي إلى إرساء ضمانات أقوى داخل الشركات التي تضع نماذج استخبارات اصطناعية أكثر قدرة.
The development comes as governments, technology companies and researchers continue debating how rapidly advancing AI should be controlled without preventing innovation.
What the AI companies agreed to do
ويحدد الاتفاق أربع طبقات واسعة من ضوابط السلامة.
ومن المتوقع أن تحافظ الشركات المشاركة على النظم الداخلية التي ترصد قدرات وتصرفات نماذجها الخاصة بمؤشرات التنفيذ أثناء التدريب والنشر.
وتهدف هذه الضوابط إلى تحديد المخاطر المحتملة التي تنطوي على مجالات مثل أمن الفضاء الإلكتروني والتهديدات البيولوجية والتهديدات الكيميائية.
The agreement specifically calls for safeguards designed to prevent AI models from accessing or interfering with technical systems in unintended ways.
UOL Notícias
ومن المتوقع أيضا أن تحتفظ الشركات بفرق داخلية مسؤولة عن التحقق مما إذا كانت نظم الرصد والكشف تعمل على النحو المقصود.
وسينشأ مستوى مستقل من الرقابة من خارج الشركات نفسها.
التقييمات المستقلة للتنفيذ جزء من الاتفاق
ويدعو أحد أهم الأحكام الشركات المشاركة إلى العمل مع مراجعي الحسابات الخارجيين أو المقيِّمين.
هذه التقييمات المستقلة ستبحث ما إذا كانت أنظمة مراقبة ومراقبة الشركات تعمل كما هو مقصود
ويدعو الاتفاق أيضاً الشركات إلى إنشاء لجان مستقلة تابعة للمجلس تتلقى معلومات من كل من الأفرقة الداخلية والمقيِّمين الخارجيين.
UOL Notícias +1
ومن المتوقع أن تجتمع الشركات المشاركة بانتظام لوضع معايير وأفضل الممارسات لتحسين سلامة نظمها.
وتعترف الوثيقة أيضا بأن بعض هذه التدابير يمكن أن تصبح في نهاية المطاف جزءا من القوانين أو الأنظمة الرسمية.
UOL Notícias
غير أن الالتزامات في الوقت الراهن ليست قواعد اتحادية ملزمة قانونا.
سبب أهمية الاتفاق
يصل الاتفاق في لحظة حاسمة لصناعة الاستخبارات الاصطناعية.
وتتجه نظم المعلومات الإدارية بشكل متزايد إلى ما هو أبعد من الإجابة عن الأسئلة وتولد النص أو الصور أو رمز الحاسوب.
وتعكف الشركات على تطوير وكلاء التنفيذ القادرين على القيام بتسلسلات أطول من الإجراءات، واستخدام أدوات البرمجيات وإنجاز المهام بأقل إشرافاً مباشراً على الإنسان.
وقد زاد هذا التوسع من الاهتمام بكيفية اختبار الشركات للنماذج القوية قبل إطلاقها.
The new agreement attempts to create a shared framework among major AI developers while leaving individual companies responsible for implementing many of the controls.
وأفادت شركة Associated Press بأن الاتفاق يشمل الضمانات الداخلية، والاستعراضات الخارجية المستقلة، وآليات الرقابة داخل الشركات المشاركة.
AP News
أكبر شركات مكافحة المخدرات كانت في واشنطن
وقد جمع تجمع البيت الأبيض العديد من أكثر الشخصيات تأثيرا في التكنولوجيا العالمية.
وكان من بين المسؤولين التنفيذيين الذين حضروا الاجتماع قادة مرتبطون بميتا، ونفيديا، وأنثروب، وفتح آي، وغوغل، وميكروسوفت، والأمازون، واكس، وفقا للتقارير الواردة من الحدث.
AP News +1
Their participation illustrates how closely AI policy is becoming connected with the largest technology companies in the United States.
The companies involved are invest heavily in AI models, computing infrastructure,chess and data centers.
وفي الوقت نفسه، تحاول الحكومات في جميع أنحاء العالم تحديد الضمانات التي ينبغي أن تطبق عندما تصبح هذه النظم أكثر قدرة.
America.gov also launches
The AI safety agreement was not the only major technology announcement from Washington.
The White House also launched America.gov, a new digital gateway intended to give Americans a single place to access federal government information and services.
According to the White House, users can communicate with the service using ordinary language and receive answers without having to navigate numerous individual federal agency websites.
البيت الأبيض
The administration says the platform is designed eventually to allow people to complete certain government transactions directly when authorization and technical infrastructure are available.
البيت الأبيض يقول أيضاً أن حماية الخصوصية يجب أن تُدمج في الخدمة
البيت الأبيض
The launch represents another example of generative AI moving from experimental applications into public services used by ordinary citizens.
لا تزال لائحة التنفيذ مناقشة رئيسية
The voluntary nature of the agreement is likely to remain an important part of the wider debate over AI regulation.
ويحتج مؤيدو المعايير الصناعية بأن الاستخبارات الاصطناعية تتطور بسرعة بحيث يمكن للتنظيم الصارم أن يكافح مواكبة التقدم التكنولوجي.
وتقول نواة النظم الطوعية إن الشركات التي تضع نماذج قوية للتنفيذ ينبغي أن تواجه معايير خارجية قابلة للتنفيذ بدلاً من الاعتماد أساساً على الضوابط الداخلية.
ويشتمل الاتفاق الجديد على تقييم مستقل، ولكن الشركات تحتفظ بمسؤولية كبيرة عن تنفيذ نظم الأمان الخاصة بها.
ويترك الاتفاق نفسه إمكانية إدراج مبادئه في التشريع أو النظام الرسمي في نهاية المطاف.
UOL Notícias
وهذا يعني أن إعلان 29 أيلول/سبتمبر قد يمثل إطاراً مبكراً بدلاً من الشكل النهائي لرقابة منظمة العفو الدولية الأمريكية.
أوروبا تأخذ طريقا مختلفا
والولايات المتحدة لا تضع سياسة بشأن مكافحة المخدرات في عزلة.
تتبع أوروبا نهجا تنظيميا أكثر من خلال قواعد الاستخبارات الاصطناعية للاتحاد الأوروبي والتشريعات الرقمية الأوسع نطاقا.
وقد أوجد هذا التناقض مسألة دولية هامة تتعلق بالسياسة العامة، وهي: ما إذا كان ينبغي أن يخضع التنفيذ المتطور في المقام الأول للتشريع، والالتزامات الصناعية، والمراجعة المستقلة للحسابات، أو بعض الجمع بين الثلاثة.
وقد تحتاج شركات التكنولوجيا العاملة على الصعيد العالمي في نهاية المطاف إلى الامتثال لأنظمة تنظيمية مختلفة تبعاً لما تعرض عليه منتجاتها.
وهذا يجعل القرارات المتخذة في واشنطن وبروكسل ذات أهمية خاصة بالنسبة للشركات التي تضع نماذج تستخدمها مئات الملايين من الناس.
الشواغل المتعلقة بالسلامة لدى منظمة العفو الدولية آخذة في التزايد مع القدرة
The agreement also arrives as several leading AI companies publicly discuss risks associated with increasingly capable systems.
ويقوم المطورون باختبار نماذج السلوك التي تنطوي على أمن الفضاء الحاسوبي، واتخاذ القرارات المستقلة، والمعلومات البيولوجية، والقدرة على تشغيل أدوات البرمجيات الخارجية.
ويمكن لهذه القدرات أن تخلق تطبيقات مفيدة، ولكنها تثير أيضا تساؤلات بشأن ما يحدث عندما تتصرف النظم بطريقة مختلفة عما يقصده المطورون.
ويحاول الاتفاق الجديد معالجة هذه المسألة عن طريق اشتراط مستويات متعددة من الرصد بدلا من الاعتماد على عملية أمان داخلية واحدة.
ويمكن أن يصبح التقييم الخارجي مهماً بوجه خاص نظراً إلى أن الشركات تفرج بصورة متزايدة عن وكلاء التنفيذ المستقلين.
ماذا سيحدث بعد ذلك
والسؤال المباشر هو كيف ستترجم الشركات المشاركة الاتفاق إلى ضمانات تنفيذية.
وتحدد الوثيقة المبادئ، ولكن فعالية هذه المبادئ ستتوقف على التنفيذ، بما في ذلك كيفية اختيار المقيِّمين المستقلين، وما هي المعايير التي تطبقها وكيف تستجيب الشركات عند اكتشاف المخاطر.
والسؤال الآخر هو الشفافية.
The public may increasingly expect companies to explain how advanced models were evaluated before release and what safeguards are operating after deployment.
في الوقت الراهن، يمثل الاتفاق التزاماً منسقاً كبيراً يشمل العديد من الشركات التي تبني أكثر أنظمة الذكاء الصناعية تقدماً في العالم.
وسواء أصبحت هذه الضمانات الطوعية في نهاية المطاف قواعد إلزامية ستتوقف على القرارات التي يتخذها في المستقبل المشرعون والمنظمون والشركات نفسها.
وما هو واضح بالفعل هو أن أمان منظمة العفو الدولية انتقل من مناقشة متخصصة في التكنولوجيا إلى مسألة مركزية بالنسبة للحكومات والأعمال التجارية ومئات الملايين من الناس الذين يستخدمون ذكاء اصطناعي كل يوم.