وقد وافقت بعض أكبر الأسماء في الاستخبارات الاصطناعية على إطار جديد يهدف إلى إبقاء نظم المعلومات المسبقة عن علم قيد السيطرة بسرعة، مما يشكل لحظة هامة في النقاش حول كيفية تنظيم التكنولوجيا.
وأعلن الرئيس دونالد ترامب في 29 أيلول/سبتمبر أن مسؤولين تنفيذيين من الشركات الرائدة في مجال مكافحة الإرهاب قد وقعوا اتفاقاً يغطي معايير السلامة والرقابة على تطوير الاستخبارات الاصطناعية.
The companies represented included [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic]
The agreement comes as the AI industry faces growing scrutiny over whether increasingly autonomous systems can be developed safely while companies race to release more capable models.
According to the Associated Press, the voluntary accord includes commitments involving strong internal controls, independent reviews and oversight at the board level.
ويمكن للتنمية أن تشكل المرحلة التالية من المناقشة العالمية بشأن الاستثمار الأجنبي المباشر، لا سيما وأن الولايات المتحدة قد أيدت حتى الآن نهجاً يركز على الابتكار نسبياً في حين أن أوروبا قد انتقلت نحو تنظيم أوسع نطاقاً.
AI companies agree to police themselves
The central idea behind the agreement is that AI companies will take greater responsibility for evaluating the risks created by their own systems.
ويدعو الاتفاق إلى إجراءات السلامة الداخلية، وكذلك إلى إجراء استعراضات خارجية ترمي إلى توفير فحص إضافي لنماذج التنفيذ الأكثر قوة.
ووصفت شركة ترامب الاتفاق بأنه ملزم أخلاقيا وليس ولاية تنظيمية تقليدية.
وأفاد رويتر بأن الإدارة تنظر أيضاً في إنشاء لجنة مكونة من 10 أعضاء للإشراف على التطورات الحاصلة في جميع قطاعات صناعة AI. ولم توضع بعد الصيغة النهائية لتفاصيل اللجنة، بما في ذلك سلطتها المحتملة وعضويتها.
وأكد المتحدث باسم البيت مايك جونسون بصورة منفصلة أن المسؤولين التنفيذيين في قطاع الصناعة قد وقعوا اتفاقا بشأن معايير التكنولوجيا خلال اجتماع البيت الأبيض.
وبالنسبة إلى وادي سيليكون، يمكن للنهج الطوعي أن يوفر بديلاً لتشريع اتحادي أكثر تقييداً.
بيد أن السؤال المطروح على المنتقدين هو ما إذا كانت الشركات التي تطور التكنولوجيا تستطيع تنظيم نفسها تنظيما فعالا في الوقت الذي تتنافس فيه مع الزبائن والاستثمار والقيادة التكنولوجية.
Google, Meta and other AI leaders join talks
وشارك في المناقشات عدد من أكثر الشخصيات تأثيرا في التكنولوجيا.
وكان سوندار بيكهاي ومارك زوكربرغ من بين المسؤولين التنفيذيين المعنيين، في حين كانت الشركات في مركز الازدهار الجيني للمبادرة الدولية ممثلة أيضا.
ويصل الاتفاق إلى لحظة حساسة للغاية بالنسبة للصناعة.
وأصبحت نماذج الأنشطة المنفذة تنفيذاً مشتركاً قادرة على أداء مهام تزداد تعقيداً مع إشراف إنساني أقل مباشرة. The rapid emergence of AI agents, systems capable of carrying out sequences of actions rather than simply answering questions, has intensified concerns about security and control.
كما حذر الباحثون من المختبرات الرائدة في مجال التنفيذ علنا من سرعة التنمية.
وأفاد رويتر في 29 أيلول/سبتمبر أن الباحثين الحاليين والسابقين من منظمة " فتح آي " و " غوغل ديب ميند " قد أثاروا شواغل بشأن الشركات التي تتبع نظما قادرة على تحسين قدراتها في الوقت الذي تكافح فيه تدابير السلامة للحفاظ على سرعتها.
وتتراوح هذه الشواغل بين تعطيل الوظائف والتهديدات المتعلقة بالأمن السيبراني إلى سيناريوهات أكثر حدة بكثير تشمل نظم المعلومات المسبقة عن علم تتصرف بطرق لا يقصدها مطوروها.
قام المعهد بتمديد نموذج بشأن الشواغل المتعلقة بالسلامة
وأوضح أحد التفاصيل من تجمع البيت الأبيض مدى جدية بعض المختبرات في معالجة المشكلة.
المدير التنفيذي لـ (أبن إيه سام آلتمان) قال أن شركته قد أوقفت إطلاق نموذج بسبب مخاوف تتعلق بالسلامة، وفقاً لـ (ساوثد برس)
The disclosure comes as AI companies increasingly test advanced models before public deployment to determine whether they could be misused or behave expectedly.
وفي الوقت نفسه، تواجه الصناعة ضغوطا تجارية هائلة للتحرك بسرعة.
وتنفق شركة " OpenAI " و " Google " و " Anthropic " و " Meta " وغيرها من الشركات إنفاقاً كبيراً على البنية التحتية الحاسوبية وتتنافس على بناء نظم فعالة قادرة بشكل متزايد.
وهذا يخلق توازنا صعبا بين السرعة التكنولوجية والسلامة التكنولوجية.
نفيديا تطلق التكنولوجيا المصممة لإيقاف عملاء مكافحة المخدرات
The new agreement also follows a major AI security announcement from Nvidia.
On September 28, Nvidia introduced its Open agent Safety Platform, a security system intended to prevent autonomous AI agents from performing unauthorized actions.
The platform includes technology that verifyifies what an AI agent is permitted to do and another component capable of monitoring suspicious activity and quarantining potentially dangerous behavior.
ويستخدم أكثر من 100 منظمة هذه التكنولوجيا بالفعل، وفقاً لوكالة أسوشيتد برس.
وقد دفع كبير الموظفين التنفيذيين في نيفيديا جينسن هوانغ بأنه يمكن التعامل مع سلامة شركة AI بصورة جزئية كتحدٍ هندسي، مع توفير حماية أقوى للبرامجيات التي توفر حدوداً حول نظم مستقلة بشكل متزايد.
واشنطن تزن نهجا مختلفا من أوروبا
كما تسلط المناقشة الضوء على وجود فرق موسع بين النهج الأمريكية والأوروبية إزاء الاستخبارات الاصطناعية.
The Trump administration has repeatedly emphasized maintaining US technological leadership and avoid restrictions that it believes could slow innovation.
The White House AI Action Plan describes leadership in artificial intelligence as a national security priority and argues that the United States must remain ahead of global competitors.
وقد اتخذ المنظمون الأوروبيون نهجا أكثر تدخلا.
On the same day as the White House AI meeting, Google challenged European Union regulatory orders requiring it to provide greater access to certain services for AI developers and competing search motors.
ويدفع غوغل بأن المتطلبات يمكن أن تعرض معلومات حساسة عن المستعملين، في حين تؤكد المفوضية الأوروبية أن ضمانات الخصوصية المناسبة مشمولة.
ويبيّن النـزاع كيف تكافح الحكومات من أجل تحقيق التوازن بين المنافسة والخصوصية والابتكار والأمن بينما تصبح منظمة العفو الدولية جزءاً من الاقتصاد العالمي.
المعركة القادمة حول تنظيم AI
The voluntary agreement does not settle the larger question of whether binding federal AI regulation will eventually be required.
وبدلاً من ذلك، ينشئ هذا الإطار إطاراً مدعوماً بالصناعة في وقت يناقش فيه المشرعون والباحثون وشركات التكنولوجيا مدى سرعة تطور الرقابة الحكومية.
وتتزايد المخاطر مع تحركات " آي " إلى أبعد من الدردشة وإلى وكلاء مستقلين قادرين على التفاعل مع نظم الحاسوب، وكتابة البرامجيات، وإجراء البحوث والاضطلاع بمهام رقمية معقدة.
وفي الوقت الراهن، تتحمل واشنطن مسؤولية كبيرة عن إنشاء ضمانات حول منتجاتها.
وقد تصبح مسألة ما إذا كانت الالتزامات الطوعية كافية أحد المسائل المحددة المتعلقة بسياسات التكنولوجيا في السنوات القادمة.