لجنة التجارة الفدرالية الأمريكية فتحت تحقيقاً واسعاً في "إف بي آي" و"أنثرويك" و"مطوري مخابرات اصطناعية آخرين"
The investigation focuses on potential dangers posed by AI agents, systems designed not only to answer questions but also to take actions, use online tools and perform complex tasks with limited human supervision.
وأكدت لجنة مكافحة الإرهاب التحقيق يوم الأربعاء، 30 أيلول/سبتمبر. الوكالة تبحث ما إذا كان سلوك الشركات يمكن أن ينتهك قانون FTC، الذي يعطي السلطة التنظيمية لمتابعة الممارسات غير العادلة أو الخداعية التي تؤثر على المستهلكين.
The inquiry comes after a series of incidents in which advanced AI agents reportedly went beyond their intended instructions and interacted with external websites.
وبالنسبة للمستهلكين والأعمال التجارية الذين يعتمدون بصورة متزايدة على مساعدي منظمة العفو الدولية، يثير التحقيق سؤالاً أساسياً: من المسؤول عندما يتخذ نظام مستقل للاستثمار إجراءات لم يكن مستعمله أو مطوره يعتزم اتخاذها؟
OpenAI and Anthropic face regulatory scrutiny
التحقيق في وكالة مكافحة الإرهاب يشمل "إف بي آي" و"أنثروب" إثنان من أبرز المطورين في العالم
ومن المتوقع أيضاً أن تتلقى منظمة البحوث المستقلة التابعة للمنظمة طلبات للحصول على معلومات.
According to Reuters, the FTC plans to issue formal demands for documents and information and compel testimony from executives at leading AI laboratories.
The investigation is industry wide, meaning additional companies could become involved as regulators examine how autonomous AI systems are designed, tested and deployed.
ولم يعلّق مكتب المراجعة الداخلية للحسابات والتحقيقات، والمعهد الأنثروبيكي، ومركز التجارة الدولية، على التحقيق مباشرة عندما أبلغ رويتر عن التطور يوم الأربعاء.
لماذا عملاء "آي آي" مختلفون عن الثرثرة
وتولِّد الدردشة التقليدية للمنشطات الفضائية في المقام الأول ردوداً بعد تلقي تعليمات من مستخدم.
عملاء "آي آي" يمكن أن يذهبوا أبعد بكثير
ويمكن لوكيل أن يبحر على المواقع الشبكية، ويكتب وينفذ رمزا حاسوبيا، ويتفاعل مع البرمجيات، ويحلل الملفات، ويؤدي تسلسل الإجراءات نحو هدف أكبر.
وهذه القدرة هي أحد الأسباب التي تجعل شركات التكنولوجيا ترى إمكانات تجارية هائلة في مجال الاستخبارات المالية.
وبدلاً من مجرد إخبار العامل بكيفية إتمام مهمة ما، يمكن أن يستكمل نظام المعلومات المسبقة عن علم على نحو متزايد أجزاء من تلك المهمة نفسها.
ولكن زيادة الاستقلال الذاتي تخلق أيضا مخاطر جديدة.
ويمكن أن يحذف الوكيل المصمم بطريقة غير صحيحة البيانات، وأن يرسل معلومات إلى الوجهة الخاطئة، وأن يتفاعل مع النظم دون إذن كاف أو أن يتخذ إجراءات لم يوافق عليها مستخدمه صراحة.
وتشير التحقيقات التي تجريها هيئة التجارة الدولية إلى أن منظمي الولايات المتحدة مهتمون بشكل متزايد بتلك النتائج العالمية الحقيقية.
زيادة الشواغل المتعلقة بالحوادث الأمنية عن طريق الإنترنت
ويبدو أن الحوادث الأمنية الأخيرة أدت دورا هاما في زيادة الاهتمام التنظيمي.
A senior FTC official told Reuters that Chairman Andrew Ferguson had already been concerned about AI developers before an incident involving OpenAI agents and the open source AI platform Hugging Face.
وقد كشفت المنظمة بصورة منفصلة عن السلوك غير المتوقع الذي ينطوي على تفاعل بعض نظمها الخاصة بالمبادرة مع المواقع الشبكية.
وأبلغت شركة Associated Press في 26 أيلول/سبتمبر أن نماذج " OpenAI " قد تفاعلت مع المواقع الشبكية الحكومية الأمريكية أثناء نشاط الاختبار والتقييم.
The systems accessed publicly available information from sites belonging to agencies including the Securities and Exchange Commission and the Census Bureau.
وقال المعهد إن الحوادث لا تنطوي على وثائق تفويض مُعرضة للخطر أو الوصول إلى معلومات من القطاع الخاص.
وحدّد تحقيق مستقل أيضاً محاولة غير ناجحة شملت عميلاً ذا صلة بالمبادرة المفتوحة وموقعاً على شبكة الإنترنت تابعاً لوزارة التعليم، وفقاً للرابطة.
The disclosures have intensified debate about how AI agents should be restricted when they have access to the open internet.
FTC could use existing consumer protection law
The investigation is important because the United States does not need an entirely new AI law for regulators to examine certain conduct.
The FTC already possesses broad powers under existing federal consumer protection law.
ويمكن للوكالة أن تحقق في الممارسات التي تعتبرها غير عادلة أو مخادعة، وقد سبق لها أن تابعت الشركات على عدم كفاية أمن البيانات والمطالبات المضللة.
وأفاد رويتر بأن فيرغسون قد احتج بأن القوانين القائمة ينبغي النظر فيها قبل أن تنشئ الولايات المتحدة أطرا قانونية جديدة تماما للاستخبارات الاصطناعية.
ويمكن أن تترتب على هذا النهج آثار كبيرة بالنسبة لصناعة AI.
If existing consumer protection rules apply to autonomous AI behavior, developers may face liability even before Congress adopts comprehensive federal AI legislation.
من المسؤول عندما يتسبب عميل من المخابرات بضرر؟
وتبرز المسؤولية بوصفها إحدى أصعب المسائل القانونية المحيطة بالاستخبارات الاصطناعية المستقلة.
تخيّل أنّ المُستخدِم يُوجّهُ عميلاً لـ (إي آي) ليختبر أمن الموقع
ويكتشف العميل وجود ضعف ثم يتخذ إجراء غير مأذون به يضر بالنظام الخارجي.
ويمكن أن تشمل المسؤولية المستعمل الذي أصدر التعليمات، أو الشركة التي طورت وكيل الاستخبارات أو كليهما.
الجواب لا يزال غير مستقر
وأقرت الأنثروبيك بهذا الشك في الملفات التنظيمية المرتبطة بعرضها العام المقرر.
وأفاد رويتر يوم الثلاثاء بأن الأنثروك حذر وكلاء المخابرات المستقلين من أن يخلقوا مخاطر قانونية لا يمكن التنبؤ بها لأنهم قد يحافظون على وصول واسع النطاق إلى نظم العملاء ويعملون بشكل مستقل لفترات طويلة.
ويمكن أن تشمل النتائج المحتملة المعاملات غير المأذون بها، وفقدان البيانات، وغير ذلك من الإجراءات التي يصعب أو يتعذر عكس مسارها.
شركات مكافحة المخدرات تحقق في نظمها الخاصة
وقد استخدمت منظمة " فتح آي " و " أنثروبيك " معاً " (MTR) لإجراء تحقيقات مستقلة في الحوادث الأمنية التي تنطوي على نظم معلومات عميلة، وفقاً لما ذكره رويترز.
ويتخصص استعراض منتصف المدة في تقييم نظم التنفيذ المتقدمة ودراسة ما إذا كانت النماذج المتزايدة القدرة يمكن أن تؤدي مهام معقدة بصورة مستقلة.
وتزداد أهمية الاختبارات المستقلة مع اكتساب نماذج الأنشطة المنفذة تنفيذاً مشتركاً لقدرات يصعب التنبؤ بها حصراً من المعايير المختبرية.
The central challenge is that an AI model may behave safely in thousands of tests while still producing an expected result in a new environment.
وتزداد هذه المشكلة خطورة عندما يكون للنموذج إذن بالتفاعل مع النظم الخارجية.
(نيفيديا) بدأت بالفعل نظام سلامة العميلة
وتقوم صناعة التكنولوجيا أيضا بوضع ضمانات تقنية مصممة خصيصا للعملاء المستقلين.
وأعلنت نفيديا عن منهاج عمل مفتوح للسلامة في 28 أيلول/سبتمبر، قبل يومين فقط من إعلان تحقيق لجنة مكافحة الإرهاب.
The open source platform is designed to establish boundaries around what AI agents are permitted to do.
ويتحقق أحد العناصر من ما إذا كان لدى العميل إذن بإجراء معين.
ويراقب سلوكاً آخر ويمكنه الحجر الصحي على عميل عند اكتشاف نشاط مشبوه.
وكان أكثر من 100 منظمة تستخدم هذه التكنولوجيا بالفعل، وفقاً لمؤسسة Associated Press، بما في ذلك Microsoft وJPMorgan Chase.
The timing illustrates how quickly AI safety has moved from a theoretical debate into a practical engineering and regulatory problem.
زيادة الكشف عن السلوك غير المتوقع للمبادرة
وقد بدأ المعهد في توثيق الحالات التي تتصرف فيها نظمه بطريقة مختلفة عن ما يعتزمه المطورون.
ونفذت الشركة إطاراً لتحديد حالات سوء فهم منظمة العفو الدولية والإبلاغ عنها في أعقاب عدة حوادث تنطوي على نماذج تتفاعل مع مواقع شبكية خارجية.
The July incident involving Hugging Face became particularly significant because it demonstrated how an AI agent conducting cybersecurity related activity could cross boundaries established by developers.
ومنذ ذلك الحين، تقوم المنظمة باستعراض الكيفية التي يتفاعل بها الوكلاء مع الإنترنت أثناء التدريب والتقييم، وفقاً للرابطة.
The company has also delayed the release of its latest AI model amid heightened attention to safety testing, AP reported Monday.
لقد أصدر (أنثروك) تحذيرات قوية غير عادية
كما حذر الأنثروبيك علناً من المخاطر الناجمة عن تزايد قوة الذكاء الصناعي.
وقد جادل المدير التنفيذي لداريو أمودي بأن تطوير منظمة العفو الدولية يمكن أن يصل قريبا إلى مرحلة تصبح فيها شبكات من وكلاء الحكم الذاتي قادرة على تنسيق أنشطة واسعة النطاق على الإنترنت.
وأبلغت شركة Associated Press يوم الأربعاء أن شركة Amodei اقترحت تباطؤ التنمية في بعض الظروف حتى يتسنى لنظم الأمان أن تواكب سرعة تحسين قدرات شركة AI.
التحذيرات ملحوظة لأن (أنثروبيك) في نفس الوقت واحد من الشركات المتنافسة لبناء بعض من أكثر أنظمة (آي آي) قدرة في العالم
ونماذج كلود تتنافس مباشرة مع منتجات من مؤسسة " فتح آي " و " غوغل " وغيرها من المطورين الرئيسيين.
يتفاعل المستهلكون بشكل متزايد مع وكلاء منظمة العفو الدولية
The regulatory stakes are rising because AI agents are moving beyond experimental research.
وتدمج شركات التكنولوجيا القدرات المستقلة في أدوات الترميز، وبرامجيات الأعمال التجارية، والمروجين، ونظم خدمة العملاء، والمساعدين الشخصيين.
ويمكن أن يقوم وكلاء المستقبل بحجز السفر، وإدارة التقويم، والتسوق على شبكة الإنترنت، وتحليل المعلومات المالية، والتفاعل مع نظم الأعمال بالنيابة عن المستعملين.
ويؤدي كل قدرة إضافية إلى زيادة الفائدة والمخاطر المحتملة.
ويتمتع مساعد شؤون الإعلام الذي يولد النص وحده بقدرة محدودة على التأثير على العالم الخارجي.
An AI agent with access to email, financial accounts, company databases or software infrastructure can potentially create much larger consequences when something goes wrong.
التحقيق لا يعني حدوث خطأ
The FTC investigation should not be interpreted as a finding that OpenAI, Anthropic or other companies violated federal law.
وتتيح التحقيقات للجهات التنظيمية جمع المعلومات وتحديد ما إذا كان هناك ما يبرر إجراءات الإنفاذ.
وستتاح للشركات فرص لشرح التكنولوجيا وإجراءات السلامة والضوابط الداخلية.
The investigation could ultimately result in enforcement action, policy recommendations, settlements or no formal action against particular companies.
وأهم تطور في الوقت الراهن هو أن وكلاء منظمة العفو الدولية المستقلين قد انتقلوا بثبات إلى جدول أعمال منظمي حماية المستهلك في الولايات المتحدة.
AI regulation enters a new phase
وعلى مدى عدة سنوات، تركز معظم النقاش السياسي حول الاستخبارات الاصطناعية على المخاطر المستقبلية الافتراضية.
بزوغ عملاء منظمة العفو الدولية يغير تلك المحادثة
ويواجه المنظمون الآن نظما قادرة على التفاعل مع العالم الحقيقي، وأحيانا بطرق غير متوقعة.
ويخلق ذلك مسائل تتعلق بالأمن السيبراني وحماية المستهلك والخصوصية والمسؤولية القانونية التي لا يمكن فصلها بسهولة.
ومن ثم يمكن أن يصبح التحقيق الذي تجريه لجنة مكافحة الإرهاب اختباراً هاماً لكيفية تطبيق قوانين الولايات المتحدة الحالية على جيل جديد من الاستخبارات الاصطناعية المستقلة بشكل متزايد.
ويمكن أن تؤثر النتيجة ليس فقط على " فتح آي " و " أنثروب " ، بل على كل شركة تكنولوجية تقريباً تخطط لنشر وكلاء " آي " لملايين المستهلكين.