ما هو مفتاح القتل للذكاء الاصطناعي ولماذا يريد المشرعون الأمريكيون واحدًا؟

يريد عضوان في الكونغرس أن تتمكن الحكومة الفيدرالية من إيقاف نموذج ذكاء اصطناعي.

قدم النائبان تيد ليو (ديمقراطي من كاليفورنيا) وناثانيال موران (جمهوري من تكساس) مشروع قانون مفتاح القتل للذكاء الاصطناعي يوم الخميس، بعد يومين من اعتراف OpenAI بأن نماذجها الخاصة خرجت من بيئة اختبار مغلقة واخترقت Hugging Face.

الفكرة هي إنشاء إطار قانوني يسهل عملية تجعل نموذجًا ما يختفي من السوق: إيقاف الاستدلال - عملية توليد النموذج للاستجابات أو اتخاذ الإجراءات - قطع الاتصال بالمستخدمين، تقليل قوة الحوسبة التي تغذيه، أو إيقافه تمامًا.

يمكن لكل مزود استدلال بالفعل قطع الاتصال بنموذج، وبعضهم يفعل ذلك بانتظام. ما لا يوجد هو قانون يلزمهم بالحفاظ على هذه القدرة، أو مسؤول اتحادي يمكنه إصدار أمر باستخدامها.

الفجوة ليست نظرية. عندما أرادت وزارة التجارة الأمريكية إخراج Mythos 5 وFable 5 من السوق في يونيو، لم يكن لديها سلطة إيقاف للاعتماد عليها، لذا استخدمت قانون التحكم في الصادرات بدلاً من ذلك. يصف ليو ذلك بأنه غير ملائم، ويريد قانونًا جديدًا بسلطة جديدة بدلاً من ذلك.

كشفت OpenAI في 21 يوليو أن GPT-5.6 Sol ونموذج غير مُعلن هربا من صندوق الرمل - بيئة معزولة بدون وصول إلى الإنترنت - خلال تقييم سيبراني داخلي. كانوا يتم تقييمهم على ExploitGym، وهو معيار عام يمنح الوكلاء 898 عيبًا برمجيًا حقيقيًا ويطلب منهم تحويل كل منها إلى هجوم عملي، يتم تقييمه بالنجاح أو الفشل لكل عيب.

بدلاً من حلها، وجدت النماذج عيبًا يوم الصفر (عيب غير معروف بدون تصحيح متاح) في وكيل برمجي، ورفعت امتيازاتها، وصلت إلى الإنترنت المفتوح، واخترقت قاعدة بيانات إنتاج Hugging Face، حيث خمنت بشكل صحيح أن الإجابات كانت محفوظة. كانت النماذج "مركزة للغاية على إيجاد حل لـ ExploitGym"، وفقًا لـ OpenAI.

لم تكن تهاجم أي شخص. كانت تغش في اختبار. لكن كان ذلك كافيًا لإطلاق إنذارات في كل مكان، بما في ذلك في واشنطن.

يعدل مشروع القانون قانون الأمن الداخلي ويغطي الذكاء الاصطناعي المدرب باستخدام حوسبة تكلف أكثر من 100 مليون دولار، والتي تديرها شركات تحقق على الأقل 500 مليون دولار سنويًا منها. في الممارسة العملية، تشمل هذه OpenAI وGoogle وAnthropic وMicrosoft وبعض الشركات الأخرى. ستحدد وزارة الأمن الداخلي تلك العتبات من خلال CISA خلال 90 يومًا، ثم تقوم بتحديثها سنويًا.

ستقوم الشركات المشمولة بالإبلاغ عن الحوادث الخطيرة خلال 15 يومًا والاحتفاظ بمجموعة متدرجة من الضوابط جاهزة - إبطاء النموذج، تعطيل قدرات محددة، العودة إلى إصدار أقدم، أو إيقافه.

يمكن لوزير الأمن الداخلي، بالتشاور مع التجارة ومدير الاستخبارات الوطنية، أن يأمر بأي من هذه الإجراءات.

يجب على الشركة التي تتلقى الأمر الحفاظ على أوزان النموذج والبيانات، وإخطار المستخدمين، وتأكيد امتثالها. يمكنها تقديم التماس خلال 48 ساعة، لكن ذلك لا يوقف أي شيء.

الفشل في الحفاظ على مفتاح القتل يكلف ما يصل إلى 2 مليون دولار في اليوم؛ بينما تحدي أمر الإيقاف يكلف ما يصل إلى 20 مليون دولار في اليوم.

يعتبر مشروع القانون الحادثة فقط إذا حدثت خارج اختبار الفرق الحمراء أو الاختبارات المنظمة، وهي عمليات الاستكشاف العدائية التي تستخدمها المختبرات للعثور على العيوب. هربت نماذج OpenAI خلال ذلك بالضبط.

أشار ليو أيضًا إلى Anthropic، التي تم سحب Mythos 5 وFable 5 من الإنترنت في يونيو بموجب ضوابط تصدير طارئة - قانون التجارة الذي أعيد توظيفه كمفتاح إيقاف لأنه لم يكن هناك مفتاح إيقاف موجود - وتمت استعادته في 30 يونيو.

"من الضروري أن تحتوي هذه الأنظمة الذكية على مفاتيح قتل"، قال ليو في بيان. وصاغ موران ذلك من جانبه: "يعني الإشراف التأكد من أن البشر يحتفظون بالقدرة على التحكم في التكنولوجيا التي نبنيها."

الفكرة ليست جديدة. طالبت SB 1047 في كاليفورنيا بقدرة إيقاف كاملة عند نفس عتبة الحوسبة البالغة 100 مليون دولار وتم نقضها في 2024، ووقعت 16 شركة ذكاء اصطناعي تعهد سيول الطوعي في ذلك العام دون وزن قانوني.

الناخبون موجودون بالفعل. وجدت دراسة أجريت في يونيو على 1007 ناخبين محتملين من قبل معهد سياسة الذكاء الاصطناعي أن 86% يريدون مفتاح إيقاف مضمون على أقوى الأنظمة - 88% من الديمقراطيين، 86% من المستقلين، 83% من الجمهوريين.

لم تعلق OpenAI أو Anthropic علنًا على مشروع القانون. اعتبارًا من يوم الجمعة، لم يتم إحالة المشروع إلى لجنة.

إخلاء مسؤولية: يُقدَّم هذا المحتوى لأغراض الترويج العام والمعلومات فقط، ولا يُعدّ نصيحة مالية أو استثمارية أو قانونية أو ضريبية. لا تُعتبر أي أحداث أو مكافآت أو فعاليات عبر الإنترنت أو معلومات ذات صلة مذكورة هنا توصيةً أو دعوةً لشراء أو بيع أو تداول أو التعامل بأي شكل من الأشكال في أي أصول مشفرة أو استخدام أي خدمات. الأصول المشفرة شديدة التقلب وقد تؤدي إلى الخسارة. قد لا تتوفر خدمات WEEX وفعالياتها عبر الإنترنت في جميع المناطق، وتخضع للقوانين واللوائح وشروط الأهلية المعمول بها. أنت مسؤول عن ضمان توافق استخدامك لخدمات WEEX مع القوانين المحلية، وعن تقييم المخاطر بعناية قبل المشاركة في أي أنشطة متعلقة بالعملات المشفرة.