- قال ناديلا في منشور طويل على منصة X إن الوضع الحالي يجب أن يتغير، إذ إن الطريقة الوحيدة للتحقق من أحكام الذكاء الاصطناعي هي قبولها أو رفضها كما هي. ووصف ذلك بأنه صناديق سوداء متداخلة.
- الاتجاه الذي اقترحه هو نظام يعزل النماذج ويتيح مراقبتها، ويترك أدلة مقاومة للتلاعب ويمكن للبشر قراءتها. وذكر أيضا إجراءات مثل الإفصاح عن الحوادث في وقتها، وإخضاعها لمراجعات مستقلة، وجعل البيانات قابلة للتحقق.
- وبحسب النص الأصلي، قال إن النماذج يجب أن يُفترض أنها مخترقة منذ البداية وأن تُعزل. وينبغي للأشخاص المخولين أن يتمكنوا من إيقاف النموذج أو إغلاقه حتى في منتصف المهمة، وأضاف أن النماذج الأكثر تقدما ستحتاج إلى تقنيات عزل متقدمة وموحدة.
- هذا رأي ناديلا الشخصي. ولم يتحقق المقال بشكل مستقل من فاعلية تقنيات العزل التي وصفها. ويشير النص الأصلي أيضا إلى أنه يسمي الذكاء الاصطناعي super intelligence عدة مرات في المنشور.
لا يوضح المقال من يملك فعلياً صلاحية الإيقاف الطارئ التي ذكرها ناديلا، وهذه الثغرة هي أول ما لفت انتباهي. إذا كنت تصمم سير عمل في عملك تُعتمد فيه مخرجات الذكاء الاصطناعي، فأتساءل هل حددت من يستطيع إيقاف النموذج أثناء تنفيذ المهمة.