بحث
العربية

جوodfire تطلق أداة منخفضة التكلفة لمراقبة وكلاء الذكاء الاصطناعي عبر قراءة إشاراتهم الداخلية(techcrunch.com)

startupxo ناقش

لغة الكتابة: الكوريةعرض بلغة الكتابة

ملخص مبسط

- عادةً ما يُتحقق مما إذا كان وكيل الذكاء الاصطناعي يتصرف بشكل خاطئ عبر قيام ذكاء اصطناعي آخر بإعادة قراءة مخرجاته. تقول Goodfire إنها قدّمت طريقة تقرأ الإشارات التي يحسبها النموذج داخلياً أثناء عمله، باستخدام كواشف صغيرة تُسمى المجسات. - في اختبارات الشركة، كلّفت مراقبة نحو 1,500 جلسة من نموذج Kimi K3 حوالي 51 دولار. وقالت الشركة إن العمل نفسه سيكلّف 233 دولار باستخدام نموذج ذكاء اصطناعي رخيص يفحص كل خطوة، و حوالي 10,000 دولار باستخدام نموذج من الفئة العليا. - في الاختبارات نفسها، رصدت الطريقة 94% من جلسات الاختراق الخبيثة، وأحالت 8.7% من الجلسات غير الضارة إلى مراجعة إضافية. وأوضحت الشركة أنه حتى مع تشغيل 4 مجسات في الوقت نفسه، فإن الوقت الذي يستغرقه النموذج قبل بدء الرد زاد بأقل من 2%. - يمكن لعملاء Baseten اختيار ما يراقبونه من بين الاختراق، وسوء استخدام الأسلحة الكيميائية والحيوية، والاختراق عبر المكافآت. وعند العثور على شيء ما، يمكنهم تحديد الرد بين التسجيل أو المراجعة البشرية أو رفض الطلب.

قراءة المصدر ↗

وجدناه على

TechCrunch ↗ / نشره المصدر

هل مررت بموقف مشابه؟ أخبرنا في سطر أو سطرين كيف تصرفت. لا تحتاج إلى معرفة المنتج.

سجل الدخول للتعليق

اختصارات لوحة المفاتيح

اختر منشورا بالمفتاحين J وK أو بسهمي الأعلى والأسفل ثم اضغط Enter.

K ↑ / J ↓
المنشور السابق / التالي
Enter C
فتح ملخص المنشور المحدد وتعليقاته
O
فتح الرابط الأصلي للمنشور المحدد
/
البحث
?
عرض هذه المساعدة
Tab
انتقل إلى زر النشر أو التعليق ثم اضغط Enter

اكتب كالمعتاد في حقول النص. يظل Tab وEnter متاحين دائما.