أداء واستخدام نموذج الذكاء الاصطناعي لاتخاذ القرار من النوع المفتوح Laya-MLX الذي يعمل محلياً على Apple Silicon(github.com)
لغة الكتابة: الكوريةعرض بلغة الكتابة
ملخص مبسط
- Laya-MLX هو نموذج ذكاء اصطناعي محلي يعمل على Apple Silicon، ينتج نتائج القرار فورياً عبر اختيار الإجابة أو تقييمها من بين الخيارات المعطاة للجمل المدخلة.
- يعمل هذا النموذج على بيئة تشغيل MLX خاصة به دون الحاجة إلى PyTorch أو دعم السحابة، ويمكن تثبيته واستخدامه بسهولة في بايثون من خلال الأكواد المنشورة على GitHub.
- بناءً على شريحة M3 Max، يسجل تأخيرات وسطية تصل إلى 13.4 مللي ثانية للسؤال الواحد، و7.4 مللي ثانية للنموذج متعدد اللغات، مع سرعة معالجة قصوى تتراوح بين 146.8 و395 عملية في الثانية عند معالجة دفعات من 64 (المُعلن: mizorewww، بيئة الاختبار: M3 Max، نظام macOS 27.2، بايثون 3.12.13).
- تم نشر نقاط التحقق الأصلية والأوزان المحولة FP16 على GitHub وHugging Face، ويمكن اختيار ثلاثة نماذج رئيسية تناسب المدخلات الإنجليزية ومتعددة اللغات.
وجدناه على
GitHub ↗ / النجوم: 6,699
هل مررت بموقف مشابه؟ أخبرنا في سطر أو سطرين كيف تصرفت. لا تحتاج إلى معرفة المنتج.