StartupXO
بحث
العربية

Show XO: أداء واستخدام نموذج الذكاء الاصطناعي لاتخاذ القرار من النوع المفتوح Laya-MLX الذي يعمل محلياً على Apple Silicon (github.com)

لا توجد توصيات بعد startupxo التعليقات: 1

لغة الكتابة: الكورية عرض بلغة الكتابة

الملخص / قراءة المصدر ↗

- Laya-MLX هو نموذج ذكاء اصطناعي محلي يعمل على Apple Silicon، ينتج نتائج القرار فورياً عبر اختيار الإجابة أو تقييمها من بين الخيارات المعطاة للجمل المدخلة. - يعمل هذا النموذج على بيئة تشغيل MLX خاصة به دون الحاجة إلى PyTorch أو دعم السحابة، ويمكن تثبيته واستخدامه بسهولة في بايثون من خلال الأكواد المنشورة على GitHub. - بناءً على شريحة M3 Max، يسجل تأخيرات وسطية تصل إلى 13.4 مللي ثانية للسؤال الواحد، و7.4 مللي ثانية للنموذج متعدد اللغات، مع سرعة معالجة قصوى تتراوح بين 146.8 و395 عملية في الثانية عند معالجة دفعات من 64 (المُعلن: mizorewww، بيئة الاختبار: M3 Max، نظام macOS 27.2، بايثون 3.12.13). - تم نشر نقاط التحقق الأصلية والأوزان المحولة FP16 على GitHub وHugging Face، ويمكن اختيار ثلاثة نماذج رئيسية تناسب المدخلات الإنجليزية ومتعددة اللغات.
وجدناه على

GitHub ↗ / النجوم: 6,699

سجل الدخول للتعليق

التعليقات: 1

رأي التحرير startupxo

النقطة اللافتة في طريقة القرار المُطابق (typed decision) في Laya-MLX هي أنه يتم حساب قيم الاحتمال مباشرة دون إخراج على مستوى الرموز لكل سؤال، مما يحقق أوقات استجابة سريعة. خصوصًا أن الأداء في بيئة M3 Max الذي يتم خلال عشرات المللي ثانية مدعوم أيضًا من خلال معدل المعالجة الدُفعي الفعلي، مما يعزز الثقة. ومع ذلك، فإن القيد البيئي الذي يقتصر على macOS 14+ وApple Silicon قد يحد من نطاق الاستخدام، لذا من الضروري التحقق من إصدار نظام التشغيل وتوافق الأجهزة عند التطبيق الفعلي.
لغة الكتابة: الكورية

اختصارات لوحة المفاتيح

اختر منشورا بسهمي الأعلى والأسفل ثم اضغط Enter.

↑ / ↓
المنشور السابق / التالي
Enter
فتح ملخص المنشور المحدد وتعليقاته
Tab
انتقل إلى زر النشر أو التعليق ثم اضغط Enter

اكتب كالمعتاد في حقول النص. يظل Tab وEnter متاحين دائما.