في هذه الصفحة
الجواب المختصر
تصنيف فشل الذكاء الاصطناعي هو تصنيف مشترك للأخطاء التي حدثت وأين يجب التحقيق فيها. افصل العرض الملحوظ عن السبب المقترح، واحتفظ بالأدلة، وقم بتعيين التجربة التالية. تكون التسمية مفيدة عندما تغير ما يفعله الفريق بعد ذلك.
ما يجب أخذه
- ولا تخلط بين العرض الظاهر والسبب الثابت.
- السماح بحالات فشل متعددة دون حدوث عد مزدوج.
- ربط كل فئة بتحقيق ومالك.
تم التحقق من المصادر . توليف البحوث وتوصيات Rubrex. تم تصنيف الأمثلة والتجارب المحلية؛ فهي ليست نتائج العميل.
تؤكد المعايير الحديثة على التشخيص على مستوى المرحلة
تفصل النسخة الأولية لـ ChemCost لعام 2026 الأخطاء في التأريض، والاسترجاع، واختيار المشتريات، والحساب ضمن مهمة أداة علمية. تقترح نسخة أولية منفصلة من RAG للمؤسسة إطار عمل تشخيصي متعدد الأبعاد. يوضح كلاهما لماذا قد لا تكون النتيجة الشاملة وحدها كافية لتحديد موقع الفشل. تختلف مجالاتهم وافتراضاتهم عن مساعدي الأعمال العامين.
الأدلة: هل يستطيع الوكلاء تسعير رد الفعل؟ تقييم LLMs على منطق التكلفة الكيميائية [1]التغلب على "عدم التطبيق العملي" لـ RAG: اقتراح معيار عالمي حقيقي وإطار تشخيصي متعدد الأبعاد [2]
احتفظ بثلاثة مستويات من الوصف
توصي Rubrex بتسجيل أحد الأعراض ومنطقة التحقيق ومستوى الثقة للفرضية السببية. على سبيل المثال: تشير الإجابة إلى سياسة قديمة؛ التحقق من نضارة الاسترجاع؛ السبب لم يتأكد بعد. يمنع هذا المراجع من تعيين خطأ فوري لمجرد أن الاستجابة النهائية خاطئة.
استخدم مفردات صغيرة عالية المستوى يمكن للمراجعين المختلفين تطبيقها باستمرار. قم بتوسيع الفئة عندما تحتوي على حالات فشل تحتاج إلى علاجات مختلفة ماديًا. يمكن للتصنيف الذي يحتوي على العشرات من التسميات الدقيقة أن يخلق مظهرًا من الدقة مع زيادة الخلاف ووقت المراجعة.
صنف قبل اقتراح الإصلاح
قم بمراجعة المدخلات والسياق المسترجع ونتائج الأداة والمخرجات معًا. اسأل ما إذا كانت الأدلة اللازمة متاحة، وما إذا كانت قد وصلت إلى النموذج، وما إذا كان النموذج قد استخدمها، وما إذا كان النظام النهائي قد قبل النتيجة. قد تحدث عدة حالات فشل في تتبع واحد؛ تحديد الفشل الأساسي المتعلق بالقرار مع الاحتفاظ بالعوامل المساهمة.
تتبع هوية الحادث بشكل منفصل عن التسميات. إذا تلقت استجابة واحدة فاشلة علامتي الاسترجاع والاستشهاد، فستظل استجابة واحدة فاشلة في المقام. قد تتداخل أعداد الفئات، لكن هذا التداخل يجب أن يكون واضحًا.
| الفشل الملحوظ | التحقيق القادم |
|---|---|
| الحقيقة المطلوبة مفقودة | التحقق من توفر المصدر وتغطية الاسترجاع |
| تم إرسال معرف خاطئ إلى الأداة | فحص بناء الوسيطة وحل الكيان |
| تم رفض الإخراج الصحيح في اتجاه مجرى النهر | فحص المخطط وعقود التكامل |
| الإجراء المتكرر بعد انتهاء المهلة | افحص تسوية الحالة وأعد محاولة السلوك |
مثال توضيحي: تحديث مكرر
يقوم الوكيل بتحديث سجل العميل مرتين بعد انتهاء المهلة. العَرَض هو تغيير حالة مكررة. ومن بين المساهمين المحتملين العجز المفقود، والاستجابة الغامضة للأدوات، وسياسة إعادة المحاولة التي تفترض أن الفشل لا يعني أي آثار جانبية. إن وصف الحدث بأنه هلوسة من شأنه أن يحجب الثلاثة.
اختبر حدود الأداة من خلال استجابات المهلة الخاضعة للرقابة وافحص الحالة الناتجة. ثم قارن تغيير سياسة إعادة المحاولة في ظل نفس الظروف. تعد التجربة أكثر إفادة من التساؤل عما إذا كانت مطالبة النظام الجديد تبدو أكثر حذرًا.
مراجعة التصنيف عندما يتوقف عن توجيه العمل
إجراء مراجعة دورية للحالات غير المصنفة والخلافات المتكررة. دمج التسميات التي تؤدي إلى نفس التحقيق، وتقسيم التسميات التي تخفي التدخلات المختلفة. احتفظ بنسخة التصنيف مع عمليات التقييم حتى لا تبدو التغييرات في التصنيف وكأنها تغييرات في سلوك النظام.
حدود الأدلة
التصنيف والأمثلة هنا هي أدوات هندسية مقترحة. الإسناد السببي يتطلب التحقيق. يمكن أن تكون الآثار غير مكتملة، وقد يكون التفسير المعقول خاطئًا. ولا ينبغي تعميم النتائج المستخلصة من المعايير المتخصصة على معدلات الخطأ في الإنتاج.
الأسئلة الشائعة
هل يمكن أن يكون للفشل الواحد عدة تسميات؟
نعم. احتفظ بفئة أساسية لتحديد الأولويات والمساهمين الثانويين للتحقيق، مع حساب كل حالة فاشلة مرة واحدة في معدل الفشل الإجمالي.
هل كل فشل يؤدي إلى تغيير سريع؟
لا. يتطلب البعض بيانات مصدر أفضل، أو عقود أدوات، أو أذونات، أو التحقق من الصحة، أو إعادة محاولة المعالجة.
المصادر ومزيد من القراءة
المصادر الأولية وراء هذا الإيجاز. تنطبق النتائج التي توصل إليها المصدر على ظروف الدراسة الخاصة به؛ النشر على arXiv لا يؤسس لمراجعة النظراء.
- هل يستطيع الوكلاء تسعير رد الفعل؟ تقييم LLMs على منطق التكلفة الكيميائية arXiv · 2026 · ما قبل الطباعةتمت المراجعة: سجل الملخصات والنشر. تم الوصول إليها 25 سبتمبر 2026.
- التغلب على "عدم التطبيق العملي" لـ RAG: اقتراح معيار عالمي حقيقي وإطار تشخيصي متعدد الأبعاد arXiv · 2026 · ما قبل الطباعةتمت المراجعة: سجل الملخصات والنشر. تم الوصول إليها 25 سبتمبر 2026.
أسئلة أو تصحيحات؟ اكتب إلى Rubrex. اقرأ منهجنا التحريري.