علوم الذكاء الاصطناعي والتعلّم الآلي الحديثة في ميزان القرآن ومنطق البيان

المرحلة السابعة: الدراسات المقارِنة والإصلاحية في ميزان القرآن ومنطق البيان

الكتاب الخامس والخمسون

علوم الذكاء الاصطناعي والتعلّم الآلي الحديثة في ميزان القرآن ومنطق البيان

دراسة مقارنة إصلاحية من البيانات والتمثيل والتعلّم والتصنيف والتوقع والتوليد إلى إعادة بناء علم الذكاء الاصطناعي في نظام التعليم والبيان والحسبان والتثبت والميزان والأمانة والقسط والمسؤولية والمآل

العنوان الكلي للمرحلة

من حاكمية القرآن على العلوم إلى إعادة بناء التراث الإنساني وتقويمه وإصلاحه في ميزان القرآن ومنطق البيان

موسوعة علم الأصول النظرية للتفسير البيان

في ميزان القرآن ومنطق البيان

التمهيد المنهجي: من الحوسبة إلى التعلّم الآلي

يأتي هذا الكتاب بعد علوم الحوسبة ومعالجة المعلومات، لأن الحوسبة تضبط تمثيل البيانات وتنفيذ التعليمات والحفظ والاسترجاع، بينما يضيف التعلم الآلي طبقة أخرى تقوم على استخراج أنماط من أمثلة سابقة ثم استعمال تلك الأنماط في الفرز والتوقع والتوليد. وهذه الزيادة تفتح قدرات واسعة، لكنها تفتح معها أبواباً جديدة للخطأ والوهم والتحيز والمسؤولية.

ولا يُقصد بالذكاء الاصطناعي عقل مستقل عن الإنسان، ولا ذاتاً عارفة بالمعنى الإنساني، بل منظومات حسابية تُبنى من بيانات وتعليمات وطرائق وزن ومقارنة، ثم تنتج مخرجات بحسب ما دُرّبت عليه وبحسب الحدود التي وُضعت لها. ومن هنا يجب تحرير لفظ الذكاء من المبالغة التي تنقل صفات الإنسان إلى الآلة بلا دليل.

وأول الثغرات التي يعالجها الكتاب هي الخلط بين التنبؤ والعلم. المنظومة التي تتوقع كلمة أو تصنف صورة لا تعلم الغيب ولا تملك يقيناً بالمستقبل؛ هي تحسب علاقة بين مدخلات ومخرجات اعتماداً على أمثلة ومعايير. قوة التوقع لا تغير طبيعته الاحتمالية.

والثغرة الثانية هي الخلط بين المحاكاة والفهم. قد تنتج الآلة جواباً لغوياً متماسكاً أو صورة مقنعة من غير أن يكون وراء ذلك فهم إنساني للمعنى أو قصد أو تجربة ذاتية. ويجب ألا تُبنى أحكام في المسؤولية أو الأخلاق على تشابه السلوك الظاهر وحده.

والثغرة الثالثة هي مساواة الدقة العامة بالعدل. قد تحقق المنظومة نسبة نجاح مرتفعة في المتوسط وتخطئ أكثر مع فئة قليلة التمثيل. ولهذا لا تكفي النتيجة الإجمالية، بل يجب فحص التفاوت بين الفئات والمواضع واللغات والأعمار والظروف.

والثغرة الرابعة هي إهمال مصدر البيانات. كل منظومة تتعلم من سجل سابق تحمل شيئاً من اختيارات من جمع السجل ومن سماه ومن استبعد منه حالات. فإذا كان الأصل منحازاً أو ناقصاً فإن المعالجة السريعة لا تصنع عدلاً من تلقائها.

والثغرة الخامسة هي الخلط بين التفسير السببي والعلاقة العددية. قد تجد المنظومة ارتباطاً قوياً بين متغيرين من غير أن تعرف سبب العلاقة، وإذا بُني القرار على الارتباط وحده أمكن أن يعاقب الأفراد بسبب علامة بديلة لا بسبب علة حقيقية.

والثغرة السادسة هي نقل المسؤولية إلى الآلة. المنظومة لا توقع عقداً ولا تتحمل عقوبة ولا تصلح خطأها من ذاتها بوصفها طرفاً أخلاقياً؛ المسؤولية تبقى على من صمم وجمع البيانات واختبر وأجاز واستعمل وأبقى أو أوقف.

والثغرة السابعة هي خلط زيادة القدرة بوجوب الاستعمال. قد يكون من الممكن توقع سلوك الإنسان أو فرزه أو مراقبته بدرجة ما، لكن القدرة التقنية لا تمنح حقاً مطلقاً في الجمع أو التصنيف أو التأثير. هنا تدخل الخصوصية والأمانة والقسط.

وينطلق البناء البياني من قوله تعالى: ﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4)، فتظهر أسبقية التعليم والبيان والإنسان على الأداة، ويُمنع قلب السلم بحيث تصبح الآلة مرجعاً حاكماً على معنى الإنسان.

ويؤسس قوله تعالى: ﴿الشَّمْسُ وَالْقَمَرُ بِحُسْبَانٍ﴾ (الرحمن: 5) أصل الحسبان، وقوله تعالى: ﴿وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7) أصل التقدير والضبط، وقوله تعالى: ﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36) أصل منع الادعاء فوق الدليل.

ويؤسس قوله تعالى: ﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6) التثبت من الخبر قبل الحكم، وهو أصل حاكم في التعامل مع المخرجات المتولدة أو التوقعات التي قد تبدو واثقة وهي خاطئة.

ويؤسس قوله تعالى: ﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58) اتصال الأمانة بالحكم، فلا يجوز استعمال منظومة آلية في قرار يمس الناس من غير حفظ حق الاعتراض والتفسير والمراجعة.

ويهدف الكتاب إلى حفظ القوة الحسابية للتعلم الآلي في الفرز والتوقع والتوليد، مع تحرير حدودها وإعادة بناء العلم في نظام البيان والحسبان والتثبت والميزان والأمانة والقسط والمسؤولية والمآل، حتى تبقى الآلة أداة ضمن العمران لا حاكماً عليه.

الأطروحة الحاكمة

علم الذكاء الاصطناعي البياني هو العلم الذي يدرس بناء منظومات حسابية تتعلم أنماطاً من البيانات ثم تنتج فرزاً أو توقعاً أو توليداً، ويزنها بصدق البيانات وقابلية التحقق وتفاوت الخطأ وحدود التعميم وحق الإنسان في الاعتراض ووضوح المسؤولية، فلا يجعل سرعة المعالجة أو دقة المتوسط أو شبه الكلام الإنساني دليلاً على الفهم أو العدل أو الاستقلال الأخلاقي.

السلسلة الحاكمة

• المسألة ← البيانات ← التمثيل ← التدريب ← الاختبار ← المخرج ← التحقق ← القرار ← المسؤولية ← المآل.

• البيان ← الحسبان ← التثبت ← الميزان ← القسط ← الحكم ← المراجعة.

• الإنسان ← الأداة ← المنفعة ← الضرر ← الاعتراض ← التصحيح ← العمران.

الثغرات المؤسسة التي عولجت قبل التحرير

• الخلط بين التوقع والعلم.

• الخلط بين المحاكاة والفهم.

• مساواة الدقة العامة بالعدل.

• إهمال تحيز البيانات والعينات.

• الخلط بين الارتباط والعلة.

• إسناد المسؤولية إلى الآلة.

• إهمال حق الاعتراض والمراجعة البشرية.

• إمكان جمع البيانات لا يساوي حق جمعها.

• الخلط بين كثرة المخرجات وزيادة المعرفة.

• تحويل القدرة التقنية إلى سلطة فوق الإنسان.

القسم الأول: ماهية الذكاء الاصطناعي وحدوده

تسمية المنظومة ذكية لا تجعلها إنساناً ولا تمنحها ذاتاً أخلاقية. الاسم الوظيفي لا يغيّر طبيعة البنية الحسابية.

ويُعاد تعريف النجاح من تشابه الأداء الإنساني إلى تحقق وظيفة محددة ضمن حدود معلومة.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المفهوم

لماذا لا يعني الذكاء الحسابي عقلاً إنسانياً؟

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

تحرير المفهوم

يبدأ تحرير المفهوم بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المفهوم بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المفهوم على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المفهوم بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المفهوم هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المفهوم؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المفهوم على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المفهوم عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المفهوم حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الأداة والفاعل

من ينفذ ومن يتحمل المسؤولية؟

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المسألة

يبدأ تحرير الأداة والفاعل بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الأداة والفاعل بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الأداة والفاعل على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الأداة والفاعل بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الأداة والفاعل هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الأداة والفاعل؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الأداة والفاعل على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الأداة والفاعل عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الأداة والفاعل حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: المحاكاة والفهم

تشابه الناتج لا يثبت التجربة الذاتية.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المشاهد

يبدأ تحرير المحاكاة والفهم بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المحاكاة والفهم بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس المحاكاة والفهم على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المحاكاة والفهم بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في المحاكاة والفهم هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المحاكاة والفهم؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في المحاكاة والفهم على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المحاكاة والفهم عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المحاكاة والفهم حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد المجال

الحساب لا يمنح علماً بالغيب أو الغاية.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

البنية

يبدأ تحرير حد المجال بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد المجال بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد المجال على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد المجال بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد المجال هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد المجال؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد المجال على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد المجال عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد المجال حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثاني: البيانات

البيانات ليست مادة محايدة؛ هي حصيلة اختيار وجمع وقياس واستبعاد. كل هذه المراحل تدخل في النتيجة.

ويجب أن يكون الغرض من الجمع محدداً قبل توسيع النطاق.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: مصدر البيانات

من أين جاءت الأمثلة؟

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

تحرير المفهوم

يبدأ تحرير مصدر البيانات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط مصدر البيانات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس مصدر البيانات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في مصدر البيانات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في مصدر البيانات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في مصدر البيانات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في مصدر البيانات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل مصدر البيانات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال مصدر البيانات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: جودة البيانات

الصدق والنقص والتكرار.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المسألة

يبدأ تحرير جودة البيانات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط جودة البيانات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس جودة البيانات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في جودة البيانات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في جودة البيانات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في جودة البيانات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في جودة البيانات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل جودة البيانات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال جودة البيانات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: التسمية

كيف تتحول الحالة إلى فئة؟

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المشاهد

يبدأ تحرير التسمية بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التسمية بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس التسمية على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التسمية بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في التسمية هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التسمية؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في التسمية على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التسمية عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التسمية حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد الجمع

الضرورة والخصوصية والمدة.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

البنية

يبدأ تحرير حد الجمع بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد الجمع بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد الجمع على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد الجمع بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد الجمع هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد الجمع؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد الجمع على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد الجمع عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد الجمع حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثالث: تمثيل البيانات

التمثيل يقرر ما تراه المنظومة وما لا تراه. صفة لا تُسجل لا يمكن أن تدخل مباشرة في الحكم.

ومن هنا يكون اختيار الصفات قراراً معرفياً وأحياناً أخلاقياً.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: اختيار الصفات

ما الذي يدخل الحساب؟

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

تحرير المفهوم

يبدأ تحرير اختيار الصفات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط اختيار الصفات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس اختيار الصفات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في اختيار الصفات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في اختيار الصفات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في اختيار الصفات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في اختيار الصفات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل اختيار الصفات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال اختيار الصفات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الترميز

تحويل الصفات إلى مقادير.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المسألة

يبدأ تحرير الترميز بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الترميز بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الترميز على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الترميز بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الترميز هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الترميز؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الترميز على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الترميز عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الترميز حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: المفقود

كيف يعالج النقص؟

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المشاهد

يبدأ تحرير المفقود بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المفقود بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس المفقود على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المفقود بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في المفقود هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المفقود؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في المفقود على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المفقود عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المفقود حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد التمثيل

ما لا يدخل لا يظهر في القرار.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

البنية

يبدأ تحرير حد التمثيل بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد التمثيل بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد التمثيل على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد التمثيل بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد التمثيل هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد التمثيل؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد التمثيل على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد التمثيل عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد التمثيل حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الرابع: التدريب

التدريب يضبط الأوزان بحسب الأمثلة، وقد ينجح في حفظ الأنماط الضيقة ويفشل عند تغير البيئة.

لذلك يجب فصل الأداء داخل التدريب عن القدرة على التعميم.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: أمثلة التدريب

المادة التي يتعلم منها النظام.

﴿الشَّمْسُ وَالْقَمَرُ بِحُسْبَانٍ﴾ (الرحمن: 5).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

تحرير المفهوم

يبدأ تحرير أمثلة التدريب بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط أمثلة التدريب بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس أمثلة التدريب على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في أمثلة التدريب بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في أمثلة التدريب هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في أمثلة التدريب؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في أمثلة التدريب على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل أمثلة التدريب عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال أمثلة التدريب حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الضبط

تعديل الأوزان بحسب الخطأ.

﴿الشَّمْسُ وَالْقَمَرُ بِحُسْبَانٍ﴾ (الرحمن: 5).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

المسألة

يبدأ تحرير الضبط بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الضبط بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الضبط على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الضبط بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الضبط هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الضبط؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الضبط على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الضبط عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الضبط حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: التكرار

تحسين الأداء على الأمثلة.

﴿الشَّمْسُ وَالْقَمَرُ بِحُسْبَانٍ﴾ (الرحمن: 5).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

المشاهد

يبدأ تحرير التكرار بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التكرار بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس التكرار على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التكرار بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في التكرار هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التكرار؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في التكرار على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التكرار عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التكرار حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد التدريب

حفظ الأمثلة لا يساوي التعميم.

﴿الشَّمْسُ وَالْقَمَرُ بِحُسْبَانٍ﴾ (الرحمن: 5).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

البنية

يبدأ تحرير حد التدريب بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد التدريب بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد التدريب على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد التدريب بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد التدريب هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد التدريب؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد التدريب على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد التدريب عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد التدريب حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الخامس: الاختبار والتحقق

الاختبار المنفصل أساس لمنع خداع الذات. إذا قُوّم النظام على أمثلة تعلّمها فقد تبدو النتيجة أفضل من الواقع.

وتزداد الثقة حين تتكرر النتيجة على عينات مستقلة.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: بيانات الاختبار

أمثلة لم تدخل في التدريب.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

تحرير المفهوم

يبدأ تحرير بيانات الاختبار بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط بيانات الاختبار بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس بيانات الاختبار على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في بيانات الاختبار بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في بيانات الاختبار هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في بيانات الاختبار؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في بيانات الاختبار على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل بيانات الاختبار عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال بيانات الاختبار حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: المقارنة

قياس النجاح والفشل.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المسألة

يبدأ تحرير المقارنة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المقارنة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس المقارنة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المقارنة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في المقارنة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المقارنة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في المقارنة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المقارنة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المقارنة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: التكرار المستقل

منع خداع المصادفة.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المشاهد

يبدأ تحرير التكرار المستقل بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التكرار المستقل بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس التكرار المستقل على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التكرار المستقل بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في التكرار المستقل هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التكرار المستقل؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في التكرار المستقل على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التكرار المستقل عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التكرار المستقل حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد الادعاء

نتيجة واحدة لا تكفي.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

البنية

يبدأ تحرير حد الادعاء بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد الادعاء بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد الادعاء على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد الادعاء بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد الادعاء هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد الادعاء؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد الادعاء على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد الادعاء عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد الادعاء حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم السادس: التصنيف

التصنيف يحول حالات متصلة إلى فئات قد تكون حدودها بشرية، ولذلك يجب تحرير معنى الفئة قبل قياس دقة إسنادها.

كما أن كلفة الخطأ قد تكون أعلى بكثير في فئة من أخرى.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: الفئات

كيف تُعرّف الحدود؟

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

تحرير المفهوم

يبدأ تحرير الفئات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الفئات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس الفئات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الفئات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في الفئات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الفئات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في الفئات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الفئات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الفئات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: احتمال الانتماء

درجة لا يقين مطلق.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المسألة

يبدأ تحرير احتمال الانتماء بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط احتمال الانتماء بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس احتمال الانتماء على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في احتمال الانتماء بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في احتمال الانتماء هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في احتمال الانتماء؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في احتمال الانتماء على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل احتمال الانتماء عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال احتمال الانتماء حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الخطأ

إسناد الحالة إلى فئة غير صحيحة.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المشاهد

يبدأ تحرير الخطأ بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الخطأ بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الخطأ على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الخطأ بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الخطأ هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الخطأ؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الخطأ على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الخطأ عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الخطأ حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: كلفة الخطأ

ليست كل الأخطاء متساوية.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

البنية

يبدأ تحرير كلفة الخطأ بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط كلفة الخطأ بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس كلفة الخطأ على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في كلفة الخطأ بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في كلفة الخطأ هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في كلفة الخطأ؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في كلفة الخطأ على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل كلفة الخطأ عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال كلفة الخطأ حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم السابع: التوقع

التوقع يعتمد على استمرار بعض العلاقات الماضية. إذا تغيرت البيئة أو السلوك أو السياسة ضعف النقل من الماضي إلى المستقبل.

ولهذا يكون رصد التغير بعد النشر جزءاً من صلاح النظام.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المستقبل القريب

استنتاج من سجل سابق.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

تحرير المفهوم

يبدأ تحرير المستقبل القريب بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المستقبل القريب بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المستقبل القريب على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المستقبل القريب بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المستقبل القريب هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المستقبل القريب؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المستقبل القريب على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المستقبل القريب عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المستقبل القريب حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: درجة الثقة

نطاق وليس يقيناً.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المسألة

يبدأ تحرير درجة الثقة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط درجة الثقة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس درجة الثقة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في درجة الثقة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في درجة الثقة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في درجة الثقة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في درجة الثقة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل درجة الثقة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال درجة الثقة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: تغير الظروف

يضعف صلاح التعلم القديم.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المشاهد

يبدأ تحرير تغير الظروف بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تغير الظروف بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس تغير الظروف على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تغير الظروف بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في تغير الظروف هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تغير الظروف؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في تغير الظروف على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تغير الظروف عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تغير الظروف حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد التوقع

التنبؤ لا يساوي العلم بالمآل.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

البنية

يبدأ تحرير حد التوقع بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد التوقع بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد التوقع على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد التوقع بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد التوقع هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد التوقع؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد التوقع على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد التوقع عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد التوقع حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثامن: التوليد

التوليد قد ينتج لغة طليقة من غير تحقق خارجي للوقائع، ولذلك يكون التثبت ملازماً للاستعمال في المعرفة.

ولا يجوز أن يصبح حسن الأسلوب بديلاً عن الدليل.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: إنتاج النص

تركيب مخرج من أنماط متعلمة.

﴿وَقُولُوا قَوْلًا سَدِيدًا﴾ (الأحزاب: 70).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

تحرير المفهوم

يبدأ تحرير إنتاج النص بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط إنتاج النص بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس إنتاج النص على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في إنتاج النص بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في إنتاج النص هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في إنتاج النص؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في إنتاج النص على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل إنتاج النص عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال إنتاج النص حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: إنتاج الصورة

إنشاء تمثيل جديد.

﴿وَقُولُوا قَوْلًا سَدِيدًا﴾ (الأحزاب: 70).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المسألة

يبدأ تحرير إنتاج الصورة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط إنتاج الصورة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس إنتاج الصورة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في إنتاج الصورة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في إنتاج الصورة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في إنتاج الصورة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في إنتاج الصورة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل إنتاج الصورة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال إنتاج الصورة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الطلاقة

قد تجتمع مع الخطأ.

﴿وَقُولُوا قَوْلًا سَدِيدًا﴾ (الأحزاب: 70).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المشاهد

يبدأ تحرير الطلاقة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الطلاقة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الطلاقة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الطلاقة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الطلاقة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الطلاقة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الطلاقة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الطلاقة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الطلاقة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد التوليد

الأسلوب المقنع لا يثبت الصدق.

﴿وَقُولُوا قَوْلًا سَدِيدًا﴾ (الأحزاب: 70).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

البنية

يبدأ تحرير حد التوليد بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد التوليد بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد التوليد على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد التوليد بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد التوليد هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد التوليد؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد التوليد على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد التوليد عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد التوليد حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم التاسع: الخطأ والثقة

معدل الخطأ العام قد يخفي أن فئة بعينها تدفع معظم الخطأ.

كما أن الثقة الرقمية تحتاج إلى معايرة حتى لا تعرض المنظومة يقيناً أكبر من صدقها الفعلي.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: معدل الخطأ

نسبة عامة.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

تحرير المفهوم

يبدأ تحرير معدل الخطأ بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط معدل الخطأ بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس معدل الخطأ على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في معدل الخطأ بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في معدل الخطأ هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في معدل الخطأ؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في معدل الخطأ على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل معدل الخطأ عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال معدل الخطأ حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الخطأ حسب الفئة

كشف التفاوت.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المسألة

يبدأ تحرير الخطأ حسب الفئة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الخطأ حسب الفئة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الخطأ حسب الفئة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الخطأ حسب الفئة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الخطأ حسب الفئة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الخطأ حسب الفئة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الخطأ حسب الفئة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الخطأ حسب الفئة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الخطأ حسب الفئة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الثقة المعلنة

ما تقوله المنظومة عن يقينها.

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المشاهد

يبدأ تحرير الثقة المعلنة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الثقة المعلنة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الثقة المعلنة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الثقة المعلنة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الثقة المعلنة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الثقة المعلنة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الثقة المعلنة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الثقة المعلنة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الثقة المعلنة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: المعايرة

هل تتناسب الثقة مع الواقع؟

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

البنية

يبدأ تحرير المعايرة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المعايرة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس المعايرة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المعايرة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في المعايرة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المعايرة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في المعايرة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المعايرة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المعايرة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم العاشر: التحيز

التحيز قد يدخل من التاريخ والعينة والتسمية وطريقة القياس، ولا يخرج بمجرد حذف اسم الفئة.

الإصلاح يحتاج إلى تتبع المسار الكامل من البيانات إلى القرار.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: تحيز العينة

من دخل ومن غاب؟

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

تحرير المفهوم

يبدأ تحرير تحيز العينة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تحيز العينة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس تحيز العينة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تحيز العينة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في تحيز العينة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تحيز العينة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في تحيز العينة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تحيز العينة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تحيز العينة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: تحيز التسمية

من وضع الحكم الأول؟

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المسألة

يبدأ تحرير تحيز التسمية بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تحيز التسمية بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس تحيز التسمية على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تحيز التسمية بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في تحيز التسمية هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تحيز التسمية؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في تحيز التسمية على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تحيز التسمية عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تحيز التسمية حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: تحيز التاريخ

نقل ظلم سابق إلى القرار الجديد.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المشاهد

يبدأ تحرير تحيز التاريخ بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تحيز التاريخ بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس تحيز التاريخ على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تحيز التاريخ بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في تحيز التاريخ هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تحيز التاريخ؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في تحيز التاريخ على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تحيز التاريخ عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تحيز التاريخ حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: التصحيح

لا يكفي حذف صفة واحدة.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

البنية

يبدأ تحرير التصحيح بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التصحيح بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس التصحيح على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التصحيح بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في التصحيح هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التصحيح؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في التصحيح على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التصحيح عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التصحيح حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الحادي عشر: الارتباط والعلة

الارتباط مفيد في التوقع لكنه لا يكفي لإثبات العلة. القرار الذي يمس الحقوق يحتاج إلى سبب ذي صلة لا مجرد علامة مرتبطة.

ويجب اختبار التفسيرات البديلة قبل تثبيت السببية.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: الارتباط

تحرك متغيرين معاً.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

تحرير المفهوم

يبدأ تحرير الارتباط بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الارتباط بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس الارتباط على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الارتباط بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في الارتباط هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الارتباط؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في الارتباط على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الارتباط عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الارتباط حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: العلة

سبب يحتاج إلى دليل أوسع.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المسألة

يبدأ تحرير العلة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط العلة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس العلة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في العلة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في العلة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في العلة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في العلة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل العلة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال العلة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: البدائل

متغير ثالث قد يفسر العلاقة.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المشاهد

يبدأ تحرير البدائل بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط البدائل بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس البدائل على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في البدائل بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في البدائل هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في البدائل؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في البدائل على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل البدائل عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال البدائل حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد القرار

لا يُعاقب الإنسان بسبب علامة بديلة بلا حق.

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

البنية

يبدأ تحرير حد القرار بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد القرار بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد القرار على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد القرار بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد القرار هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد القرار؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد القرار على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد القرار عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد القرار حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثاني عشر: التفسير وقابلية الفهم

التفسير حق حين يؤثر القرار في الإنسان، لكنه قد يكون طبقات: بيان العوامل، وبيان القاعدة، وبيان حدود الثقة.

ولا يكفي شرح تقني لا يفهمه المتأثر بالقرار.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: سبب النتيجة

ما العوامل التي أثرت؟

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

تحرير المفهوم

يبدأ تحرير سبب النتيجة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط سبب النتيجة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس سبب النتيجة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في سبب النتيجة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في سبب النتيجة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في سبب النتيجة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في سبب النتيجة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل سبب النتيجة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال سبب النتيجة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: التفسير المحلي

شرح حالة واحدة.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المسألة

يبدأ تحرير التفسير المحلي بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التفسير المحلي بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس التفسير المحلي على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التفسير المحلي بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في التفسير المحلي هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التفسير المحلي؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في التفسير المحلي على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التفسير المحلي عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التفسير المحلي حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: التفسير العام

شرح سلوك المنظومة.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

المشاهد

يبدأ تحرير التفسير العام بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التفسير العام بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس التفسير العام على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التفسير العام بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في التفسير العام هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التفسير العام؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في التفسير العام على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التفسير العام عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التفسير العام حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد الشرح

التفسير المبسط قد يخفي التعقيد.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ﴾ (الإسراء: 36).

البنية

يبدأ تحرير حد الشرح بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد الشرح بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد الشرح على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد الشرح بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد الشرح هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد الشرح؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد الشرح على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد الشرح عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد الشرح حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثالث عشر: الإنسان في الحلقة

وجود الإنسان في الحلقة لا يعني توقيعاً شكلياً بعد قرار آلي؛ يجب أن يملك صلاحية الفحص والرفض والتعديل.

وحق الاعتراض جزء من العدالة حين يكون الخطأ ممكناً.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المراجعة البشرية

فحص المخرجات قبل الأثر.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

تحرير المفهوم

يبدأ تحرير المراجعة البشرية بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المراجعة البشرية بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المراجعة البشرية على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المراجعة البشرية بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المراجعة البشرية هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المراجعة البشرية؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المراجعة البشرية على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المراجعة البشرية عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المراجعة البشرية حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: حق الاعتراض

من تأثر يستطيع الطعن.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

المسألة

يبدأ تحرير حق الاعتراض بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حق الاعتراض بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس حق الاعتراض على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حق الاعتراض بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في حق الاعتراض هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حق الاعتراض؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في حق الاعتراض على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حق الاعتراض عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حق الاعتراض حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: إيقاف النظام

حين يظهر ضرر معتبر.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

المشاهد

يبدأ تحرير إيقاف النظام بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط إيقاف النظام بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس إيقاف النظام على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في إيقاف النظام بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في إيقاف النظام هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في إيقاف النظام؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في إيقاف النظام على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل إيقاف النظام عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال إيقاف النظام حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: حد التفويض

القرارات الجسيمة لا تُترك بلا مسؤول بشري.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

البنية

يبدأ تحرير حد التفويض بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط حد التفويض بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس حد التفويض على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في حد التفويض بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في حد التفويض هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في حد التفويض؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في حد التفويض على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل حد التفويض عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال حد التفويض حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الرابع عشر: الخصوصية

الخصوصية ليست سرية فقط؛ تشمل حد الجمع والغرض والمدة ومن يملك الوصول.

وتقليل البيانات إلى قدر الحاجة أحد أقوى وسائل الحماية.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: جمع البيانات

الحاجة والحد.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

تحرير المفهوم

يبدأ تحرير جمع البيانات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط جمع البيانات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس جمع البيانات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في جمع البيانات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في جمع البيانات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في جمع البيانات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في جمع البيانات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل جمع البيانات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال جمع البيانات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الغرض

لا يُجمع لغاية ثم يستعمل لأخرى بلا بيان.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المسألة

يبدأ تحرير الغرض بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الغرض بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الغرض على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الغرض بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الغرض هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الغرض؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الغرض على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الغرض عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الغرض حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الحفظ

مدة وأمان.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المشاهد

يبدأ تحرير الحفظ بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الحفظ بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الحفظ على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الحفظ بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الحفظ هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الحفظ؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الحفظ على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الحفظ عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الحفظ حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: النسيان

حق محو ما لا حاجة إلى بقائه.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

البنية

يبدأ تحرير النسيان بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط النسيان بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس النسيان على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في النسيان بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في النسيان هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في النسيان؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في النسيان على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل النسيان عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال النسيان حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الخامس عشر: السلامة والأمن

السلامة تتطلب اختبار حالات غير مألوفة ومتعمدة لكشف نقاط الضعف، لا الاكتفاء بالحالات السهلة.

ويكون الإيقاف الآمن جزءاً من التصميم حين تكون العواقب جسيمة.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المدخلات الخادعة

محاولة تضليل المنظومة.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

تحرير المفهوم

يبدأ تحرير المدخلات الخادعة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المدخلات الخادعة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المدخلات الخادعة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المدخلات الخادعة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المدخلات الخادعة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المدخلات الخادعة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المدخلات الخادعة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المدخلات الخادعة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المدخلات الخادعة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: التلاعب

تغيير البيانات أو التعليمات.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المسألة

يبدأ تحرير التلاعب بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التلاعب بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس التلاعب على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التلاعب بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في التلاعب هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التلاعب؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في التلاعب على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التلاعب عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التلاعب حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الاختبار الضاغط

البحث عن حالات الفشل.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

المشاهد

يبدأ تحرير الاختبار الضاغط بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الاختبار الضاغط بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الاختبار الضاغط على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الاختبار الضاغط بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الاختبار الضاغط هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الاختبار الضاغط؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الاختبار الضاغط على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الاختبار الضاغط عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الاختبار الضاغط حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: الإيقاف الآمن

منع الضرر عند الخلل.

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

﴿إِن جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا﴾ (الحجرات: 6).

البنية

يبدأ تحرير الإيقاف الآمن بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الإيقاف الآمن بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس الإيقاف الآمن على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الإيقاف الآمن بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في الإيقاف الآمن هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الإيقاف الآمن؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في الإيقاف الآمن على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الإيقاف الآمن عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الإيقاف الآمن حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم السادس عشر: الذكاء الاصطناعي في التعليم

في التعليم يجب أن تعين الآلة المتعلم على الفهم لا أن تحل محله في إنتاج الإجابة.

وتبقى التربية حكماً في الإنسان والسياق لا حساباً في النص وحده.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المساعدة

شرح وتدريب وتغذية راجعة.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

تحرير المفهوم

يبدأ تحرير المساعدة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المساعدة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المساعدة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المساعدة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المساعدة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المساعدة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المساعدة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المساعدة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المساعدة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: التعلم الحقيقي

لا يساوي نسخ الجواب.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المسألة

يبدأ تحرير التعلم الحقيقي بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التعلم الحقيقي بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس التعلم الحقيقي على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التعلم الحقيقي بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في التعلم الحقيقي هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التعلم الحقيقي؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في التعلم الحقيقي على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التعلم الحقيقي عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التعلم الحقيقي حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: تقويم الطالب

خطر التفويض الأعمى.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

المشاهد

يبدأ تحرير تقويم الطالب بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تقويم الطالب بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس تقويم الطالب على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تقويم الطالب بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في تقويم الطالب هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تقويم الطالب؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في تقويم الطالب على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تقويم الطالب عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تقويم الطالب حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: المعلم

يبقى صاحب الحكم التربوي.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

البنية

يبدأ تحرير المعلم بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المعلم بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس المعلم على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المعلم بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في المعلم هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المعلم؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في المعلم على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المعلم عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المعلم حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم السابع عشر: الذكاء الاصطناعي في الصحة والعمل

في الصحة والعمل تكون كلفة الخطأ مرتفعة، ولذلك يجب أن تكون المخرجات قرائن قابلة للمراجعة لا أحكاماً مغلقة.

والبيانات التاريخية في التوظيف قد تعيد إنتاج تمييز سابق إذا لم تُفحص.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المساعدة التشخيصية

قرينة لا بديل عن المسؤول.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

تحرير المفهوم

يبدأ تحرير المساعدة التشخيصية بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المساعدة التشخيصية بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المساعدة التشخيصية على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المساعدة التشخيصية بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المساعدة التشخيصية هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المساعدة التشخيصية؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المساعدة التشخيصية على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المساعدة التشخيصية عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المساعدة التشخيصية حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: فرز الحالات

خطر التفاوت بين الفئات.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المسألة

يبدأ تحرير فرز الحالات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط فرز الحالات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس فرز الحالات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في فرز الحالات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في فرز الحالات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في فرز الحالات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في فرز الحالات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل فرز الحالات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال فرز الحالات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: التوظيف

البيانات التاريخية قد تحمل ظلماً.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

المشاهد

يبدأ تحرير التوظيف بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التوظيف بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس التوظيف على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التوظيف بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في التوظيف هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التوظيف؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في التوظيف على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التوظيف عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التوظيف حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: العمل

الأتمتة تحتاج إلى عدالة انتقال.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

البنية

يبدأ تحرير العمل بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط العمل بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس العمل على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في العمل بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في العمل هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في العمل؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في العمل على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل العمل عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال العمل حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم الثامن عشر: الذكاء الاصطناعي في الإدارة والقضاء

الإدارة والقضاء مجالان عاليَا الأثر؛ يحتاجان إلى بيان معيار القرار وحق الاعتراض والمسؤولية المحددة.

وتشابه قضيتين لا يلغي الفروق التي قد تكون حاسمة في الحق.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: ترتيب الأولويات

قد يخفي معياراً قيمياً.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

تحرير المفهوم

يبدأ تحرير ترتيب الأولويات بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط ترتيب الأولويات بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس ترتيب الأولويات على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في ترتيب الأولويات بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في ترتيب الأولويات هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في ترتيب الأولويات؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في ترتيب الأولويات على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل ترتيب الأولويات عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال ترتيب الأولويات حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: تخصيص الموارد

الندرة تحتاج إلى قسط.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

المسألة

يبدأ تحرير تخصيص الموارد بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط تخصيص الموارد بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس تخصيص الموارد على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في تخصيص الموارد بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في تخصيص الموارد هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في تخصيص الموارد؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في تخصيص الموارد على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل تخصيص الموارد عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال تخصيص الموارد حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: القرارات العامة

تحتاج إلى تفسير واعتراض.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

المشاهد

يبدأ تحرير القرارات العامة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط القرارات العامة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس القرارات العامة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في القرارات العامة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في القرارات العامة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في القرارات العامة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في القرارات العامة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل القرارات العامة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال القرارات العامة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: القضاء

لا يُختزل الحكم في تشابه سوابق.

﴿وَإِذَا حَكَمْتُم بَيْنَ النَّاسِ أَن تَحْكُمُوا بِالْعَدْلِ﴾ (النساء: 58).

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَن تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا﴾ (النساء: 58).

البنية

يبدأ تحرير القضاء بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط القضاء بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس القضاء على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في القضاء بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في القضاء هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في القضاء؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في القضاء على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل القضاء عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال القضاء حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم التاسع عشر: الذكاء الاصطناعي والعمران

العمران الذكي لا يُقاس بعدد المجسات والبيانات، بل بقدر ما تحسن الخدمة وتحفظ الحق وتقلل الضرر.

ومن لا يملك وسيلة رقمية يجب ألا يفقد حقه في الخدمة العامة.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: المدن الذكية

جمع البيانات لا يسبق الحق.

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

تحرير المفهوم

يبدأ تحرير المدن الذكية بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط المدن الذكية بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس المدن الذكية على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في المدن الذكية بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في المدن الذكية هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في المدن الذكية؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في المدن الذكية على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل المدن الذكية عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال المدن الذكية حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: النقل والطاقة

التوقع يخدم التخطيط.

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المسألة

يبدأ تحرير النقل والطاقة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط النقل والطاقة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس النقل والطاقة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في النقل والطاقة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في النقل والطاقة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في النقل والطاقة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في النقل والطاقة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل النقل والطاقة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال النقل والطاقة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: الخدمات العامة

الكفاءة لا تبرر الإقصاء.

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المشاهد

يبدأ تحرير الخدمات العامة بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الخدمات العامة بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس الخدمات العامة على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الخدمات العامة بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في الخدمات العامة هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الخدمات العامة؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في الخدمات العامة على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الخدمات العامة عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الخدمات العامة حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: التفاوت الرقمي

من لا يصل إلى الأداة لا يُترك خارج الحق.

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

البنية

يبدأ تحرير التفاوت الرقمي بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط التفاوت الرقمي بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس التفاوت الرقمي على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في التفاوت الرقمي بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في التفاوت الرقمي هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في التفاوت الرقمي؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في التفاوت الرقمي على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل التفاوت الرقمي عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال التفاوت الرقمي حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

القسم العشرون: إعادة بناء علم الذكاء الاصطناعي البياني

يجمع علم الذكاء الاصطناعي البياني بين صدق البيانات وحدود الحسبان وعدل القرار وبقاء المسؤولية بشرية.

فإذا ارتفعت الدقة واختفى حق الاعتراض أو تحسنت الخدمة وانتهكت الخصوصية أو زادت الكفاءة واتسع الظلم اختل الميزان.

مصفوفة القسم

• المدخل: ما البيانات ومن أين جاءت؟

• المعالجة: ما التمثيل وسلسلة التعليمات؟

• الخطأ: أين يفشل النظام ولمن؟

• الحق: من يتأثر ومن يملك الاعتراض؟

• المآل: ماذا يحدث إذا اتسع الاعتماد على النظام؟

الفصل 1: البيان

المعنى أصل لا مجرد رمز.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

تحرير المفهوم

يبدأ تحرير البيان بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط البيان بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

اختبار الدليل

يُقاس البيان على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في البيان بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

ميزان القسط

الثغرة المتكررة في البيان هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في البيان؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المآل

تبقى المسؤولية في البيان على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل البيان عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال البيان حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 2: الحسبان

الحساب مضبوط بحدوده.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المسألة

يبدأ تحرير الحسبان بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط الحسبان بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

القياس

يُقاس الحسبان على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في الحسبان بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الثغرة

الثغرة المتكررة في الحسبان هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في الحسبان؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

التشغيل

تبقى المسؤولية في الحسبان على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل الحسبان عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال الحسبان حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 3: القسط

النتيجة العادلة تُفحص بين الفئات.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

المشاهد

يبدأ تحرير القسط بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط القسط بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

المستنتج

يُقاس القسط على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في القسط بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

الحق

الثغرة المتكررة في القسط هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في القسط؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

المراجعة

تبقى المسؤولية في القسط على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل القسط عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال القسط حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الفصل 4: القانون الجامع

نقّ البيانات، واختبر التمثيل، وميّز التوقع من العلم، واحفظ الخصوصية، وأبق المسؤولية بشرية، وأتح الاعتراض، وازن بالقسط، وانظر في المآل.

﴿الرَّحْمَٰنُ ۝ عَلَّمَ الْقُرْآنَ ۝ خَلَقَ الْإِنسَانَ ۝ عَلَّمَهُ الْبَيَانَ﴾ (الرحمن: 1-4).

﴿وَالسَّمَاءَ رَفَعَهَا وَوَضَعَ الْمِيزَانَ﴾ (الرحمن: 7).

﴿وَأَقِيمُوا الْوَزْنَ بِالْقِسْطِ وَلَا تُخْسِرُوا الْمِيزَانَ﴾ (الرحمن: 9).

﴿وَلْتَنظُرْ نَفْسٌ مَّا قَدَّمَتْ لِغَدٍ﴾ (الحشر: 18).

البنية

يبدأ تحرير القانون الجامع بتحديد الوظيفة الحسابية الفعلية، لا الاسم الدعائي. فالمنظومة قد تصنف أو تتوقع أو تولد، ولكل وظيفة نوع مختلف من الدليل والخطأ، ولا يجوز تعميم حكم وظيفة على جميع الاستعمالات.

ويرتبط القانون الجامع بسلسلة كاملة من البيانات إلى القرار. إذا كانت المدخلات ناقصة أو التمثيل فقيراً فلن يصنع التعقيد الحسابي معرفة لم تدخل في الأصل.

الخطأ

يُقاس القانون الجامع على بيانات مستقلة عن التدريب، وتُفحص النتيجة في المتوسط وبين الفئات وعلى الحالات النادرة. المؤشر الواحد لا يكفي إذا كانت كلفة الخطأ مختلفة بين الناس.

ويجب أن تُقارن المنظومة في القانون الجامع بمرجع واضح: أداء بشري، أو قاعدة بسيطة، أو منظومة سابقة، أو معيار معلوم. التحسن لا يُدعى من غير خط أساس.

المسؤولية

الثغرة المتكررة في القانون الجامع هي جعل الناتج الاحتمالي حكماً قطعياً. يجب إعلان درجة الثقة والحدود والحالات التي تضعف فيها الصلاحية، وخصوصاً عند تغير البيئة أو ندرة الأمثلة.

كما يجب فحص العدالة في القانون الجامع؛ هل تتوزع الأخطاء بعدل؟ هل توجد فئة قليلة التمثيل؟ هل يتاح لها الاعتراض؟ القسط لا يظهر من المتوسط وحده.

النتيجة

تبقى المسؤولية في القانون الجامع على البشر والمؤسسات التي جمعت البيانات وصممت واختبرت وأجازت واستعملت. لا يجوز أن يصبح قول «الآلة قررت» ستاراً لإخفاء صاحب الحكم.

ويحكم المآل القانون الجامع عبر ما يحدث بعد الانتشار: هل تتغير سلوكيات الناس؟ هل يصبح الاعتماد مفرطاً؟ هل يضعف التعلم البشري؟ هل تتسع المراقبة؟ ولذلك تكون المراجعة المستمرة جزءاً من التشغيل.

الثغرات المعالجة في الفصل

• الخلط بين الأداء المرتفع والفهم.

• إخفاء تفاوت الخطأ بين الفئات.

• تحويل الاحتمال إلى يقين.

• إسناد المسؤولية إلى المنظومة بدلاً من صاحب القرار.

النتيجة التشغيلية

يُقبل استعمال القانون الجامع حين يكون الغرض مشروعاً، والبيانات مناسبة، والاختبار مستقلاً، والخطأ معلناً، والتفاوت مفحوصاً، والخصوصية محفوظة، وحق الاعتراض قائماً، والمسؤول البشري معروفاً، وتوجد خطة للمراجعة والإيقاف عند الضرر.

الخاتمة العامة: من التعلم الآلي إلى الذكاء الاصطناعي البياني

ينتهي هذا الكتاب إلى أن الذكاء الاصطناعي ليس عقلاً جديداً مستقلاً عن الإنسان، بل حقل من أدوات حسابية واسعة القدرة على استخراج الأنماط وإنتاج المخرجات. قوته الحقيقية في السرعة والحجم والقدرة على معالجة علاقات معقدة، لا في امتلاك قصد أو ضمير أو مسؤولية.

ويظهر أن البيانات ليست الحقيقة كلها؛ فهي تمثيل جزئي للعالم، تختاره مؤسسات وأفراد بحسب ما يستطيعون قياسه وما يريدون استعماله. ومن هنا يبدأ ميزان الذكاء الاصطناعي قبل التدريب، عند سؤال ما جُمع وما تُرك ولماذا.

كما يظهر أن الدقة العامة لا تكفي للحكم على العدل. كل نظام يمس الناس يجب أن يُفحص بحسب الفئات وكلفة الخطأ وحق الاعتراض، لأن المتوسط قد يخفي ظلماً مركزاً على قلة.

ويعيد علم الذكاء الاصطناعي البياني الفرق بين التوقع والعلم إلى مركز المنهج. التوقع نتيجة حسابية مشروطة، ولا يتحول إلى يقين بالمستقبل مهما ارتفعت دقته السابقة. لذلك يجب أن تبقى لغة القرار متناسبة مع قوة الدليل.

ويعيد كذلك المسؤولية إلى الإنسان. الآلة لا تحمل أمانة ولا تعتذر ولا تصلح حقاً من ذاتها؛ الأمانة على من يبني ويملك ويقرر ويستعمل. وكل منظومة عالية الأثر تحتاج إلى مسؤول معروف وحق مراجعة واضح.

وبذلك يصبح السؤال الكامل: ما الغرض؟ ما البيانات؟ كيف مُثلت؟ كيف اختُبرت؟ أين تخطئ؟ من يدفع كلفة الخطأ؟ هل يمكن تفسير القرار والاعتراض عليه؟ من المسؤول؟ وهل يؤدي الاستعمال إلى قسط وعمران أم إلى اتكال ومراقبة وإقصاء؟

ملحق أول: صحيفة تقويم منظومة ذكاء اصطناعي أو تعلم آلي

ملحق ثان: عشرون سؤالاً لفحص منظومة الذكاء الاصطناعي

• ما الغرض الحقيقي من المنظومة؟

• هل الغرض مشروع ومحدد؟

• من أين جاءت البيانات؟

• من غاب عن البيانات؟

• هل التسميات صحيحة ويمكن مراجعتها؟

• هل بيانات الاختبار مستقلة عن التدريب؟

• ما معدل الخطأ العام؟

• ما معدل الخطأ في كل فئة مهمة؟

• هل الثقة المعلنة متناسبة مع الواقع؟

• هل تغيرت البيئة منذ التدريب؟

• هل يعتمد القرار على ارتباط لا على علة؟

• هل يمكن تفسير النتيجة للمتأثر بها؟

• هل يملك المتأثر حق الاعتراض؟

• هل توجد مراجعة بشرية حقيقية؟

• من المسؤول عند الخطأ؟

• هل جُمعت بيانات أكثر من الحاجة؟

• كم مدة حفظ البيانات؟

• هل توجد خطة لإيقاف النظام عند الضرر؟

• هل هناك بديل أقل تدخلاً أو أقل ضرراً؟

• ما المآل إذا اتسع استعمال المنظومة سنوات؟

ملحق ثالث: القوانين الجامعة لإعادة بناء علم الذكاء الاصطناعي البياني

• قانون الإنسان: الذكاء الاصطناعي أداة حسابية ولا يساوي العقل الإنساني.

• قانون البيان: المعنى أوسع من الرمز الذي يمثله.

• قانون البيانات: البيانات تمثيل جزئي للواقع.

• قانون المصدر: جودة المخرج لا تتجاوز كثيراً جودة المدخلات.

• قانون العينة: من غاب عن العينة قد يغيب عن عدل النتيجة.

• قانون التسمية: كل فئة تحتاج إلى تعريف قابل للمراجعة.

• قانون التمثيل: ما لا يدخل في التمثيل لا يظهر مباشرة في القرار.

• قانون التدريب: النجاح على أمثلة التدريب لا يثبت التعميم.

• قانون الاختبار: الاختبار المستقل شرط لصدق التقويم.

• قانون المقارنة: لا يُدعى التحسن من غير خط أساس.

• قانون التصنيف: الفئة الحسابية لا تستنفد حقيقة الإنسان.

• قانون التوقع: التوقع لا يساوي العلم بالمستقبل.

• قانون التغير: صلاح النظام قد تضعف إذا تغيرت البيئة.

• قانون التوليد: الطلاقة لا تساوي الصدق.

• قانون التثبت: المخرجات المعرفية تحتاج إلى تحقق مستقل.

• قانون المتوسط: الدقة العامة قد تخفي ظلماً لفئة.

• قانون التفاوت: الخطأ يُفحص بين الفئات لا في المتوسط فقط.

• قانون الثقة: الثقة المعلنة تحتاج إلى معايرة.

• قانون التحيز: حذف اسم الفئة لا يزيل كل التحيز.

• قانون التاريخ: البيانات التاريخية قد تحمل ظلماً سابقاً.

• قانون الارتباط: الارتباط لا يثبت العلة.

• قانون السبب: القرار الذي يمس الحق يحتاج إلى سبب ذي صلة.

• قانون التفسير: المتأثر بالقرار يحتاج إلى شرح مفهوم.

• قانون الاعتراض: القرار عالي الأثر يحتاج إلى طريق للطعن.

• قانون المراجعة البشرية: الإنسان في الحلقة يجب أن يملك سلطة حقيقية.

• قانون المسؤولية: لا تُنقل المسؤولية الأخلاقية إلى الآلة.

• قانون الخصوصية: إمكان جمع البيانات لا يساوي حق جمعها.

• قانون الحد الأدنى: يُجمع من البيانات قدر الحاجة.

• قانون الغرض: لا تُستعمل البيانات في غرض جديد بلا مسوغ وبيان.

• قانون المدة: ما لا حاجة إلى بقائه لا يُحفظ بلا حد.

• قانون الأمن: حماية البيانات جزء من الأمانة.

• قانون الاختبار الضاغط: النظام يُفحص في حالات الفشل لا النجاح فقط.

• قانون الإيقاف: لكل نظام عالي الأثر طريق آمن للتعطيل.

• قانون التعليم: الأداة تعين التعلم ولا تحل محل بناء الفهم.

• قانون الصحة والعمل: المخرج قرينة قابلة للمراجعة لا حكم نهائي.

• قانون الإدارة: الكفاءة لا تبرر الإقصاء أو الغموض.

• قانون القضاء: الحكم لا يُختزل في تشابه الوقائع.

• قانون القسط: عدالة النظام تُقاس بمن يتحمل الخطأ والضرر.

• قانون المآل: تقويم الذكاء الاصطناعي يشمل أثر الاعتماد الطويل.

• القانون الجامع: نقّ البيانات، واختبر التمثيل، وميّز التوقع من العلم، وافحص الخطأ بين الفئات، واحفظ الخصوصية، وأبق المسؤولية بشرية، وأتح الاعتراض، وازن بالقسط، وانظر في المآل.