يمكن لأي ذكاء اصطناعي أن يخطئ، ولن تخبرك أي مقارنة أي منها سوف يخطئ في الإجابة التي تهمك. لذلك، بالنسبة للشركات، فإن مسألة اختيار ذكاء اصطناعي تُطرح استخدامًا تلو الآخر، بناءً على ما قد يترتب على الخطأ. ويمكن البت في الأمر عبر منهجية قائمة على تحليل التأثير.
لنأخذ مثالًا على استبيان أمني أرسله عميل كبير، يحتوي على قائمة طويلة من الأسئلة وموعد نهائي قصير. يقوم فريق بملئه بمساعدة ذكاء اصطناعي، ويراجعه بسرعة، ثم يوقع مسؤول الأمن عليه. على سؤال « هل النسخ الاحتياطية مشفرة؟ »، يجيب الذكاء الاصطناعي بنعم، مستندًا إلى سياسة تغيرت منذ ذلك الحين. لا يلاحظ أحد ذلك. لكن العميل سيراه أثناء أول تدقيق، ولن تكون المسألة بعد ذلك هي ما إذا كان الذكاء الاصطناعي قد أخطأ، بل من الذي وقع، وعلى أي أساس.
يمكن تدارك خطأ الذكاء الاصطناعي ما دام مسودة. لكنه يكلف بمجرد أن يلتزم به شخص ما تحت عنوان الشركة. نفس الذكاء الاصطناعي، بنفس معدل الخطأ، قد يكون بلا عواقب في مذكرة داخلية وخطيرًا في رد موجه إلى عميل. ولهذا السبب يجب اختيار الأداة لكل استخدام على حدة.
أربعة مستويات، سؤال واحد فقط
تتمثل المنهجية في التساؤل، لكل استخدام، عما يترتب إذا كانت الإجابة خاطئة ولم يلاحظها أحد. هناك أربع إجابات محتملة. لا شيء، في حالة مذكرة داخلية، أو إعادة صياغة، أو مسودة تتم مراجعتها على أي حال. جهد، عندما يتعين إعادة العمل على مستند وخسارة الوقت، دون التزام مأخوذ. التزام، مع رد تعاقدي، أو إفادة لعميل، أو عرض. وأخيرًا تعرض، مع تقارير تنظيمية، أو شهادة مطابقة، أو مستند يُنتج تحت رقابة سلطة ما.
ليس على اللجنة التنفيذية أن تحسب تكلفة كل خطأ، لأن لا مصدر يعطيها مسبقًا. عليها أن تقرر، لكل مستوى، ما تقبله الشركة: التوقيع دون التحقق، أو اشتراط رؤية المصدر، أو رفض أن تنتج آلة المحتوى. إنه قرار بشدة تحمل المخاطر، يُتخذ استخدامًا تلو الآخر وليس مرة واحدة وإلى الأبد لـ « الذكاء الاصطناعي ».
لكل مستوى، أداته
بالنسبة للمستويين الأولين، قد يكون ذكاء اصطناعي توليديًا للاستهلاك العام مناسبًا، في حدود ما يمكن أن يُوكل إليه دون مخاطرة. بالنسبة للمستويين التاليين، لم تعد السرعة كافية وتفرض ثلاث متطلبات: أن تستشهد كل معلومة بالوثيقة والصفحة والنسخة التي استُقيت منها؛ أن يعرف النظام الإشارة إلى أنه لا يستطيع الإجابة، لأن الخطأ يُدفع ثمنه أمام مدقق؛ وأن يقوم شخص محدد بالتحقق من صحة المحتوى، مع توقيع يمكن تتبعه.
يضيف المؤلف متطلبًا رابعًا: لا يجب أن يُوكل التحقق للنموذج الذي صاغ المحتوى. فقد أظهر باحثون ذلك في مؤتمر ICLR 2024، وتذهب دراسة أحدث في نفس الاتجاه: يزداد التحقق فعالية عندما يكون المُتحقِّق أقل شبهًا بالمُجيب. لذا يمكن أن يتم التحقق بواسطة ذكاء اصطناعي آخر، متخصص في مجال عمل الشركة ووثائقها، والذي يتحقق من كل معلومة مقابل مصدرها ويشير إلى ما لا يستطيع إثباته. لا يوفر الاختلاف بين الذكاءين الاصطناعيين الإجابة الصحيحة، بل يشير إلى المكان الذي يجب أن ينظر إليه الإنسان. يتم هذا التحقق في الفضاء المحمي للشركة، وليس لدى طرف ثالث.
ما تقرره اللجنة
ترتيب الخطوات مهم. يجب أولاً حصر الاستخدامات وتحديد، لكل منها، ما يترتب على خطأ صامت. ثم يأتي تحمل المخاطر، مستوى تلو الآخر. تأتي الأداة في المرتبة الأخيرة فقط، مُقاسة على أساس هذا التحمل للمخاطر وليس على عرض المورد.
لنعد إلى الاستبيان. بهذه المنهجية، كانت الإجابة حول النسخ الاحتياطية ستذكر مرجع السياسة ونسختها وتاريخها. كان ذكاء اصطناعي ثانٍ، أو المراجع المنتبه لذلك التاريخ، سيلاحظ أن النسخة المُشار إليها لم تعد هي الأحدث، وكان مسؤول الأمن سيوقع وهو على علم. كانت الآلة ستخطئ على أي حال، لكن شخصًا ما كان سيعلم ذلك قبل العميل.
