The AI / news

بريتيكست تخرج من الظل بـ5 ملايين دولار وأداة للرقابة على الذكاء الاصطناعي

بريتيكست تخرج من الظل بـ5 ملايين دولار وأداة للرقابة على الذكاء الاصطناعي
3 دقيقة للقراءة

بريتيكست، التي لديها مكاتب في أسبن (كولورادو) ودبلن (أيرلندا)، تخرج من الظل بجولة تمويل أولي بقيمة 5 ملايين دولار، جمعتها من ديسيانز كابيتال، وهاودي بارتنرز، وسيرفيس بروفايدر كابيتال. تندرج الشركة الناشئة ضمن فئة ناشئة: وهي تقنيات تهدف إلى منع وكلاء الذكاء الاصطناعي من الخروج عن ضوابطهم والتسبب في أضرار غير مقصودة.

وفقًا للمصدر، فإن الذكاء الاصطناعي أقرب إلى شخص منه إلى برنامج كمبيوتر تقليدي. فهو يتلقى التعليمات، ويفسرها، وقد يساء تفسيرها ويستجيب لها، أحيانًا بشكل غامض. إن الجمع بين هذا التفسير الخاطئ والحرية الواسعة في العمل هو ما قد يؤدي إلى انحراف وكلاء الذكاء الاصطناعي، أي الأنظمة القادرة على التصرف بشكل مستقل، والتسبب في أضرار.

نظرًا لأن اللغة غامضة بطبيعتها، فمن المستحيل استبعاد هذه الأخطاء تمامًا. لذا، يبقى تقييد هامش المناورة للوكلاء هو الحل المباشر الوحيد، لكن القيود الصارمة للغاية قد تقلل بشدة من القيمة الاقتصادية لهذه الأدوات. وبدون شكل جديد من الرقابة، سيكون من الصعب، وفقًا للمصدر أيضًا، الحصول على وكلاء مفيدين دون الحصول أيضًا على وكلاء يحتمل أن يكونوا خطرين. هذه الحاجة تؤدي إلى ظهور منتجات للأمن السيبراني تحاول اكتشاف أي إجراء محتمل الضرر أثناء التنفيذ والتحكم فيه قبل أن ينتج آثاره.

تقدم بريتيكست منتجًا من هذا النوع بالضبط، يُدعى AI Supervision، وتصفه بأنه « تقنية تنفيذ مصممة لمراقبة وكلاء الذكاء الاصطناعي أثناء عملهم، وإعادتهم إلى المسار الصحيح قبل أن تتحول الأخطاء إلى عواقب على الشركة ».

التصحيح بدلاً من المنع

بدلاً من تقليل قدرات الوكيل، كما يشرح آرون كوستيلو، الشريك المؤسس والمدير التقني (CTO) في بريتيكست، فإن النهج يتمثل في منحه نفس مستوى الوصول الذي يحصل عليه الموظف المخول، مع مراقبة مستمرة لطريقة تفاعله مع الأنظمة والأشخاص. الهدف هو التحقق من أن هذه التفاعلات تحترم معايير الشركة وتظل متوافقة مع ما تتوقعه من موظفيها.

عندما يتجاوز الوكيل صلاحياته أو ينحرف عن مهمته، لا تقوم بريتيكست بإيقافه. بل يوجهه المنتج « بإرشاده » نحو الاتجاه الصحيح، وهي مقارنة يوضحها كوستيلو على النحو التالي: مشرف ذو خبرة، يجلس باستمرار بجوار متدرب، يتدخل فقط عند الضرورة، ويخبره بأن يعمل بطريقة أخرى.

هذا التصحيح يعتمد على السياق. يقوم العملاء الجدد بتوصيل وكيلهم بالمنصة، مما يسمح بقراءة تعليماته وفهم الغرض منه. ثم تراقب بريتيكست عمله، وتحدد الأدوات التي يمكنه الوصول إليها، على سبيل المثال لإرسال بريد إلكتروني، أو النشر على لينكد إن، أو تحديث قاعدة بيانات. أخيرًا، يحدد العميل القواعد التي يجب اتباعها: ما لا يجب على الوكيل فعله أبدًا، والمهام المخصصة له، أو البيانات التي لا يجب عليه الاطلاع عليها. « يمكن أن يكون أي شيء »، يضيف كوستيلو. يتم دمج هذه المعلومات في ذكاء بريتيكست الاصطناعي، الذي يستخدمها كإطار للسلوك المقبول.

مثال في مجال الرعاية الصحية

يقدم كوستيلو مثالاً على وكيل خدمة عملاء تستخدمه عيادة طبية لمساعدة المرضى في تحديد موعد. ربما تكون العيادة قد أبلغت بريتيكست بأن هذا الوكيل لا يجب أن يقدم أبدًا نصيحة طبية. « نتصل في كل مرة يتفاعل فيها الوكيل مع المستخدم »، كما يشرح. ثم يحلل وكيل مخصص من بريتيكست التبادل في الوقت الفعلي للتحقق مما إذا كان يحتوي على نصيحة طبية.

إذا كان الأمر كذلك، يتم منع النصيحة، لكن لا يتم إيقاف الوكيل، لأن المرضى لن يتمكنوا بعد ذلك من تحديد موعد. تلجأ بريتيكست إلى نفس طريقة « التوجيه ». وفقًا لكوستيلو، تخبر المنصة الوكيل بعد ذلك، بشكل غير مرئي: « لقد حاولت تقديم نصيحة طبية. استمر في مساعدة المستخدم في طلب تحديد الموعد، لكن لا تحاول تقديم نصيحة طبية مرة أخرى. »

هذا، وفقًا للمصدر، هو الغرض من تطبيق AI Supervision: ليس إيقاف وكلاء الذكاء الاصطناعي المعيوبين، بل الحفاظ على أمانهم ومنعهم من الانحراف عن القيود التي تم تحديدها لهم.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x