كشفت شركة «أنثروبيك» يوم الثلاثاء، في تدوينة نشرتها، أنها تعمل على نظام مفتوح المصدر يسمح بالتحقق من النموذج الذي أنتج مخرجات بعينها. وأطلقت على النظام اسم «فلاش بروف» (FlashProve).
دليل تشفيري على مصدر المخرجات
يسعى النظام إلى توفير ما يسميه الباحثون «الاستدلال القابل للإثبات»، أي دليل تشفيري وضمان رياضي بأن مخرجًا محددًا صدر عن نموذج بعينه. والغاية أن يتيقن المستخدم من أن الإجابة التي وصلته جاءت فعلًا من النموذج الذي يظن أنه يتعامل معه.
ويشبّه الباحثون الفكرة بالتوقيعات التشفيرية في البريد الإلكتروني، التي تمكّن المستلم من التأكد من هوية المرسل. ويُفترض أن يصمد النظام أمام محاولات انتحال هوية نموذج لآخر، حتى لو كان المنتحل هو المختبر الذي طوّر النموذج ويشغّله.
استخدامات تتجاوز الشركات المطوّرة
يرى الباحثون أن النظام قد يمنع شركة ذكاء اصطناعي من استبدال نموذج أرخص بنموذجها سرًّا لخفض التكاليف. وقد يمنعها كذلك من استبدال نموذج أغلى لتضخيم نتائج أدائها.
ويمكن أيضًا استخدامه للتحقق من ادعاءات أطراف ثالثة بأن مهمة معيّنة أنجزها نموذج متقدم. ومن الأمثلة التي ذكرها الباحثون مطوّر يزعم أن مكتبته البرمجية فُحصت بحثًا عن الثغرات بواسطة نموذج متقدم في الأمن السيبراني، أو شركة تزعم أن خطة عملها نالت موافقة نموذج مناسب.
بصمات لا تكشف الأوزان
يتطلب عمل النظام أن تنشر المختبرات «بصمة» لكل نموذج تصدره. تُطابَق هذه البصمة لاحقًا مع مخرجات محددة، ثم يجري التحقق منها تشفيريًّا.
والبصمات لا تكشف أوزان النموذج، وهي الأرقام الداخلية التي تحدد سلوكه وتُبقيها الشركات المغلقة مثل «أنثروبيك» و«أوبن إيه آي» سرية. لذلك تستطيع المختبرات نشرها دون التخلي عن أثمن أصولها، ما يتيح عمل النظام مع النماذج التجارية أيضًا. وصُمم النظام ليكون خفيفًا، بحيث يمكن إجراء التحقق على جهاز محلي.
بحث لم يصل إلى مرحلة التطبيق
أصدر الباحثون مع الإعلان مواصفات تقنية مفصلة وشيفرة عاملة لعناصر مختلفة من النظام. وهي متاحة للعموم على «غيت هاب» برخصة مفتوحة المصدر.
لكن البحث ما زال جاريًا، ولا توجد خطط لتطبيق النظام في «أنثروبيك» ولا في أي مختبر آخر. وقال الباحثون في التدوينة إن المنشور يعرض تقدمًا وسيطًا وليس خطة بحثية مكتملة، وإنهم يشاركون ما أنجزوه ليطّلع عليه آخرون ويأخذوه ويحسّنوه.
التعليقات 0
كن أول من يعلق على هذا الخبر