OpenAI تطرح نظامًا لحماية بيانات الشركات.. مراقبة إساءة الاستخدام دون قراءة المحتوى

أعلنت شركة OpenAI إتاحة خيار عدم الاحتفاظ بالبيانات (Zero Data Retention) لعدد من عملاء واجهة برمجة التطبيقات (API) المؤهلين، بما يتيح للشركات استخدام نماذج الذكاء الاصطناعي المتقدمة دون احتفاظ الشركة بمطالبات المستخدمين أو مخرجات النماذج بعد اكتمال معالجة الطلبات.

وتزامن الإعلان مع إطلاق نظام جديد يحمل اسم Private Safety Processing، صُمم لمراقبة سلامة استخدام نماذج الذكاء الاصطناعي ورصد الأنشطة التي قد تمثل إساءة استخدام، دون إتاحة محتوى العملاء لموظفي OpenAI.

وبموجب سياسة عدم الاحتفاظ بالبيانات، لا تحتفظ الشركة بمحتوى الطلبات أو النتائج التي تنتجها النماذج بعد انتهاء المعالجة، كما لا تُستخدم بيانات المؤسسات في تدريب نماذج OpenAI، إلا إذا اختار العميل السماح بذلك بشكل صريح.

وتكتسب هذه الخطوة أهمية خاصة بالنسبة إلى المؤسسات التي تتعامل مع معلومات شديدة الحساسية، مثل البيانات المالية والصحية والأسرار التجارية ونتائج الأبحاث.

وتواجه الشركات، خصوصًا العاملة في القطاعات الخاضعة للرقابة، تحديات متعلقة بمكان تخزين البيانات، والجهات التي يمكنها الوصول إليها، والفترة التي تظل خلالها محفوظة، ما يجعل سياسات حماية البيانات والاحتفاظ بها عاملًا أساسيًا عند اتخاذ قرار استخدام تقنيات الذكاء الاصطناعي.

توضح الشركة أن اكتشاف إساءة استخدام نماذج الذكاء الاصطناعي قد يتطلب تحليل مجموعة من التفاعلات بدلًا من النظر إلى طلب واحد بمعزل عن غيره، خاصة مع تطور النماذج القادرة على تنفيذ مهام طويلة ومستقلة.

وقد تتضمن محاولات إساءة الاستخدام اختبار أنظمة الحماية عدة مرات، أو تنسيق أنشطة ضارة عبر حسابات مختلفة، أو إخفاء طلبات غير مشروعة داخل سياقات تبدو في ظاهرها مرتبطة بأغراض بحثية أو مشروعة.

وهنا يأتي دور نظام Private Safety Processing، الذي يعتمد على تحليل الأنماط بين التفاعلات المرتبطة، باستخدام عمليات آلية مصممة لرصد السلوكيات الخطرة دون منح موظفي OpenAI إمكانية الاطلاع على المحتوى الأصلي للعملاء.

وبالنسبة إلى عمليات النشر التي تتيح للعميل التحكم في البنية التحتية، تظل البيانات محفوظة ضمن البيئة التي يديرها العميل.

وتعمل OpenAI أيضًا على نموذج يتيح تخزين المحتوى على بنيتها التحتية مع تشفيره باستخدام مفاتيح يتحكم فيها العميل، بما يعني أن موظفي الشركة لا يمتلكون مفاتيح فك التشفير اللازمة للوصول إلى المطالبات أو الردود المخزنة داخل البيانات المشفرة.

وفي حال رصد الأنظمة الآلية نشاطًا يُشتبه في ارتباطه بإساءة استخدام، تحصل OpenAI على إشارة محدودة تحدد فئة الخطر، بدلًا من الاطلاع على محتوى العميل نفسه.

ويمكن استخدام هذه الإشارات في اتخاذ الإجراءات المرتبطة بتطبيق سياسات الاستخدام، دون الكشف عن المحتوى الأصلي للعميل.

وفي المقابل، تستطيع المؤسسات مراجعة التنبيهات بالاعتماد على السجلات الموجودة داخل بيئاتها الخاصة، كما يمكنها، بشكل اختياري، مشاركة البيانات ذات الصلة مع OpenAI إذا أرادت الاعتراض على قرار، أو إثبات أن النشاط محل الرصد مشروع، أو المساعدة في إجراء تحقيق موثوق بشأن إساءة الاستخدام.