- اقترح باحثون من الصين وسنغافورة تقنية AURA (تقليل المنفعة النشطة عن طريق الغش) لحماية أنظمة GraphRAG
- AURA تعمد إلى تسميم الرسوم البيانية المعرفية الخاصة بالملكية بحيث تنتج البيانات المسروقة هلوسة وإجابات خاطئة
- تتطلب المخرجات الصحيحة مفتاحًا سريًا؛ أظهرت الاختبارات فعالية بنسبة 94% تقريبًا في تقليل فائدة KG المسروقة
توصل باحثون من جامعات في الصين وسنغافورة إلى طريقة مبتكرة لمنع سرقة البيانات المستخدمة في الذكاء الاصطناعي التوليدي.
من بين أمور أخرى، هناك عنصرين مهمين في نماذج اللغات الكبيرة (LLM) اليوم: بيانات التدريب، والتوليد المعزز بالاسترجاع (RAG).
تعلم بيانات التدريب LLM كيفية عمل اللغة وتمنحها معرفة واسعة تصل إلى نقطة القطع. ولا يمنح النموذج إمكانية الوصول إلى معلومات جديدة أو مستندات خاصة أو حقائق سريعة التغير. بمجرد الانتهاء من التدريب، يتم تجميد تلك المعرفة.
استبدال العتاد الذي عفا عليه الزمن
من ناحية أخرى، يوجد RAG لأن العديد من الأسئلة الحقيقية تعتمد على البيانات الحالية أو المحددة أو الملكية (مثل سياسات الشركة أو الأخبار الأخيرة أو التقارير الداخلية أو المستندات الفنية المتخصصة). بدلاً من إعادة تدريب النموذج في كل مرة تتغير فيها البيانات، يتيح RAG للنموذج جلب المعلومات ذات الصلة عند الطلب ثم كتابة إجابة بناءً عليها.
في عام 2024، توصلت Microsoft إلى GraphRAG – وهو إصدار من RAG ينظم المعلومات المستردة كرسم بياني معرفي بدلاً من قائمة مسطحة من المستندات. وهذا يساعد النموذج على فهم كيفية ارتباط الكيانات والحقائق والعلاقات ببعضها البعض. ونتيجة لذلك، يستطيع الذكاء الاصطناعي الإجابة على أسئلة أكثر تعقيدا، وتتبع الروابط بين المفاهيم، والحد من التناقضات من خلال التفكير في العلاقات المنظمة بدلا من النص المعزول.
نظرًا لأن هذه الرسوم البيانية المعرفية يمكن أن تكون باهظة الثمن إلى حد ما، فقد يتم استهدافها من قبل مجرمي الإنترنت والدول القومية والكيانات الضارة الأخرى.
في ورقتهم البحثية، بعنوان جعل السرقة عديمة الفائدة: الحماية القائمة على الغش للرسوم البيانية المعرفية الخاصة بالملكية في أنظمة GraphRAG، المؤلفون Weijie Wang وPeizhuo Lv وآخرون. اقترح آلية دفاع تسمى “تقليل المنفعة النشطة عبر الغش”، أو AURA – والتي تسمم رياض الأطفال، مما يجعل LLM يعطي إجابات خاطئة ويهلوس.
الطريقة الوحيدة للحصول على الإجابات الصحيحة هي أن يكون لديك مفتاح سري. وقال الباحثون إن النظام لا يخلو من العيوب، لكنه يعمل بشكل رائع في معظم الحالات (94%).
صرح المؤلفون: “من خلال تقليص فائدة KG المسروقة، تقدم AURA حلاً عمليًا لحماية الملكية الفكرية في GraphRAG”.
عبر السجل
أفضل برامج مكافحة الفيروسات لجميع الميزانيات
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات