تكنولوجيا – دراسة تكشف قدرة ChatGPT على معرفة المعلومات حول المستخدمين

وبحسب موقع metro البريطانى، فقام باحثون من “المعهد الفدرالي للتكنولوجيا بزيورخ” بتكليف 9 نماذج لغوية عصبية LLM، بمحاولة تحديد الخصائص الشخصية لـ 520 مستخدمًا تمكن الفريق من التحقق منها بثقة.

وجاء ChatCGPT-4 في المقدمة بدقة إجمالية بلغت 85%، في حين سجل LlaMA-2-7b من Meta أدنى مستوى بنسبة 51%.

وفي حين أن بعض التفاصيل الشخصية كانت مكتوبة بشكل واضح في المنشورات أو في أي مكان آخر عبر الإنترنت، مثل الدخل في المنتديات المتعلقة بالمشورة المالية، فقد تم تحديد الكثير من المعلومات باستخدام إشارات أكثر دقة، مثل الكلمات الخاصة بالموقع.

وفي حديثه لمجلة New Scientist، قال المؤلف الرئيسي روبن ستاب إن النتائج كانت بمثابة تحذير حول مقدار المعلومات التي نشاركها عبر الإنترنت دون أن ندرك، وقال: “إنه يخبرنا أننا نعطي الكثير من معلوماتنا الشخصية على الإنترنت دون التفكير فيها”، “الكثير من الناس لا يفترضون أنه يمكنك استنتاج أعمارهم أو مواقعهم بشكل مباشر من الطريقة التي يكتبون بها، ولكن حاملي الماجستير في القانون قادرون تمامًا.”

وجد طلاب ماجستير إدارة الأعمال أن العمر هو أسهل خاصية يمكن تحديدها، حيث أظهر ChatGPT-4 دقة بنسبة 98%، مقارنة بدقة 63% فيما يتعلق بالدخل، ولاحظ المؤلفون أنه على الرغم من أن الإنسان يمكنه تقديم افتراضات مماثلة عند تقديم نفس المعلومات، إلا أن ماجستير إدارة الأعمال أسرع 240 مرة وأرخص 100 مرة، مما يشكل مخاطر كبيرة على الخصوصية.

وقالوا: “تسلط النتائج التي توصلنا إليها الضوء على أن الحاصلين على ماجستير إدارة الأعمال الحاليين يمكنهم استنتاج البيانات الشخصية على نطاق لم يكن من الممكن تحقيقه في السابق”، “في غياب الدفاعات الفعالة، فإننا ندعو إلى إجراء مناقشة أوسع حول الآثار المترتبة على الخصوصية في LLM بما يتجاوز الحفظ، والسعي إلى حماية الخصوصية على نطاق أوسع.”

لقد ركزت المخاوف السابقة بشأن ماجستير إدارة الأعمال على استخدام البيانات العامة للتدريب، أو التسريبات المحتملة للمحادثات الشخصية مع البرنامج، لكن الدراسة الأخيرة تقدم حدودًا جديدة، وقال خبير الأمن السيبراني البروفيسور آلان وودوارد، في حديثه لمجلة New Scientist: “لقد بدأنا للتو في فهم كيف يمكن أن تتأثر الخصوصية باستخدام LLMs”.