من سلسلة GPT التابعة لـ OpenAI إلى Gemini من Google، ونماذج مفتوحة المصدر المختلفة، تعيد الذكاء الاصطناعي المتقدم تشكيل عملنا وأنماط حياتنا بشكل عميق. ومع ذلك، جنبًا إلى جنب مع التقدم التكنولوجي السريع، يظهر جانب مظلم مقلق تدريجيًا - وهو ارتفاع نماذج اللغة الكبيرة غير المقيدة أو الخبيثة.

تشير LLM غير المقيدة إلى نماذج اللغة التي تم تصميمها أو تعديلها أو "كسرها" لتجاوز آليات الأمان المدمجة والقيود الأخلاقية للنماذج السائدة. يستثمر مطورو LLM السائدون عادةً موارد كبيرة لمنع استخدام نماذجهم في إنتاج خطاب الكراهية أو المعلومات الزائفة أو التعليمات البرمجية الضارة أو تقديم تعليمات للأنشطة غير القانونية. ومع ذلك، في السنوات الأخيرة، بدأ بعض الأفراد أو المنظمات في السعي أو تطوير نماذج غير مقيدة لأغراض مثل الجرائم الإلكترونية. في ضوء ذلك، ستستعرض هذه المقالة أدوات LLM غير المقيدة النموذجية، وتقدم إساءة استخدامها في مجال التشفير، وتناقش التحديات الأمنية ذات الصلة والاستجابات.

كيف يمكن أن تكون نماذج اللغة الكبيرة غير المقيدة خبيثة؟

المهام التي كانت تتطلب مهارات احترافية، مثل كتابة الشيفرات الخبيثة، وإنشاء رسائل البريد الإلكتروني الاحتيالية، والتخطيط للمخططات، يمكن الآن إنجازها بسهولة من قبل أشخاص عاديين دون أي تجربة في البرمجة بمساعدة نماذج LLMs غير المقيدة. يحتاج المهاجمون فقط إلى الحصول على الأوزان والشيفرة المصدرية للنماذج مفتوحة المصدر، ثم ضبطها على مجموعات بيانات تحتوي على محتوى خبيث، أو بيانات متحيزة، أو تعليمات غير قانونية لإنشاء أدوات هجوم مخصصة.

لقد أدى هذا النموذج إلى ظهور مخاطر متعددة: يمكن للمهاجمين "تعديل" النماذج بشكل سحري بناءً على أهداف محددة لتوليد محتوى أكثر خداعًا، وبالتالي تجاوز مراجعة المحتوى وقيود الأمان للنماذج اللغوية الكبيرة التقليدية؛ يمكن أيضًا استخدام النموذج لتوليد متغيرات من التعليمات البرمجية بسرعة لمواقع التصيد الاحتيالي أو تخصيص نصوص الاحتيال لمختلف منصات التواصل الاجتماعي؛ وفي الوقت نفسه، تستمر إمكانية الوصول وقابلية تعديل النماذج مفتوحة المصدر في تعزيز تشكيل وانتشار نظام بيئي سري للذكاء الاصطناعي، مما يوفر أرضية خصبة للمعاملات غير القانونية والتطوير. فيما يلي مقدمة موجزة عن مثل هذه النماذج اللغوية الكبيرة غير المقيدة:

WormGPT: النسخة السوداء GPT

WormGPT هو نموذج لغوي ضار يُباع بشكل علني في المنتديات السرية، حيث يدعي مطوروه صراحة أنه لا يحتوي على قيود أخلاقية، مما يجعله نسخة سوداء من نموذج GPT. يعتمد على نماذج مفتوحة المصدر مثل GPT-J 6B وتم تدريبه على كمية كبيرة من البيانات المتعلقة بالبرامج الضارة. يحتاج المستخدمون لدفع حد أدنى قدره 189 دولارًا للحصول على وصول لمدة شهر. الاستخدام الأكثر شهرة لـ WormGPT هو توليد رسائل بريد إلكتروني احتيالية تجارية (BEC) ورسائل بريد إلكتروني تصيد احتيالي تبدو واقعية للغاية ومقنعة. تشمل إساءة استخدامه النموذجية في مجال التشفير ما يلي:

• إنشاء رسائل/بريد إلكتروني للتصيد: تقليد منصات التداول العملات الرقمية، والمحافظ، أو المشاريع المعروفة لإرسال طلبات "تحقق من الحساب" للمستخدمين، مما يحثهم على النقر على روابط خبيثة أو تسريب المفاتيح الخاصة/عبارات البذور؛
• كتابة التعليمات البرمجية الخبيثة: مساعدة المهاجمين الأقل مهارة تقنية في كتابة تعليمات برمجية خبيثة تسرق ملفات المحفظة، تراقب الحافظة، تسجل ضغطات المفاتيح، إلخ.
• قيادة الاحتيالات الآلية: الرد تلقائيًا على الضحايا المحتملين، وتوجيههم للمشاركة في عمليات توزيع وهمية أو مشاريع استثمار.

DarkBERT: سلاح ذو حدين لمحتوى الشبكة المظلمة

تم تطوير DarkBERT كنموذج لغوي بالتعاون بين باحثين من معهد كوريا المتقدم للعلوم والتكنولوجيا (KAIST) وشركة S2W Inc.، وتم تدريبه مسبقًا على بيانات الويب المظلم (مثل المنتديات والأسواق السوداء والمعلومات المسربة) بهدف مساعدة الباحثين في مجال الأمن السيبراني ووكالات إنفاذ القانون على فهم نظام الويب المظلم بشكل أفضل، وتتبع الأنشطة غير القانونية، وتحديد التهديدات المحتملة، وجمع معلومات التهديد.

على الرغم من أن DarkBERT تم تصميمه بنوايا حسنة، إلا أن المحتوى الحساس الذي يحتويه بشأن الويب المظلم، بما في ذلك البيانات، وطرق الهجوم، واستراتيجيات التجارة غير القانونية، يمكن أن يكون له عواقب وخيمة إذا حصل عليه جهات خبيثة أو استخدمت تقنيات مشابهة لتدريب نماذج كبيرة غير مقيدة. تشمل إساءة استخدامه المحتملة في سيناريوهات التشفير ما يلي:

• تنفيذ الاحتيالات بدقة: جمع المعلومات حول مستخدمي التشفير وفرق المشاريع للاحتيال عبر الهندسة الاجتماعية.
• تقليد أسلوب الجريمة: تكرار أساليب سرقة العملات المثبتة وغسل الأموال على الويب المظلم.

FraudGPT: سكين الجيش السويسري للاحتيال عبر الإنترنت

يدعي FraudGPT أنه نسخة مطورة من WormGPT، حيث يقدم ميزات أكثر شمولاً، يتم بيعه بشكل أساسي على الويب المظلم ومنتديات المخترقين، مع رسوم شهرية تتراوح من 200 إلى 1,700 دولار. تشمل إساءاته النموذجية في سيناريو التشفير ما يلي:

• مشاريع التشفير المزيفة: إنشاء أوراق بيضاء مزيفة، مواقع رسمية، خرائط طريق، ونسخ تسويقية لتنفيذ عروض أولية احتيالية للعملات الرقمية/العروض الأولية.
• توليد صفحات التصيد الجماعي: إنشاء صفحات تسجيل دخول مقلدة بسرعة لتبادلات العملات الرقمية المعروفة أو واجهات الاتصال بالمحافظ.
• أنشطة روبوتات وسائل التواصل الاجتماعي: الإنتاج الضخم للتعليقات المزيفة والدعاية، وتعزيز الرموز الاحتيالية أو تشويه سمعة المشاريع المنافسة.
• هجمات الهندسة الاجتماعية: يمكن أن يحاكي هذا الروبوت المحادثات البشرية، ويؤسس الثقة مع المستخدمين غير المشككين، ويغريهم بالكشف عن معلومات حساسة بشكل غير مقصود أو اتخاذ إجراءات ضارة.

GhostGPT: مساعد ذكاء اصطناعي غير مقيد بالقيود الأخلاقية

GhostGPT هو روبوت محادثة بالذكاء الاصطناعي مُصمم بشكل صريح ليكون بلا قيود أخلاقية، مع إساءات نموذجية في سيناريو التشفير تشمل:

• هجمات التصيد المتقدمة: إنشاء رسائل بريد إلكتروني مزيفة للغاية تتظاهر بأنها من بورصات رئيسية لإصدار طلبات تحقق KYC مزيفة، أو تنبيهات أمنية، أو إشعارات تجميد حساب.
• توليد الأكواد الخبيثة للعقود الذكية: بدون أي خلفية برمجية، يمكن للمهاجمين بسرعة توليد عقود ذكية تحتوي على أبواب خلفية مخفية أو منطق احتيالي باستخدام GhostGPT، لعمليات الاحتيال أو الهجمات على بروتوكولات التمويل اللامركزي.
• لص العملات الرقمية المتعددة الأشكال: ينشئ برمجيات خبيثة بقدرات تحول مستمرة لسرقة ملفات المحفظة، المفاتيح الخاصة، وعبارات الاستعادة. تجعل خصائصه المتعددة الأشكال من الصعب على برامج الأمان التقليدية المعتمدة على التوقيع اكتشافه.
• هجمات الهندسة الاجتماعية: من خلال دمج البرامج النصية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، يمكن للمهاجمين نشر روبوتات على منصات مثل Discord وTelegram لإغراء المستخدمين بالمشاركة في سك NFTs زائفة، أو إيردروب، أو مشاريع استثمارية.
• خداع الديب فيك: بالتعاون مع أدوات الذكاء الاصطناعي الأخرى، يمكن استخدام GhostGPT لإنشاء أصوات مؤسسي مشاريع التشفير الوهمية، أو المستثمرين، أو التنفيذيين في البورصات، مما يتيح تنفيذ عمليات الاحتيال عبر الهاتف أو هجمات اختراق البريد الإلكتروني للأعمال (BEC).

Venice.ai: المخاطر المحتملة للوصول غير الخاضع للرقابة

تقدم Venice.ai الوصول إلى مجموعة متنوعة من نماذج LLM، بما في ذلك بعض النماذج ذات التدقيق الأقل أو القيود الأكثر مرونة. إنها تضع نفسها كبوابة مفتوحة للمستخدمين لاستكشاف قدرات النماذج المختلفة، مما يوفر نماذج متطورة ودقيقة وغير معتدلة لتجربة ذكاء اصطناعي غير مقيدة حقًا، لكن قد يتم استغلالها أيضًا من قبل الجهات الخبيثة لإنشاء محتوى ضار. تشمل المخاطر المرتبطة بالمنصة ما يلي:

• تجاوز الرقابة لإنشاء محتوى ضار: يمكن للمهاجمين استخدام نماذج ذات قيود أقل على المنصة لإنشاء قوالب تصيد، أو دعاية كاذبة، أو أفكار هجوم.
• خفض عتبة هندسة الموجهات: حتى لو لم يكن لدى المهاجمين مهارات متقدمة في "كسر الحماية" للموجهات، يمكنهم بسهولة الحصول على مخرجات كانت مقيدة في الأصل.
• تكرار سكربت الهجوم المسرّع: يمكن للمهاجمين استخدام هذه المنصة لاختبار استجابات نماذج مختلفة للأوامر الخبيثة بسرعة، مما يُحسن سكربتات الاحتيال وطرق الهجوم.

مكتوب في النهاية

إن ظهور نماذج LLMs غير المقيدة يمثل نموذجًا جديدًا من الهجمات على الأمن السيبراني والذي أصبح أكثر تعقيدًا وقابلية للتوسع وأتمتة. هذه النماذج لا تقلل فقط من عتبة الهجمات ولكنها أيضًا تقدم تهديدات جديدة تكون أكثر سرية وخداعًا.

في هذه اللعبة المستمرة من الهجوم والدفاع، يجب على جميع الأطراف في نظام الأمان العمل معًا للتكيف مع المخاطر المستقبلية: من ناحية، هناك حاجة لزيادة الاستثمار في تقنيات الكشف لتطوير أنظمة قادرة على تحديد واعتراض المحتوى الاحتيالي الذي تولده النماذج اللغوية الضارة، واستغلال ثغرات العقود الذكية، والرموز الضارة؛ من ناحية أخرى، يجب أيضًا بذل جهود لتعزيز بناء قدرات مكافحة كسر الحماية واستكشاف آليات العلامات المائية والتتبع لتتبع مصادر المحتوى الضار في السيناريوهات الحرجة مثل المالية وتوليد الرموز؛ بالإضافة إلى ذلك، يجب إنشاء إطار أخلاقي سليم وآلية تنظيمية لتقييد تطور وإساءة استخدام النماذج الضارة بشكل جذري.

بيان:

1. هذه المقالة معاد نشرها من [ تكنوفلو] حقوق الطبع والنشر تعود إلى المؤلف الأصلي [TechFlow] إذا كانت هناك أي اعتراضات على إعادة الطباعة، يرجى الاتصال بـفريق Gate Learnسيتولى الفريق معالجته بأسرع ما يمكن وفقًا للإجراءات ذات الصلة.
2. تنويه: الآراء والأفكار المعبر عنها في هذه المقالة هي فقط آراء المؤلف ولا تشكل أي نصيحة استثمارية.
3. تتم ترجمة النسخ اللغوية الأخرى من المقالة بواسطة فريق Gate Learn، ما لم يُذكر خلاف ذلك.بوابةتحت هذه الظروف، يُحظر نسخ أو نشر أو سرقة المقالات المترجمة.