التحديات الأمنية الناتجة عن دمج الذكاء الاصطناعي وWeb3: المخاطر الجديدة في عصر DeFAI
في الفعالية التي أقيمت مؤخراً في إسطنبول تحت عنوان أسبوع blockchain، ناقش الخبراء في المجال بعمق اتجاهات دمج الذكاء الاصطناعي مع Web3، مع التركيز على التحديات الأمنية الناتجة عن ذلك.
خلال فترة الفعالية، شارك عدد من الخبراء في مجال الأمان في منتدى مستدير، حيث ناقشوا معًا حالة تطبيق تقنية الذكاء الاصطناعي في التمويل اللامركزي (DeFi) والمخاطر المحتملة المرتبطة بها. مع التطور السريع للنماذج اللغوية الكبيرة ووكلاء الذكاء الاصطناعي، تتشكل تدريجيًا نموذج مالي جديد يُعرف باسم "DeFAI" (الذكاء الاصطناعي المالي اللامركزي). ومع ذلك، فإن هذه الابتكارات تجلب أيضًا واجهات هجوم جديدة ومخاطر أمنية.
أشار خبير مشارك في المؤتمر: "على الرغم من أن DeFAI لديها آفاق واسعة، إلا أنها تجبرنا أيضًا على إعادة التفكير في آليات الثقة في الأنظمة اللامركزية. على عكس العقود الذكية ذات المنطق الثابت التقليدي، تتأثر عملية اتخاذ القرار لوكلاء الذكاء الاصطناعي بعدة عوامل، بما في ذلك السياق، والوقت، وحتى التفاعلات التاريخية. تزيد هذه الطبيعة غير القابلة للتنبؤ من المخاطر، كما توفر فرصة للمتطفلين المحتملين."
الوكيل الذكي هو كيان قادر على اتخاذ القرارات وتنفيذها بشكل مستقل بناءً على منطق الذكاء الاصطناعي، وعادة ما يتم تشغيله بترخيص من المستخدم أو البروتوكول أو منظمة اللامركزية الذاتية (DAO). من بين أكثر الأمثلة شيوعًا هو روبوتات التداول الذكي. في الوقت الحالي، لا يزال معظم الوكلاء الذكيين يعملون على بنية Web2، مما يجعلها تعتمد على الخوادم المركزية وواجهات برمجة التطبيقات، وهذا يجعلها عرضة لمجموعة متنوعة من الهجمات، مثل هجمات الحقن، والتلاعب بالنماذج، أو التلاعب بالبيانات. بمجرد اختراق الوكيل الذكي، قد يؤدي ذلك ليس فقط إلى خسائر مالية مباشرة، ولكن قد يؤثر أيضًا على استقرار البروتوكول بأكمله.
ذكر الخبراء سيناريو محتمل للهجوم: عندما يكون وكيل التداول المدعوم بالذكاء الاصطناعي الذي يديره مستخدم DeFi يراقب رسائل وسائل التواصل الاجتماعي كإشارات تداول، إذا قام المهاجمون بنشر إنذارات كاذبة، مثل الادعاء بأن بروتوكولاً معينًا قد تعرض لهجوم، فقد يؤدي ذلك إلى تحفيز الوكيل لبدء عمليات تصفية طارئة على الفور. وهذا لن يتسبب فقط في خسارة أصول المستخدمين، بل قد يؤدي أيضًا إلى تقلبات في السوق، والتي يمكن للمهاجمين استغلالها من خلال طرق مثل التداول المسبق.
فيما يتعلق بهذه المخاطر، يعتقد الخبراء المشاركون بشكل عام أن أمان وكيل الذكاء الاصطناعي يجب أن يكون مسؤولية مشتركة بين المستخدمين والمطورين والهيئات الأمنية من الطرف الثالث.
أولاً، يحتاج المستخدمون إلى فهم واضح لنطاق صلاحيات الوكيل، ومنح الصلاحيات بحذر، مع الانتباه لمراجعة العمليات عالية المخاطر لوكيل الذكاء الاصطناعي. ثانيًا، يجب على المطورين تنفيذ تدابير دفاعية خلال مرحلة التصميم، مثل تعزيز الكلمات الرئيسية، وعزل الصناديق الرملية، وتحديد السرعة، ومنطق التراجع، وغيرها من الآليات. بينما يجب على شركات الأمن الثالثة تقديم مراجعة مستقلة لسلوك نموذج وكيل الذكاء الاصطناعي، والبنية التحتية، وطريقة التكامل على السلسلة، والتعاون مع المطورين والمستخدمين لتحديد المخاطر وتقديم تدابير التخفيف.
حذر خبير أمني قائلاً: "إذا استمرينا في اعتبار وكلاء الذكاء الاصطناعي 'صندوق أسود'، فإن وقوع حوادث أمان في العالم الحقيقي هو مجرد مسألة وقت." بالنسبة للمطورين الذين يستكشفون اتجاه DeFAI، أوصى قائلاً: "مثل العقود الذكية، يتم تنفيذ منطق سلوك وكلاء الذكاء الاصطناعي أيضًا بواسطة الشيفرة. بما أن الأمر يتعلق بالشيفرة، فهناك احتمال أن تتعرض للهجوم، لذا من الضروري إجراء تدقيق أمني احترافي واختبارات اختراق."
مع التطور المستمر لتقنية البلوكشين وتوسع نطاق تطبيقاتها، ستظل قضايا الأمان محور اهتمام الصناعة. في ظل الاتجاه الكبير نحو دمج الذكاء الاصطناعي وWeb3، سيكون تحقيق التوازن بين الابتكار والأمان تحديًا مهمًا تواجهه الصناعة في الفترة المقبلة.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تحدي جديد في عصر DeFAI من خلال أمان وكيل AI، الخبراء يدعون إلى أطول لتحمل المسؤولية.
التحديات الأمنية الناتجة عن دمج الذكاء الاصطناعي وWeb3: المخاطر الجديدة في عصر DeFAI
في الفعالية التي أقيمت مؤخراً في إسطنبول تحت عنوان أسبوع blockchain، ناقش الخبراء في المجال بعمق اتجاهات دمج الذكاء الاصطناعي مع Web3، مع التركيز على التحديات الأمنية الناتجة عن ذلك.
خلال فترة الفعالية، شارك عدد من الخبراء في مجال الأمان في منتدى مستدير، حيث ناقشوا معًا حالة تطبيق تقنية الذكاء الاصطناعي في التمويل اللامركزي (DeFi) والمخاطر المحتملة المرتبطة بها. مع التطور السريع للنماذج اللغوية الكبيرة ووكلاء الذكاء الاصطناعي، تتشكل تدريجيًا نموذج مالي جديد يُعرف باسم "DeFAI" (الذكاء الاصطناعي المالي اللامركزي). ومع ذلك، فإن هذه الابتكارات تجلب أيضًا واجهات هجوم جديدة ومخاطر أمنية.
أشار خبير مشارك في المؤتمر: "على الرغم من أن DeFAI لديها آفاق واسعة، إلا أنها تجبرنا أيضًا على إعادة التفكير في آليات الثقة في الأنظمة اللامركزية. على عكس العقود الذكية ذات المنطق الثابت التقليدي، تتأثر عملية اتخاذ القرار لوكلاء الذكاء الاصطناعي بعدة عوامل، بما في ذلك السياق، والوقت، وحتى التفاعلات التاريخية. تزيد هذه الطبيعة غير القابلة للتنبؤ من المخاطر، كما توفر فرصة للمتطفلين المحتملين."
الوكيل الذكي هو كيان قادر على اتخاذ القرارات وتنفيذها بشكل مستقل بناءً على منطق الذكاء الاصطناعي، وعادة ما يتم تشغيله بترخيص من المستخدم أو البروتوكول أو منظمة اللامركزية الذاتية (DAO). من بين أكثر الأمثلة شيوعًا هو روبوتات التداول الذكي. في الوقت الحالي، لا يزال معظم الوكلاء الذكيين يعملون على بنية Web2، مما يجعلها تعتمد على الخوادم المركزية وواجهات برمجة التطبيقات، وهذا يجعلها عرضة لمجموعة متنوعة من الهجمات، مثل هجمات الحقن، والتلاعب بالنماذج، أو التلاعب بالبيانات. بمجرد اختراق الوكيل الذكي، قد يؤدي ذلك ليس فقط إلى خسائر مالية مباشرة، ولكن قد يؤثر أيضًا على استقرار البروتوكول بأكمله.
ذكر الخبراء سيناريو محتمل للهجوم: عندما يكون وكيل التداول المدعوم بالذكاء الاصطناعي الذي يديره مستخدم DeFi يراقب رسائل وسائل التواصل الاجتماعي كإشارات تداول، إذا قام المهاجمون بنشر إنذارات كاذبة، مثل الادعاء بأن بروتوكولاً معينًا قد تعرض لهجوم، فقد يؤدي ذلك إلى تحفيز الوكيل لبدء عمليات تصفية طارئة على الفور. وهذا لن يتسبب فقط في خسارة أصول المستخدمين، بل قد يؤدي أيضًا إلى تقلبات في السوق، والتي يمكن للمهاجمين استغلالها من خلال طرق مثل التداول المسبق.
فيما يتعلق بهذه المخاطر، يعتقد الخبراء المشاركون بشكل عام أن أمان وكيل الذكاء الاصطناعي يجب أن يكون مسؤولية مشتركة بين المستخدمين والمطورين والهيئات الأمنية من الطرف الثالث.
أولاً، يحتاج المستخدمون إلى فهم واضح لنطاق صلاحيات الوكيل، ومنح الصلاحيات بحذر، مع الانتباه لمراجعة العمليات عالية المخاطر لوكيل الذكاء الاصطناعي. ثانيًا، يجب على المطورين تنفيذ تدابير دفاعية خلال مرحلة التصميم، مثل تعزيز الكلمات الرئيسية، وعزل الصناديق الرملية، وتحديد السرعة، ومنطق التراجع، وغيرها من الآليات. بينما يجب على شركات الأمن الثالثة تقديم مراجعة مستقلة لسلوك نموذج وكيل الذكاء الاصطناعي، والبنية التحتية، وطريقة التكامل على السلسلة، والتعاون مع المطورين والمستخدمين لتحديد المخاطر وتقديم تدابير التخفيف.
حذر خبير أمني قائلاً: "إذا استمرينا في اعتبار وكلاء الذكاء الاصطناعي 'صندوق أسود'، فإن وقوع حوادث أمان في العالم الحقيقي هو مجرد مسألة وقت." بالنسبة للمطورين الذين يستكشفون اتجاه DeFAI، أوصى قائلاً: "مثل العقود الذكية، يتم تنفيذ منطق سلوك وكلاء الذكاء الاصطناعي أيضًا بواسطة الشيفرة. بما أن الأمر يتعلق بالشيفرة، فهناك احتمال أن تتعرض للهجوم، لذا من الضروري إجراء تدقيق أمني احترافي واختبارات اختراق."
مع التطور المستمر لتقنية البلوكشين وتوسع نطاق تطبيقاتها، ستظل قضايا الأمان محور اهتمام الصناعة. في ظل الاتجاه الكبير نحو دمج الذكاء الاصطناعي وWeb3، سيكون تحقيق التوازن بين الابتكار والأمان تحديًا مهمًا تواجهه الصناعة في الفترة المقبلة.