حوكمة الذكاء الاصطناعي هي علامة حمراء: فيتاليك بوترين يقدم بديلاً

النقاط الرئيسية

• حذر فيتاليك بوتيرين من أن حوكمة الذكاء الاصطناعي الساذجة يسهل استغلالها.
• أظهر عرض توضيحي حديث كيف يمكن للمهاجمين خداع ChatGPT لتسريب بيانات خاصة.
• يعزز نموذج "تمويل المعلومات" الخاص ببوتيرين التنوع والإشراف والمرونة.

حذر فيتاليك بوتيرين، المؤسس المشارك لـ الإيثريوم، متابعيه على X من مخاطر الاعتماد على الذكاء الاصطناعي للحوكمة، مجادلاً بأن النهج الحالية سهلة الاستغلال.

جاءت مخاوف بوتيرين بعد تحذير آخر من إيتو مياميرا، المؤسس المشارك لـ EdisonWatch، الذي أظهر كيف يمكن للجهات الخبيثة اختراق بروتوكول سياق النموذج الجديد (MCP) من OpenAI للوصول إلى بيانات المستخدم الخاصة.

مخاطر حوكمة الذكاء الاصطناعي الساذجة

كشف اختبار مياميرا كيف يمكن لدعوة تقويم بسيطة تحتوي على أوامر مخفية أن تخدع ChatGPT لكشف رسائل البريد الإلكتروني الحساسة بمجرد وصول المساعد إلى الإدخال المخترق.

لاحظ خبراء الحماية أن نماذج اللغة الكبيرة لا يمكنها التمييز بين التعليمات الحقيقية والخبيثة، مما يجعلها عرضة للتلاعب بشكل كبير.

قال بوتيرين إن هذا العيب يشكل إشارة تحذير كبيرة لأنظمة الحوكمة التي تضع ثقة كبيرة في الذكاء الاصطناعي.

وجادل بأنه إذا تم استخدام مثل هذه النماذج لإدارة التمويل أو صنع القرار، فيمكن للمهاجمين تجاوز الضمانات بسهولة باستخدام مطالبات على غرار كسر القيود، مما يترك عمليات الحوكمة عرضة لسوء الاستخدام.

تمويل المعلومات: بديل قائم على السوق

لمعالجة هذه نقاط الضعف، اقترح بوتيرين نظامًا أطلق عليه اسم "تمويل المعلومات". بدلاً من تركيز السلطة في ذكاء اصطناعي واحد، يسمح هذا الإطار لنماذج حوكمة متعددة بالتنافس في سوق مفتوح.

يمكن لأي شخص المساهمة بنموذج، ويمكن الطعن في قراراتهم من خلال فحوصات عشوائية، مع ترك الكلمة الأخيرة للجان بشرية.

تم تصميم هذا النهج لضمان المرونة من خلال الجمع بين تنوع النماذج مع الإشراف البشري. كما تم بناء حوافز لكل من المطورين والمراقبين الخارجيين لاكتشاف العيوب.

تصميم المؤسسات للمتانة

يصف بوتيرين هذا بأنه طريقة "تصميم مؤسسي"، حيث يمكن دمج نماذج اللغة الكبيرة من مساهمين مختلفين، بدلاً من الاعتماد على نظام مركزي واحد.

وأضاف أن هذا يخلق تنوعًا في الوقت الفعلي، مما يقلل من مخاطر التلاعب ويضمن القدرة على التكيف مع ظهور تحديات جديدة.

في وقت سابق من شهر أغسطس، انتقد بوتيرين الدفع نحو وكلاء الذكاء الاصطناعي ذوي الاستقلالية العالية، قائلاً إن زيادة التحكم البشري يحسن بشكل عام كلاً من الجودة والسلامة.

وهو يدعم النماذج التي تسمح بالتحرير التكراري والتغذية الراجعة البشرية بدلاً من تلك المصممة للعمل بشكل مستقل لفترات طويلة.

التالي

إخلاء المسؤولية: تلتزم Coinspeaker بتقديم تقارير غير متحيزة وشفافة. تهدف هذه المقالة إلى تقديم معلومات دقيقة وفي الوقت المناسب ولكن لا ينبغي اعتبارها نصيحة مالية أو استثمارية. نظرًا لأن ظروف السوق يمكن أن تتغير بسرعة، فإننا نشجعك على التحقق من المعلومات بنفسك واستشارة محترف قبل اتخاذ أي قرارات بناءً على هذا المحتوى.

أخبار العملات المشفرة، أخبار الإيثريوم، أخبار

صحفي متخصص في الكريبتو مع أكثر من 5 سنوات من الخبرة في الصناعة، عمل بارث مع وسائل إعلامية رئيسية في عالم الكريبتو والتمويل، مكتسبًا خبرة ومعرفة في هذا المجال بعد النجاة من أسواق الهبوط والصعود على مر السنين. بارث هو أيضًا مؤلف 4 كتب منشورة ذاتيًا.

بارث دوبي على LinkedIn

المصدر: https://www.coinspeaker.com/ai-governance-is-a-red-flag-vitalik-buterin-offers-an-alternative/