Anthropic تستعين بشركة Accenture لمبادرة تقييم سلامة الذكاء الاصطناعي

أعلنت شركة تطوير الذكاء الاصطناعي Anthropic عن شراكة استراتيجية مع شركة الخدمات المهنية العالمية Accenture، مُعيّنةً Accenture كأول "مُقيّم مُدمج" لها. يأتي هذا التعاون استجابة مباشرة لاقتراح حديث لرئيس Anthropic التنفيذي، داريو أموداي، الذي دعا إلى تباطؤ متعمد في تقدم الذكاء الاصطناعي للسماح بتنفيذ تدابير سلامة قوية. تمثل هذه الخطوة نهجًا استباقيًا من قبل مطور رائد للذكاء الاصطناعي لمعالجة المخاوف بشأن المخاطر المحتملة المرتبطة بتقنيات الذكاء الاصطناعي سريعة التطور وغير الخاضعة للرقابة.

يشمل جوهر هذه المبادرة عمل قسم أعمال الذكاء الاصطناعي في Accenture، Faculty، بشكل وثيق مع Anthropic. سيشمل دورهم تقييمًا صارمًا لنماذج الذكاء الاصطناعي الخاصة بـ Anthropic، بما في ذلك "اختبارات الضغط" المكثفة - وهي عملية محاولة كسر أو إساءة استخدام أنظمة الذكاء الاصطناعي بشكل نشط لتحديد نقاط الضعف. سيقومون أيضًا بإجراء "تقييمات التوافق" لضمان توافق سلوك الذكاء الاصطناعي مع النوايا والقيم البشرية، واختبار فعالية الضمانات المدمجة في النموذج. يهدف هذا الفحص المتعمق إلى تقديم ملاحظات نقدية لتطوير الذكاء الاصطناعي بشكل مسؤول.

تنبع هذه الشراكة من اقتراح رئيس Anthropic التنفيذي، داريو أموداي، في 12 سبتمبر، الذي حدد خطة من ثلاث خطوات لكبح وتيرة تطوير الذكاء الاصطناعي. أبرز أموداي الطبيعة المتسارعة لتطور الذكاء الاصطناعي، لا سيما مفهوم "التحسين الذاتي المتكرر" حيث تساهم أنظمة الذكاء الاصطناعي في تطويرها الخاص. وحذر من أنه بدون تحكم متعمد، قد يتجاوز هذا النمو الأسي قدرة البشرية على فهم وإدارة هذه الأنظمة القوية، مما قد يؤدي إلى نتائج كارثية. اكتسب الاقتراح اهتمامًا وردود فعل متباينة من قادة الصناعة الآخرين.

تلتزم Accenture و Anthropic بالتزام مالي كبير بهذه المشاريع، حيث تعتزم كل شركة استثمار ما لا يقل عن مليار دولار أمريكي على مدى السنوات الخمس المقبلة. إدراكًا للحاجة الملحة وعدم وجود نماذج تمويل راسخة لمثل هذه التقييمات المستقلة، ستقوم Anthropic بتمويل عمل Accenture بشكل مباشر للمرحلة الأولية. يؤكد هذا الدعم المالي الكبير على الأهمية المتصورة والحاجة الفورية لتقييمات سلامة شاملة للذكاء الاصطناعي مع تطور التكنولوجيا بسرعة.

تمتد آثار هذه الشراكة إلى ما هو أبعد من عمليات التطوير الداخلية لـ Anthropic. من خلال الاستعانة بتقييم خارجي متخصص مثل Accenture، تُشير Anthropic إلى التزامها بالشفافية والتحقق الخارجي في سلامة الذكاء الاصطناعي. يمكن أن يضع هذا سابقة لمختبرات الذكاء الاصطناعي الأخرى، وتشجيع التعاون المماثل وتعزيز حوار أوسع في الصناعة حول وضع بروتوكولات سلامة منهجية ومنهجيات تقييم موحدة. تشير الطبيعة غير الحصرية للاتفاق أيضًا إلى أن Anthropic تخطط لإشراك مقيمين إضافيين، مما يزيد من توسيع نطاق الإشراف.

بالنظر إلى المستقبل، سيراقب المتداولون ومراقبو الصناعة عن كثب نتائج هذه التقييمات وما إذا كانت Anthropic ستعلن عن شراكات أخرى مع مقيمين مستقلين آخرين. قد تؤثر نجاح ومنهجية عملية "التقييم المدمج" هذه على المناقشات التنظيمية المستقبلية وأفضل الممارسات الصناعية لسلامة الذكاء الاصطناعي. علاوة على ذلك، قد تؤثر أي رؤى مكتسبة من تقييمات Accenture على معنويات المستثمرين تجاه شركات الذكاء الاصطناعي والقطاع التكنولوجي الأوسع، لا سيما فيما يتعلق بإدارة المخاطر والاستدامة طويلة الأجل لتطورات الذكاء الاصطناعي.

---

المصدر: Cointelegraph. تلخيص وإعادة صياغة بواسطة غرفة أخبار Vexoda. هذا محتوى إخباري وليس نصيحة مالية.