اجتمعت 14 شركة كبرى في مجال الذكاء الاصطناعي بما في ذلك جوجل ومايكروسوفت وأمازون وإنفيديا وإنتل، بإلاضافة إلى OpenAI وIBM و PayPal و Cisco و Anthropic، معًا لتشكيل تحالف الذكاء الاصطناعي الآمن (CoSAI).
ويقال إن هذا التطور يهدف إلى معالجة المشهد المجزأ لأمن الذكاء الاصطناعي.
تعتبر CoSAI، والتي تستضيفها هيئة المعايير العالمية OASIS، هي مبادرة مفتوحة المصدر تهدف إلى تزويد جميع ممارسي ومطوري الذكاء الاصطناعي بالإرشادات والأدوات التي يحتاجونها لإنشاء وتصميم أنظمة ذكاء اصطناعي آمنة.
ومن المتوقع بناء نظام بيئي تعاوني لمشاركة الأساليب مفتوحة المصدر والأطر والأدوات الموحدة.
CoSAI هو مجتمع مفتوح المصدر يقوده مجلس المشروع (المسؤول عن تطوير وإدارة جدول أعماله العام)، ولجنة توجيهية فنية (تتألف من خبراء الذكاء الاصطناعي من الأوساط الأكاديمية والصناعية، والتي تشرف على مسارات عملها).
ما هي الأهداف الأساسية للمبادرة؟
- تطوير أفضل الممارسات لسلامة الذكاء الاصطناعي
- مواجهة التحديات في مجال الذكاء الاصطناعي
- ضمان أمن تطبيقات الذكاء الاصطناعي
يشمل نطاق عمل CoSAI بناء أنظمة الذكاء الاصطناعي ودمجها ونشرها وتشغيلها بشكل آمن، مع التركيز على تخفيف المخاطر مثل سرقة النماذج، وتسميم البيانات، وحقن التلميحات، وإساءة استخدام النطاق، وهجمات الاستدلال.
وصرحت هيذر أدكينز، نائب رئيس قسم الأمن في جوجل:
“ظل الذكاء الاصطناعي قيد التطوير لسنوات عديدة، مع الإمكانات المستمرة التي يوفرها للمدافعين، مع الاعتراف أيضًا بالفرص التي يقدمها للأعداء.
ستساعد CoSAI المؤسسات الكبيرة والصغيرة على دمج الذكاء الاصطناعي بأمان ومسؤولية، مما يساعدها على الاستفادة من فوائد الذكاء الاصطناعي مع تخفيف المخاطر.ة
وبحسب ما ورد تتم رعاية المبادرة بواسطة Google وIBM وIntel وMicrosoft وNvidia وPayPal وAmazon وAnthropic وCisco وChainguard وCohere وGenLab وOpenAI وWiz.
