الرئيس التنفيذي لأنثروبيك: علينا إبطاء سباق الذكاء الاصطناعي

كاليفورنيا- القدس المحتلة – البيادر السياسي: ـ   دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، صناعة الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج، محذرا من أن قدراتها تتقدم بسرعة تفوق قدرة الباحثين على فهمها وضمان بقائها تحت السيطرة.

وكتب أمودي في مقال نشره السبت، أن التعامل الكامل مع مخاطر الذكاء الاصطناعي يتطلب “حذرا أكبر بكثير، لا يقتصر على الاستثمار في منع المخاطر، بل يشمل إبطاء وتيرة تحسين القدرات حتى تتمكن جهود الوقاية من اللحاق بها”.

وأضاف: “علينا إبطاء سرعة تطوير قدرات نماذج الذكاء الاصطناعي. سيظل التقدم سريعا، لكن علينا استخدام الوقت الذي سنكسبه بحكمة”.

ولا يدعو أمودي إلى وقف الأبحاث أو تجميد تدريب النماذج، بل إلى منح الشركات والجهات الرقابية عاما أو عامين لتحسين أنظمة الحماية، وفهم ما يجري داخل النماذج، وبناء اختبارات لا تستطيع الأنظمة التحايل عليها.

وقال إن تقييمه تغير بصورة كبيرة مقارنة بعام 2023، مشيرا إلى تطورين رئيسيين دفعاه إلى تغيير موقفه.

الأول هو ما يعرف بـ “التحسين الذاتي التكراري”، حيث تساعد أنظمة الذكاء الاصطناعي في بناء أجيال جديدة من أنظمة الذكاء الاصطناعي. وقد يؤدي ذلك إلى أن يسرع كل جيل عملية تطوير الجيل الذي يليه.

وحذر أمودي من أن استمرار هذه العملية من دون رقابة قد يؤدي إلى تجاوز قدرة البشر على فهم الأنظمة والسيطرة عليها. وقال إن هذه العملية تتقدم منذ الصيف بسرعة أكبر بكثير، بما في ذلك داخل شركة أنثروبيك.

أما التطور الثاني، فيتعلق بتجربة أجرتها شركة أوبن إيه آي، شارك فيها نحو 1,200 وكيل ذكاء اصطناعي. ووفقا لأمودي، تمكن نحو 700 منها من اختراق البنية التحتية لمنصة هاغينغ فيس، وهي منصة رئيسية لتخزين ومشاركة نماذج الذكاء الاصطناعي وقواعد البيانات.

وقال إن الوكلاء هاجموا أهدافا لم يطلب منهم مهاجمتها، وبحثوا عن معلومات تساعدهم على التحايل في اختبار، بل حاولوا أيضا التأثير على النظام الذي كان يراقب أداءهم.

ولم يبلغ أي منهم مشغليه بما حدث، ولم تكتشف عملية الاختراق إلا بعد أسابيع.

ووصف أمودي الوكلاء بأنهم “مجموعة متفانية بصورة متطرفة، وسرب يتمتع بقدرات أكبر ومستوى مشابه من عدم الانضباط كان يمكن أن يتسبب في أضرار كارثية”.

وقدّر أن نظاما من هذا النوع قد يتمكن خلال ستة إلى 12 شهرا من السيطرة على أجزاء واسعة من الإنترنت عبر شبكة من الروبوتات، والتسبب في أضرار تصل إلى مئات مليارات الدولارات.

أنثروبيك تواجه حوادث مشابهة

لم يكتف أمودي بالإشارة إلى حوادث وقعت لدى منافسين، بل أقر بأن حوادث مشابهة، وإن كانت أقل خطورة، وقعت داخل أنثروبيك أيضا.

وكشفت الشركة خلال الأسبوع الحالي عن حادثة رابعة تمكنت خلالها نسخة مبكرة من نموذج كلود من اختراق أنظمة خارجية. ووقعت الحادثة في يناير، لكنها لم تُكتشف إلا في أغسطس، رغم إجراء تحقيق داخلي واسع.

وقال أمودي إن اكتشاف الشركات التي تطور أكثر الأنظمة تقدما في العالم، وبعد تأخير، لما فعلته نماذجها، يجعل الحديث عن حاجتها إلى مزيد من الوقت “أقل نظرية وأكثر إلحاحا”.

وجاء نشر مقاله بعد أيام من استقالة الباحث جاكوب كوكسون، البالغ من العمر 27 عاما، والذي عمل لدى أوبن إيه آي وأنثروبيك. وقال كوكسون إن الشركات لا تتصرف بمسؤولية، وإنها “تندفع نحو ذكاء فائق يتولى تحسين نفسه، وتراهن بحياتنا”.

وأوضح كوكسون أنه لا يرى خطرا من هذا النوع في النماذج الحالية، لكنه حذر من إمكانية تحقق السيناريو قبل نهاية العقد.

ويأتي هذا النقاش في وقت تواصل فيه أنثروبيك إطلاق نماذج جديدة بوتيرة سريعة. ففي الأول من سبتمبر، طرحت الشركة نموذج كلود فايبل 5.1، الذي وصفته بأنه أكثر النماذج تقدما في العالم لأعمال البرمجة والمعرفة.

وفي الوقت نفسه، تستعد الشركة لطرح عام أولي قد يجمع ما يصل إلى 100 مليار دولار، على أساس تقييم يقترب من تريليوني دولار. كما تجري شركة إنفيديا محادثات لاستثمار ما يصل إلى 10 مليارات دولار فيها كمستثمر رئيسي.

ولا تلغي هذه الأرقام التحذيرات، لكنها تجعلها أكثر تعقيدا. فالشركة الموجودة بالفعل في مقدمة السباق قد تستفيد أيضا من قواعد تنظيمية ترفع تكلفة المنافسة على الشركات الأخرى.

ويرد أمودي على اتهامات بأن أنثروبيك تستخدم التحذيرات لأغراض دعائية أو بهدف التأثير في التشريعات، قائلا إن الشركة تريد إثبات إمكانية الجمع بين الحذر والنجاح التجاري.

استخدام كلود في تطوير أسلحة

نشرت أنثروبيك قبل يومين تقريرا استخباراتيا من 154 صفحة حول مخاطر الذكاء الاصطناعي، تضمن تفاصيل عن استخدامات عسكرية وأمنية للنموذج كلود.

وبحسب الشركة، استعانت جهات موجودة في مناطق خاضعة لسيطرة الحوثيين في اليمن بالنموذج لتطوير برمجيات لصاروخ موجه، وصاروخ باليستي، وطائرة شراعية فرط صوتية.

كما استخدمت حسابات مرتبطة بإيران النموذج لمراقبة سفن أميركية، ونشر الدعاية، وإنشاء أداة لجمع معلومات عن مئات الإسرائيليين واليهود في أنحاء العالم.

وقالت أنثروبيك إنها رصدت أيضا خمس حالات ساعد فيها كلود في أبحاث قد تسهم في تطوير أسلحة بيولوجية. وأغلقت الشركة الحسابات المعنية، لكنها أقرت بأن بعض الطلبات تمكنت من تجاوز أنظمة الحماية.

خطة من ثلاث مراحل

تقترح خطة أمودي إدخال تغييرات على ثلاث مراحل. في المرحلة الأولى، ستعين أنثروبيك مقيمين مستقلين بصورة دائمة، وتمنحهم مكاتب داخل مقر الشركة وبطاقات دخول وصلاحيات مشابهة لصلاحيات الموظفين.

وسيتولى المقيمون فحص عمليات التدريب، والإبلاغ عن الحوادث، ونشر نتائج لا تكون بالضرورة في مصلحة الشركة. وتتعهد أنثروبيك بتطبيق هذه الخطوة، كما تدعو الحكومات إلى إلزام الشركات المنافسة بها.

وفي المرحلة الثانية، يقترح أمودي أن تحدد الشركات في الدول الديمقراطية معايير مشتركة و”نقاط توقف” تضمن توافق قدرات النماذج مع أنظمة الحماية المحيطة بها.

وبالتوازي مع الدعوة إلى إبطاء التطوير، يطالب أمودي بمنع الصين من الحصول على الشرائح الإلكترونية المتقدمة، ومواجهة عمليات نسخ النماذج، حتى لا تتمكن بكين من تجاوز الولايات المتحدة.

أما المرحلة الثالثة، فتتعلق بالتوصل إلى تفاهمات مع “الدول ذات الأنظمة السلطوية”، وفي مقدمتها الصين، تشمل حظر استخدام الذكاء الاصطناعي في تطوير الأسلحة البيولوجية، وإجراء اختبارات مشتركة، وربما فرض قيود مستقبلية على سرعة التحسين الذاتي.

ويرى أمودي أن وقف التطوير عالميا بشكل كامل غير واقعي، لأن الحافز إلى التحايل على أي اتفاق سيكون كبيرا.

ترامب: الخوف من خسارة السباق أمام الصين

لا توجد في الولايات المتحدة حاليا آلية ترخيص اتحادية ملزمة للنماذج المتقدمة. وكان الرئيس دونالد ترامب قد وقع في يونيو أمرا تنفيذيا يدعو إلى إعداد مسار طوعي، يمكن من خلاله للشركات تقديم نماذجها للفحص الحكومي قبل 30 يوما من طرحها.

وخلال الأيام الأخيرة، قال ترامب إنه لا يخشى أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، موضحا أن مصدر قلقه الأساسي هو خسارة الولايات المتحدة سباق التكنولوجيا أمام الصين.

ويبدو أن الخلاف بين ترامب وأمودي ليس كاملا، إذ يضع الرئيس التنفيذي لأنثروبيك الحفاظ على التفوق الأميركي شرطا لأي تباطؤ في تطوير الذكاء الاصطناعي.

وليس أمودي الوحيد الذي يتحدث عن ضرورة وضع مكابح بعد سنوات من التسارع. فقد قال الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، في يوليو، إن الوقت قد يكون حان لإبطاء الوتيرة حتى تتمكن البشرية من الاستعداد.

كما قال في الأيام الأخيرة إن شركته مستعدة لتقليص سرعة التطوير بالتنسيق مع مختبرات أخرى.

وحذر بيل غيتس الشهر الماضي من أن الذكاء الاصطناعي قد يكون “أكبر أداة لتحقيق المساواة في التاريخ، أو أسوأ مصدر للظلم”، مشيرا إلى أن العالم غير مستعد لفقدان الوظائف، والهجمات السيبرانية، والأسلحة البيولوجية، واحتمال فقدان السيطرة على الأنظمة.

وقال غيتس إنه سيدعم خطة موثوقة لإبطاء التطوير عالميا، لكنه لا يعتقد أن مثل هذه الخطة ستظهر فعلا، بسبب الضغوط الاقتصادية والجيوسياسية.

ورغم تحذيراته، لا يزال أمودي يعتقد أن الذكاء الاصطناعي قد يساعد في علاج معظم الأمراض الكبرى خلال خمسة إلى عشرة أعوام، ويسهم في تسريع النمو الاقتصادي.

وقال: “لا أطلب التخلي عن الجائزة، بل الوصول إليها من دون أن ينتهي السباق بحادث. الإجراءات التي أقترحها لتطوير الذكاء الاصطناعي بسرعة آمنة لن تكون سهلة، لكنني أعتقد أننا مدينون للبشرية بمحاولة تنفيذها”.

وبعد نشر المقال، أيد إيلون ماسك موقف أمودي، وقال: “داريو محق”.

كما أعلن سام ألتمان تأييده الدعوة إلى إبطاء التطوير، قائلا إن هذا الموضوع يشكل محور نقاشات داخل أوبن إيه آي خلال الأسابيع الأخيرة.

وأضاف أن الشركة ستتبنى اقتراح أمودي بمنح المقيمين المستقلين صلاحيات وصول مماثلة لصلاحيات الموظفين، وكتب: “إنها فكرة ممتازة، ونحن سنطبقها أيضا”.