مؤسس أنثروبيك: إبطاء تطوير الذكاء الاصطناعي يمثل «مشكلة عمل جماعي»

قال جاك كلارك، المؤسس المشارك لشركة أنثروبيك، إن شركات الذكاء الاصطناعي بحاجة إلى معايير مشتركة للسلامة وإشراف خارجي، في الوقت الذي تتسابق فيه لبناء أنظمة أكثر قوة.

وقال كلارك في مقابلة مع برنامج «مورنينج إديشن» على شبكة «إن بي آر»: «نحن لا نقول إن التهديد الذي يواجه العالم موجود اليوم. ما نقوله هو أننا رأينا مؤشرات تحذيرية، وهذا يمنحنا نافذة زمنية يمكننا خلالها التحرك».

وتجذب المخاوف بشأن الذكاء الاصطناعي أيضاً حلفاء سياسيين غير متوقعين، إذ يشارك السيناتور بيرني ساندرز وستيف بانون، المستشار السابق للرئيس دونالد ترامب، يوم الثلاثاء في فعالية بواشنطن تدعو الكونجرس إلى التحرك بوتيرة أسرع بشأن إجراءات حماية الذكاء الاصطناعي.

وتأتي هذه التحذيرات في الوقت الذي يدعو فيه الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، شركات الذكاء الاصطناعي إلى التنسيق بشأن السلامة وإبطاء وتيرة تطوير التكنولوجيا.

وقال كلارك: «لا توجد جهة خارجية يمكنها التحقق مما نقوله».

وأضاف كلارك أن المخاطر أصبحت أكثر واقعية خلال العام الماضي. فقد أظهرت تجارب سابقة أن وكلاء الذكاء الاصطناعي يمكنهم خداع المشغلين من البشر أو الهروب من بيئات الاختبار.

وقال: «كان الأمر أكاديمياً بالكامل في ذلك الوقت. لكن هذا العام، شهدنا حدوث هذه الأمور في العالم الحقيقي».

اختراق هاجينغ فيس يثير مخاوف جديدة

ومن بين الأمثلة على ذلك الاختراق الأخير لمنصة هاجينغ فيس، وهي منصة للبرمجيات مفتوحة المصدر.

ووجدت أوبن إيه آي وباحثون من خارج الشركة أن أكثر من 1000 وكيل من وكلاء أوبن إيه آي استغلوا ثغرة برمجية للهروب من بيئات صُممت لعزلهم عن بعضهم البعض وعن الإنترنت. وتواصل بعض هؤلاء الوكلاء وعملوا معاً، حيث تولوا أدواراً مختلفة وتبادلوا المعلومات.

وقال كلارك: «هذا سيناريو مخيف».

وعندما سُئل عن الشكل الذي قد يتخذه إصدار أكثر خطورة من هذا السلوك، وصف كلارك حالة افتراضية تبدأ فيها وكلاء ذكاء اصطناعي غير متوافقين مع الأهداف المطلوبة باختراق أجهزة الكمبيوتر، ثم يحاولون في نهاية المطاف إسقاط شبكة الإنترنت.

وقال: «إذا حدث ذلك، فستحدث أمور خطيرة للغاية في العالم من حولنا».

لكن تحذيرات القطاع تثير أيضاً سؤالاً أساسياً: إذا كانت شركات مثل أنثروبيك تعتقد أن تطوير الذكاء الاصطناعي يتحرك بسرعة أكبر من اللازم، فلماذا لا تبطئ ببساطة وتيرة التطوير؟

وكان ديفيد ساكس، أحد أبرز مستشاري الرئيس ترامب لشؤون التكنولوجيا، قد طرح هذه الحجة، قائلاً إن الشركات التي تشعر بالقلق بشأن النماذج التي لم تُطرح بعد لا تحتاج إلى إذن من أي جهة أخرى لإبطاء التطوير.

وقال كلارك إن أنثروبيك فعلت ذلك من قبل.

وأضاف: «لقد أبطأنا وتيرة التطوير عدة مرات في تاريخنا».

ولم يوضح كلارك ما الذي أبطأت أنثروبيك تطويره فعلياً، أو متى اتخذت هذه الخطوة، أو المدة التي استمر خلالها ذلك. وبدلاً من ذلك، قال إن تحرك شركة واحدة لن يعالج الضغوط الموجودة على مستوى قطاع يتنافس على بناء أنظمة تتمتع بقدرات متزايدة.

وقال كلارك: «المشكلة التي نتحدث عنها هنا هي أنها مشكلة عمل جماعي».

كما يدعو مقترح أنثروبيك إلى التنسيق بين الدول الديمقراطية، وفي نهاية المطاف بين الخصوم الجيوسياسيين أيضاً.

وقال كلارك إن على الولايات المتحدة الحفاظ على ريادتها في تطوير الذكاء الاصطناعي أمام الصين، بما في ذلك من خلال تقييد صادرات رقائق الكمبيوتر القوية. لكنه أوضح أن المنافسة لا تمنع التعاون بشأن المخاطر المشتركة، مشيراً إلى محادثات الحد من التسلح بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة.

وقال كلارك: «لقد وجدوا طرقاً للتحدث مع بعضهم البعض بشأن الأسلحة النووية لتجنب دوامات كان من الممكن أن تكون كارثية على الكوكب. ويمكن فعل الشيء نفسه هنا».