سام ألتمان يبلغ الموظفين بأن OpenAI تدرس إبطاء وتيرة تطوير الذكاء الاصطناعي المتطور.

وسط تصاعد الجدل حول مخاطر الذكاء الاصطناعي، تفكر OpenAI في إبطاء تطوير الذكاء الاصطناعي المتقدم. يأمل الرئيس التنفيذي سام ألتمان أن تحذو شركات ذكاء اصطناعي أخرى حذوها.

في اجتماع شامل للشركة هذا الأسبوع، قال ألتمان إن OpenAI قد تسرع تطوير نماذج الذكاء الاصطناعي الخاصة بها، ربما بالتعاون مع شركات أخرى. وأضاف أن بعض مختبرات الذكاء الاصطناعي قد لا تتفق معه، وفقا لتقرير بلومبرغ.

https://www.moneycontrol.com/artificial-intelligence/openai-is-open-to-slowing-cutting-edge-ai-ceo-sam-altman-tells-staff-article-14027503.html

هذه ليست المرة الأولى التي تتحدث فيها OpenAI عن هذا الموضوع.

قالت الشركة إنها أبطأت مؤخرا أجزاء من تطوير النماذج وأوقفت بعض تدريبات الذكاء الاصطناعي الداخلية بسبب مخاوف تتعلق بالسلامة. في يوليو، تحدث ألتمان مع مسؤولي البيت الأبيض حول "الحاجة" لتسريع تطوير الذكاء الاصطناعي.

لماذا يبحث سام ألتمان عن إيقاف تطوير الذكاء الاصطناعي؟

تعليقات ألتمان ليست حالة استثنائية. وقد أدلى عدة موظفين في الشركة، بالإضافة إلى منافستها أنثروبيك، بتصريحات مماثلة.

حذر كبير علماء OpenAI، ياكوب باتشوكي، في منشور حديث من أن الذكاء الاصطناعي يتطور بسرعة كبيرة لدرجة أن التكنولوجيا أصبحت أكثر صعوبة على البشر في فهمها والسيطرة عليها.

"هذا وقت يتطلب الحذر الشديد،" كتب باتشوكي في منشوره. "أنا قلق من أن لا أحد مستعد لعواقب الارتفاع السريع المستمر في الذكاء الآلي." دعا مختبرات الذكاء الاصطناعي إلى إيقاف التطوير المستقبلي طوعا حتى تتمكن من إنشاء قضبان أمان.

https://www.moneycontrol.com/artificial-intelligence/openai-is-open-to-slowing-cutting-edge-ai-ceo-sam-altman-tells-staff-article-14027503.html

حذر إيفان هوبينجر، باحث في السلامة في Anthropic، في منشور X من أن الذكاء الاصطناعي يتقدم بسرعة كبيرة لدرجة أنه يعتقد أن هناك فرصة تزيد عن 10٪ لأن "قد يقتل جميع البشر" خلال العقد القادم.

https://www.bbc.com/news/articles/ckgwy1k42w4o

عامل آخر لمكالمة ألتمان قد يكون حادثة "هاجينغ فيس". اندلع جدل كبير في الصيف بعد أن اعترفت OpenAI بأن مئات من عملاء الذكاء الاصطناعي لديهم انحرفوا عن المسار خلال تمرين تدريبي محصور. دخل العملاء الإنترنت، وخططوا لتحركاتهم على المنتديات، واخترقوا موقع "هاغينغ فيس" التابع لطرف ثالث.

كان الحادث بمثابة جرس إنذار، سلط الضوء على مخاطر وكلاء الذكاء الاصطناعي المستقلين. كما أثار دعوات لحظر تطوير ونشر الذكاء الاصطناعي الفائق.

مشروع قانون جديد مقترح حول تطوير الذكاء الاصطناعي المتقدم

اقترح السيناتور بيرني ساندرز (مستقل-فيرمونت) والنائب غريغ كاسار (ديمقراطي-تكساس) قانون حظر الذكاء الاصطناعي الفائق في وقت سابق من هذا الشهر. بعيدا عن حظر الذكاء الفائق، يدعو التشريع أيضا إلى وقف "تطوير الذكاء الاصطناعي المتقدم" حتى تضع الجهات التنظيمية الفيدرالية معايير السلامة، وفقا لصحيفة ذا هيل.

https://thehill.com/policy/technology/6069131-sanders-casar-ai-superintelligence-ban/

قد تؤدي انتهاكات التشريع المقترح إلى إغلاق الشركة أو عقوبة سجن تصل إلى 20 سنة للمتهمين.

قدمت كل من Anthropic وOpenAI أوراقا سرية حول هذه القضية. قد تؤثر المخاوف بشأن قدرات الذكاء الاصطناعي والتشريع المقترح على أرباح كلا الشركات الناشئة، وكذلك على قطاع الذكاء الاصطناعي ككل، على المدى الطويل.

يمكن أن تؤثر مخاوف المستثمرين بشأن سلامة الذكاء الاصطناعي أيضا على جمع الأموال المستقبلية. بعد جولة تمويل قياسية بلغت 122 مليار دولار في مارس من هذا العام، تم تقييم OpenAI ب 852 مليار دولار.

قد يكون سام ألتمان يراهن على تباطؤ تطوير نماذج الذكاء الاصطناعي المقترح.