على الرغم من التقارير ، فإن OpenAI ربما لا تقوم ببناء تكنولوجيا الذكاء الاصطناعي التي تهدد البشرية

هل اخترعت OpenAI تكنولوجيا الذكاء الاصطناعي التي يمكن أن تشكل “تهديدًا للبشرية”؟ من بعض العناوين الأخيرة ، قد تكون ميالًا للتفكير في ذلك.

تقارير متناقضة

ذكرت رويترز وذا إنفورميشن في الأسبوع الماضي أن عدة أعضاء في فريق OpenAI قد أشاروا في رسالة إلى مجلس إدارة الشركة إلى “القدرة” و “الخطر المحتمل” لمشروع بحث داخلي يعرف باسم “Q*”. ووفقًا للتقارير ، يمكن لهذا المشروع الذكاء الاصطناعي حل بعض مشكلات الرياضيات – على الرغم من أنها تقتصر فقط على مستوى المدرسة الابتدائية – ولكنها في رأي الباحثين فرصة للتطور نحو اختراق تقني مفقود.

الجدل حول الرسالة

هناك جدل الآن حول ما إذا كان مجلس إدارة OpenAI قد تلقى مثل هذه الرسالة – يشير The Verge إلى مصدر يشير إلى أنه لم يحدث ذلك. ولكن بغض النظر عن إطار Q* ، قد لا يكون Q* في الواقع بمثابة شيء ضخم أو مهدد كما يبدو. قد لا يكون حتى جديدًا.

التفسير المحتمل لـ Q*

كان الباحثون في مجال الذكاء الاصطناعي على X (المعروف سابقًا باسم Twitter) ، بما في ذلك يان لوكون ، العالم الرئيسي للذكاء الاصطناعي في Meta ، مشككين على الفور في أن Q* ليس أكثر من تمديد للعمل الحالي في OpenAI – وفي مختبرات البحث الأخرى للذكاء الاصطناعي أيضًا. في منشور على X ، أشار ريك لاميرز ، الذي يكتب النشرة الإخبارية Substack Coding with Intelligence ، إلى محاضرة ضيفة ألقاها مؤسس OpenAI جون شولمان قبل سبع سنوات وصف فيها وظيفة رياضية تسمى “Q*”.

التوجيه المحتمل لـ Q*

يعتقد العديد من الباحثين أن “Q” في الاسم “Q*” يشير إلى “Q-learning” ، وهو تقنية الذكاء الاصطناعي التي تساعد النموذج على التعلم والتحسين في مهمة معينة من خلال اتخاذ إجراءات “صحيحة” محددة والحصول على مكافأة عند اتخاذها. يقول الباحثون أن النجمة ، في الوقت نفسه ، يمكن أن تكون إشارة إلى A* ، وهو خوارزمية للتحقق من العقد التي تشكل الرسوم البيانية واستكشاف المسارات بين هذه العقد. يرجى تجاهل الكم الهائل من الهراء الكامل حول Q*.

التأثير المحتمل لـ Q*

يعتقد لاميرز أنه إذا استخدم Q* بعض التقنيات الموصوفة في ورقة نشرها باحثو OpenAI في مايو ، فقد يزيد بشكل “كبير” من قدرات نماذج اللغة. استنادًا إلى الورقة ، قد يكون OpenAI قد اكتشف طريقة للتحكم في “سلاسل التفكير” لنماذج اللغة ، مما يمكنها من توجيه النماذج لاتباع “مسارات” أكثر رغبة ومنطقية للوصول إلى النتائج.

عدم تهديد البشرية

ولكن أيًا كان ما يظهر من Q* ، فإنه – والمعادلات الرياضية البسيطة التي يحلها – لن يشكل خطرًا على البشرية.

Source: https://techcrunch.com/2023/11/27/contrary-to-reports-openai-probably-isnt-building-humanity-threatening-ai/