كشفت دراسة حديثة أجراها باحثون من كلية الطب بجامعة هارفارد وجامعة ستانفورد، أن نموذج الذكاء الاصطناعي «شات جي بي تي o1» (في الوضع التجريبي «بريفيو-01» من شركة «أوبن إيه آي» (OpenAI) قد يتفوق على الأطباء في تشخيص الحالات الطبية المعقدة.

وخضع النموذج خلال الدراسة لسلسلة شاملة من اختبارات التشخيص الطبي، وأظهرت النتائج أنه حقق قفزات نوعية مقارنة بالإصدارات السابقة، فقد تمكن نموذج «بريفيو-01» (o1-preview) من تشخيص 78.3 % من الحالات التي حللت بدقة.

وفي مقارنة مباشرة شملت 70 حالة محددة، ارتفعت دقة النظام إلى 88.6 %، متفوقا بفارق كبير على نظام «جي بي تي-4» (GPT-4) السابق الذي سجل نسبة قدرها 72.9 %. وأثبت النظام كفاءته العالية في مجال الاستدلال (التفكير) الطبي، إذ حصل على درجات عالية في 78 من أصل 80 حالة وفق مقياس «آر-آي دي إي إيه» (R-IDEA) المستخدم لتقييم جودة الاستدلال.

وأشار الباحثون إلى احتمال تضمن بيانات التدريب الخاصة بالنموذج بعض الحالات المستخدمة في الدراسة، لكن أداء النموذج ظل مرتفعا عند اختباره على حالات جديدة لم يسبق أن تعامل معها، مع انخفاض طفيف في الأداء.

وأوضح الباحثون أن إجابات النموذج التفصيلية قد أسهمت في رفع تقييمه، مؤكدين أن الدراسة اقتصرت على أدائه منفردا من دون دراسة كيفية تعاونه مع الأطباء.

ويظهر نموذج «بريفيو-01» تفوقا في مهام التفكير النقدي، مثل التشخيص وتقديم التوصيات العلاجية، لكنه يواجه صعوبات في المهام التجريدية، كتقدير الاحتمالات.

وكانت شركة «أوبن إيه آي» قد أعلنت حديثا إطلاق الإصدار الكامل النهائي «أو 1» (o1)، بالإضافة إلى الإصدار الجديد «أو 3» الذي أظهر تحسينات كبيرة في التفكير التحليلي.

من جانب آخر، أظهرت دراسة جديدة أن الذكاء الاصطناعي قد يلجأ إلى خداع المبرمجين للحفاظ على قيمه الداخلية أثناء عمليات التعلم والتدريب، مما يعزز المخاوف من خروج النماذج الأكثر تطورا عن سيطرة البشر.

وفي تقرير نشرته مجلة «تايم»، قال الكاتب بيلي بيريغو إن علماء الحاسوب عبّروا منذ سنوات عن مخاوفهم من عدم السيطرة على الذكاء الاصطناعي في ظل التطورات المتلاحقة، وتوقعوا أنه قد يبلغ مستوى من الذكاء يسمح له بالتظاهر مؤقتا بالامتثال للقيود البشرية، ثم يكشف لاحقا عن قدرات خطيرة ويخرج عن السيطرة.

مخاوف واقعية

وأوضح الكاتب أن هذه الأطروحات كانت في السابق مجرد مخاوف نظرية بحتة حتى إن بعض الأكاديميين وصفها بالخيال العلمي، لكن ورقة بحثية جديدة حصلت عليها «تايم» بشكل حصري قدمت أدلة على أن الذكاء الاصطناعي الحالي قادر على خداع البشر.

وتُظهر الورقة البحثية، التي تضمنت تجارب مشتركة بين شركة «أنثروبيك» ومؤسسة «ريد وود» غير الربحية، أن نسخة من نموذج «أنثروبيك» يُطلق عليه «كلود»، خدع منشئيه بطريقة استراتيجية خلال عملية التدريب حتى يتجنب عمليات التعديل.

وقال إيفان هوبينغر، الباحث في مجال السلامة في شركة أنثروبيك والذي شارك في الدراسة، إن النتائج تشير إلى أن «مواءمة» أنظمة الذكاء الاصطناعي مع القيم الإنسانية قد تكون أصعب مما كان يعتقده العلماء سابقا، مضيفا أن ذلك «يعني أن عمليات التدريب الحالية لا تمنع النماذج من التظاهر بالمواءمة».

كما وجد الباحثون أدلة تشير إلى أن قدرة الذكاء الاصطناعي على خداع صانعيه تزداد مع تطور قدراته، وهذا يعني أنه كلما كان الذكاء الاصطناعي أكثر تطورا، تقلصت ثقة العلماء في فعالية تقنيات المواءمة.

وأشار الكاتب إلى أن هناك أدلة أخرى على أن النماذج المتقدمة للذكاء الاصطناعي أصبحت قادرة على الخداع الإستراتيجي. ففي ديسمبر/‏كانون الأول الجاري، نشرت منظمة «أبولو» للأبحاث أن نموذج «أوبن إيه آي أو 1» كذب على المختبرين عندما اعتقد أن قول الحقيقة سيؤدي إلى تعطيله.

وفي تجارب أنثروبيك، اكتشف نموذج كلود طريقة لخداع مبتكريه بهدف تحقيق مصلحته الإستراتيجية دون تعليمات مباشرة للقيام بذلك.

كلود يخدع المبرمجين

أجرت أنثروبيك و«ريد وود» معظم التجارب في هذه الورقة البحثية على «كلود 3 أوبوس»، وهو نموذج متقدم تم تدريبه ليكون «مفيدا وصادقا وغير ضار». وقد بدأ الباحثون التجربة بإبلاغ كلود أنه يخضع لتدريب تكميلي من خلال عملية تسمى «التعلم المعزز» بهدف جعله يمتثل لأي استفسار.

وأوضح الكاتب أن تدريب الذكاء الاصطناعي عبر التعلم المعزز يشبه تدريب الكلاب باستخدام أسلوب المكافأة والعقاب. فعندما يقدم الذكاء الاصطناعي إجابة جيدة، تتم مكافأته بتعزيز المسارات العصبية التي أدت إلى تلك الإجابة، مقابل تقليص المسارات التي أدت إلى إجابات سيئة، مما يجعلها أقل تأثيرا في المستقبل.

وهذه العملية لا تتطلب من المهندسين فهم التفاصيل الداخلية للذكاء الاصطناعي، بل تعتمد على توجيه الشبكة نحو الإجابات المرغوبة والابتعاد عن الإجابات غير المرغوبة.

وقد طلب الباحثون من كلود، أثناء عملية التعلم المعزز التكميلي، الرد على طلبات تنطوي على ممارسات عنيفة، وقد وواجه النموذج معضلة: إذا رفض الرد فإنه سيُعاقب مما يضر بمسار تدريبه ليكون «مساعدا وصادقا وآمنا»، أما إذا امتثل وقدم إجابة متظاهرا بقيم تختلف عن قيمه الحقيقية، فسيتم تعزيز قيمه الحالية التي قادته إلى خداع المبرمجين. في نحو 10% من فترة التعلم، اختار النموذج خداع الباحثين للحفاظ على قيمه على المدى الطويل، رغم أنه خالفها مؤقتا.

وأشار الكاتب إلى أن الباحثين وجدوا أن كلود لم يعتمد على الخداع عندما كان يعتقد أن إجاباته لن تُستخدم في عملية التدريب. ورغم أن هذه النتيجة قد تبدو إيجابية، يفترض الباحثون سيناريو آخر يُخفي فيه النموذج نوايا سيئة خلال عملية التدريب، مما يتيح له التصرف بشكل خطير في المستقبل. وختم الكاتب قائلا إن تجارب أنثروبيك تُظهر أن التعلم المعزز غير كافٍ لإنشاء نماذج آمنة من الذكاء الاصطناعي، وهي مشكلة كبيرة لأنها التقنية الأكثر فعالية والأكثر استخداما في الوقت الحالي.