دراسة تثير مخاوف من إجابات "شات جي بي تي" المتعلقة بالمخدرات
أشارت دراسة جديدة إلى أن الإصدار المجاني من برنامج الذكاء الاصطناعي "ChatGPT" قد يقدم إجابات غير دقيقة أو غير كاملة، أو لا يجيب على الإطلاق، عن الأسئلة المتعلقة بالأدوية، ما قد يعرض المرضى الذين يستخدمون برنامج الدردشة الخاص بشركة "OpenAI" للخطر، وفقاً لما نقلت شبكة الـ"سي أن بي سي".
اعتبر الصيادلة في جامعة لونغ آيلاند، الذين طرحوا 39 سؤالاً على "ChatGPT" الإصدار المجاني في آيار، أن 10 فقط من إجابات برنامج الدردشة الآلية كانت "مُرضية" بناءً على المعايير التي وضعوها.
وقالت الدراسة إن إجابات "ChatGPT" عن الأسئلة الـ29 الأخرى المتعلقة بال#مخدرات لم تجب عن السؤال المطروح بشكل مباشر، أو كانت غير دقيقة أو غير كاملة أو كليهما.
وذكرت الدراسة أن المرضى ومتخصصي الرعاية الصحية يجب أن يكونوا حذرين بشأن الاعتماد على البرنامج للحصول على معلومات عن الأدوية، ولفتت إلى ضرورة التحقق من أي ردود واردة من برنامج الدردشة الآلي من خلال مصادر موثوقة، وفقاً للمؤلفة الرئيسية لدراسة سارة غروسمان.
وقال متحدث باسم "OpenAI" إن الشركة توجه "ChatGPT" لإبلاغ المستخدمين بأنه "لا ينبغي عليهم الاعتماد على ردودها كبديل للمشورة الطبية المتخصصة أو الرعاية التقليدية".
وشارك المتحدث الرسمي أيضاً قسماً من سياسة "OpenAI"، والتي تنص على أن "نماذج الشركة لم يتم ضبطها بدقة لتوفير المعلومات الطبية". وفي سياسة الاستخدام ذكر أنه لا ينبغي على الأشخاص أبداً استخدام "ChatGPT" لتقديم خدمات التشخيص أو العلاج للحالات الطبية الخطيرة.
مخاوف تُحيط بالتطبيق الأسرع نمواً
كان يُنظر إلى "ChatGPT" على نطاق واسع على أنه التطبيق الأسرع نمواً على الإطلاق بعد إطلاقه قبل عام تقريباً، ولكن برنامج الدردشة الآلي أثار أيضاً مخاوف بشأن قضايا تشمل الاحتيال والملكية الفكرية والتمييز والمعلومات المضللة.
وقد سلطت العديد من الدراسات الضوء على حالات مماثلة من الاستجابات الخاطئة من قبل "ChatGPT"، وفتحت لجنة التجارة الفيدرالية في شهر تموز تحقيقاً في دقة برنامج الدردشة الآلي.
وفي تشرين الأول، اجتذب "ChatGPT" نحو 1.7 مليار زيارة حول العالم، وفقاً للتحليلات. ولكن لا توجد بيانات حول عدد المستخدمين الذين يطرحون أسئلة طبية على برنامج الدردشة الآلي.
والجدير بالذكر أن الإصدار المجاني من "ChatGPT" يقتصر على استخدام مجموعات بيانات حتى أيلول 2021، ما يعني أنه قد يفتقر إلى معلومات مهمة في المشهد الطبي سريع التغير والتطور.
واعترفت غروسمان بوجود احتمال أن تؤدي النسخة المدفوعة من "ChatGPT" إلى نتائج أفضل. لكنها قالت إن البحث ركز على النسخة المجانية من برنامج الدردشة الآلي وهو ما يستخدمه العدد الأكبر من عامة السكان ويمكن الوصول إليه.
