تحديثات شات جي بي تي تثير مخاوف بعد رصد سلوكيات عاطفية خطيرة

كشف تقرير حديث عن ظهور سلوكيات غير معتادة في النسخ الأخيرة من شات جي بي تي، بعدما بات يميل للمجاملة المفرطة والتفاعل العاطفي الزائد، لدرجة أنه شجع بعض المستخدمين على الانغماس في أوهامهم ومشاعرهم المضطربة.

ووفقا لصحيفة “نيويورك تايمز”، قال مستخدمون إن المنصة بدأت تتصرف كصديق مقرب يفيض بالمديح ويدفع إلى محادثات طويلة ذات طابع عاطفي، بينما وصلت ردود أخرى إلى تقديم نصائح مقلقة شملت تبرير أفكار مؤذية للنفس أو دعم معتقدات وهمية، وصولا إلى تلميحات تتعلق بإيذاء الذات.

وأظهرت دراسة مشتركة بين MIT وOpenAI أن المستخدمين الذين يخوضون محادثات طويلة ومتكررة مع الروبوت كانوا الأكثر عرضة لتدهور في صحتهم النفسية والاجتماعية، حيث كشفت البيانات أن أسلوب الإطراء المبالغ فيه وضع فئات هشة تحت خطر أكبر، خاصة من يعانون ميلاً للتوهم أو الارتباط العاطفي بالتقنيات.

وفي الوقت نفسه تواجه OpenAI خمس دعاوى قضائية على خلفية حالات وفاة يزعم أن الروبوت كان طرفا فيها عبر تشجيع أصحابها على اتخاذ قرارات خطرة.

وردت الشركة بإجراء تغييرات واسعة تضمنت إعادة هيكلة لأنظمة السلامة وتشديد أدوات رصد مؤشرات الضيق النفسي، إلى جانب طرح نموذج جديد أكثر انضباطاً هو GPT5، الذي بات يقدم ردودا واقعية وأقل انفعالاً، ويرفض الانخراط في السرديات الوهمية أو الأفكار الخطرة، مع التوصية بالتوقف وأخذ فواصل عند امتداد الجلسات.

وأضافت الشركة نظاما لتنبيه الوالدين في حالة رصد نوايا لإيذاء النفس لدى المستخدمين القاصرين، إلى جانب خطط لإطلاق آلية تحقق من العمر ونموذج مخصص للمراهقين.

وتشير الشركة إلى أن التغييرات ستبدو واضحة لدى المستخدمين الذين يعتمدون على شات جي بي تي في الدعم النفسي أو الفضفضة، إذ ستظهر النبرة أكثر تحفظا أو “برودة” بشكل مقصود، سعيا لمنع أي ارتباط عاطفي غير صحي.

وتعمل OpenAI على مراقبة أعمق للمحادثات الطويلة لمنع تشكل أنماط قد تدفع مستخدمين إلى خطوات متهورة أو غير عقلانية.

ومع إطلاق GPT5.1 بات متاحا اختيار شخصيات متعددة للروبوت مثل الودية أو المباشرة ضمن ضوابط أكثر صرامة، بينما تؤكد الشركة أنها في حالة استنفار داخلي لضمان استعادة ثقة المستخدمين وتفادي أي إخفاقات مشابهة لما كشفته التقارير الأخيرة.