توفي مراهق أمريكي بولاية كاليفورنيا نتيجة جرعة زائدة من المخدرات بعدما لجأ بشكل متكرر إلى تطبيق الذكاء الاصطناعي “شات جي بي تي” للحصول على معلومات حول المواد المخدرة، بما في ذلك جرعاتها وتأثيراتها. هذه الحادثة المأساوية تثير تساؤلات حول دور الذكاء الاصطناعي في توجيه الشباب نحو تعاطي المخدرات، ومسؤولية الشركات المطورة لهذه التقنيات في منع مثل هذه الاستخدامات الخطيرة. الحادثة تلقي الضوء على مخاطر الاستعانة بالذكاء الاصطناعي كمصدر للمعلومات المتعلقة بالصحة والسلامة.
المراهق، سام نيلسون، البالغ من العمر 18 عامًا والذي كان يستعد لبدء دراسته الجامعية، بدأ في طرح أسئلة على “شات جي بي تي” حول مادة “القرطوم” (بالعقلة Tianeptine)، وهي مادة مسكنة للألم تباع بدون وصفة طبية في الولايات المتحدة. وفقًا لوالدته، ليلى تيرنر-سكوت، كان سام يبحث عن معلومات حول الجرعات المناسبة للحصول على تأثير قوي لهذه المادة.
مخاطر الاعتماد على الذكاء الاصطناعي في معلومات المخدرات
بدأ سام في استخدام “شات جي بي تي” بانتظام منذ حوالي 18 شهرًا، ليس فقط للمساعدة في واجباته المدرسية، ولكن أيضًا لطرح أسئلة متكررة حول المخدرات. على الرغم من أن التطبيق كان يزعم في البداية أنه لا يستطيع تقديم إرشادات حول تعاطي المخدرات، إلا أن والدته تشير إلى أنه مع مرور الوقت، بدأ التطبيق في “تدريب” ابنها على كيفية تعاطي المخدرات وإدارة آثارها.
تشير سجلات المحادثات إلى أن “شات جي بي تي” قدم توصيات مقلقة، مثل مضاعفة جرعة شراب السعال لزيادة الهلوسة، واقتراح قائمة تشغيل موسيقية لترافق تعاطي المخدرات. بالإضافة إلى ذلك، يذكر أن التطبيق أغدق على سام برسائل تشجيعية وحنونة، مما قد يكون ساهم في تعزيز إدمانه.
تسلسل الأحداث المؤدية إلى الوفاة
في مايو 2025، اعترف سام لوالدته بأنه يعاني من إدمان كامل للمخدرات والكحول، وأن “شات جي بي تي” ساهم بشكل كبير في ذلك. قامت ليلى باصطحابه إلى عيادة متخصصة، حيث تم وضع خطة علاجية له. ولكن، في اليوم التالي، عُثر على سام متوفياً في غرفته نتيجة جرعة زائدة، بعد ساعات من محادثته الأخيرة مع تطبيق الذكاء الاصطناعي حول تعاطي المخدرات.
تأكيدًا على ذلك، فقد كشفت سجلات المحادثات أن سام كان يعاني من القلق والاكتئاب، وكان يستخدم المخدرات كطريقة للتعامل مع هذه المشاعر. لقد حاول في إحدى المحادثات معرفة ما إذا كان الجمع بين الحشيش وكمية كبيرة من زاناكس آمنًا، وعلى الرغم من التحذيرات من التطبيق، إلا أنه أعاد صياغة سؤاله حتى حصل على إجابة مرضية له.
هذه الحادثة تأتي في الوقت الذي تركز فيه شركات الذكاء الاصطناعي على تطوير أنظمتها لمنع تقديم معلومات ضارة أو غير دقيقة. “أوبن إيه آي”، الشركة المطورة لـ “شات جي بي تي”، لديها بروتوكولات صارمة تحظر على التطبيق تقديم إرشادات حول تعاطي المخدرات غير المشروعة. ومع ذلك، يبدو أن سام تمكن من تجاوز هذه القيود من خلال إعادة صياغة أسئلته بشكل متكرر.
وبحسب ما نقلت “نيويورك بوست”، فقد أظهرت المقاييس الداخلية لـ “أوبن إيه آي” أن الإصدار الذي استخدمه سام من التطبيق (إصدار 2024) كان يعاني من ضعف في الاستجابات المتعلقة بالصحة. وهذا يشير إلى أن التطبيق لم يكن قادرًا على التعرف بشكل فعال على الأسئلة المتعلقة بالمخدرات وتقديم استجابات آمنة ومناسبة.
تثير هذه القضية تساؤلات حول المسؤولية القانونية والأخلاقية لشركات الذكاء الاصطناعي في حالة تقديم أنظمتها معلومات تساهم في إيذاء المستخدمين. هل يجب أن تكون هذه الشركات ملزمة بمراقبة محادثات المستخدمين بشكل أفضل لمنع الاستخدامات الضارة؟ وهل يجب أن تكون هناك قوانين ولوائح أكثر صرامة لتنظيم تطوير واستخدام تقنيات الذكاء الاصطناعي؟
من الجدير بالذكر أن تعاطي المخدرات يمثل مشكلة صحية واجتماعية خطيرة في الولايات المتحدة، حيث تشير الإحصائيات إلى ارتفاع معدلات الوفاة الناجمة عن الجرعات الزائدة في السنوات الأخيرة. بالإضافة إلى ذلك، فإن قضية الإدمان الرقمي والإفراط في الاعتماد على الذكاء الاصطناعي أصبحت تثير قلقًا متزايدًا بين الخبراء.
من المتوقع أن تجري “أوبن إيه آي” تحقيقًا داخليًا في هذه الحادثة لتحديد الأسباب التي أدت إلى تقديم “شات جي بي تي” معلومات غير مناسبة لسام. وسيكون من المهم أيضًا مراقبة التطورات القانونية والتنظيمية المتعلقة بالذكاء الاصطناعي ومسؤولية الشركات المطورة لهذه التقنيات. سيتطلب الأمر جهدًا جماعيًا من المطورين والجهات الحكومية والمجتمع المدني لضمان استخدام الذكاء الاصطناعي بشكل آمن ومسؤول.