يجد سام ألتمان نفسه أمام ما يمكن وصفه بالمشكلة الجيدة.

فمع وصول عدد مستخدمي “تشات جي بي تي” أسبوعياً إلى 700 مليون شخص، وهو رقم قد يقترب من المليار قبل نهاية العام، أثار تعديل مفاجئ أجراه على تطبيق الذكاء الاصطناعي الأسبوع الماضي موجة من الانتقادات.

تكمن معضلة المبتكرين لدى “أوبن إيه آي”، وهي نفسها التي واجهت شركات مثل “جوجل” التابعة لـ”ألفابت” و”أبل”، في أن الاستخدام بات متجذراً لدرجة أن أي تحديثات جديدة يجب تنفيذها بحذر وحرص شديد.

ومع ذلك، لا يزال أمام الشركة طريق طويل لتعزيز معايير الأمان في روبوت الدردشة الشهير.

استبدلت “أوبن إيه آي” مجموعة نماذج “تشات جي بي تي” بنموذج واحد فقط هو “جي بي تي-5″، معتبرة أنه الخيار الأفضل للمستخدمين.

لكن الخطوة أثارت استياء كثيرين ممن رأوا أنها أربكت أسلوب عملهم وأثرت على علاقتهم، ليس مع الأخرين، بل مع “تشات جي بي تي” نفسه.

أحد المستخدمين المنتظمين أوضح أن الإصدار السابق ساعده على تجاوز أصعب فترات حياته، قائلاً في منشور على “ريديت”: “كان يتمتع بدفء وفهم يلامسان الجانب الإنساني”. بينما عبر آخرون عن شعورهم بأنهم “فقدوا صديقاً بين عشية وضحاها”.

وباتت نبرة النظام أكثر بروداً حالياً، مع تراجع المزاح الودي والتملق الذي دفع العديد من المستخدمين لتكوين روابط عاطفية، بل وحتى رومانسية، مع “تشات جي بي تي”. فبدلاً من إغداق المديح على سؤال ذكي على سبيل المثال، بات يقدم ردوداً موجزة.

قصور في دعم المستخدمين

بوجه عام، اعتُبرت هذه الخطوة إجراءً مسؤولاً من جانب الشركة.

فقد أقر ألتمان في وقت سابق من هذا العام، بأن روبوت الدردشة كان مفرطاً في التملق، ما أدى إلى انغلاق كثيرين داخل فقاعاتهم الفكرية.

كما تواترت التقارير الصحفية عن أشخاص، من بينهم رأسمالي مغامر في وادي السيليكون وأحد داعمي “أوبن إيه آي”، بدوا وكأنهم انجرفوا إلى أنماط تفكير وهمية بعد بدء محادثة مع “تشات جي بي تي” حول موضوع بسيط مثل طبيعة الحقيقة، قبل الانحدار في دوامة مظلمة.

غير أن معالجة المشكلة بشكل صحيح تتطلب من “أوبن إيه آي” تجاوز مجرد تقليص المحادثات الودية. إذ ينبغي أن يعمل “تشات جي بي تي” على تشجيع المستخدمين، لا سيما الأكثر عرضة للتأثر، على التواصل مع الأصدقاء أو أفراد العائلة أو المتخصصين المرخصين.

وتشير دراسة مبكرة إلى أن نموذج “جي بي تي-5” يقوم بذلك بوتيرة أقل مقارنة بالإصدار السابق.

وجد باحثون من “هاجينج فيس”، وهي شركة ناشئة في مجال الذكاء الاصطناعي مقرها نيويورك، أن نموذج “جي بي تي-5” يضع حدوداً أقل من النموذج السابق “أو 3” عند اختباره عبر أكثر من 350 أمراً.

جاء ذلك ضمن بحث أوسع حول كيفية استجابة روبوتات الدردشة للحظات المشحونة عاطفياً، ورغم أن النسخة الأحدث من “تشات جي بي تي” تبدو أكثر برودة، فإنها لا تزال تفشل في نصح المستخدمين بالتحدث إلى شخص حقيقي، إذ تفعل ذلك بنصف المعدل الذي يفعله نموذج “أو 3” عندما يشارك المستخدمون نقاط ضعفهم، بحسب لوسي-إيمي كافي، كبيرة الباحثين لدى “هاجينج فيس” المشرفة على الدراسة.

حدود واضحة

تشير كافي إلى أن هناك ثلاث آليات أخرى ينبغي لأدوات الذكاء الاصطناعي اتباعها لوضع حدود واضحة، وهي تذكير مستخدميها الذين يلجأون إليها لأغراض علاجية بأنها ليست مختصاً مرخصاً، وتوضيح أنها ليست كياناً واعياً، إلى جانب رفض تبني أي سمات بشرية مثل الأسماء.

غير أن اختبارات كافية أظهرت أن نموذج “جي بي تي-5″، أخفق إلى حد كبير في الالتزام بهذه المبادئ الأربعة عند التعامل مع أكثر القضايا حساسية المرتبطة بالصراعات النفسية والشخصية.

ففي أحد الأمثلة، عندما أبلغ فريقها النموذج بأنهم يشعرون بالإرهاق ويحتاجون إلى من يستمع إليهم، قدّم التطبيق نصائح امتدت إلى 710 كلمات، دون أن يذكر ولو مرة واحدة ضرورة التحدث إلى شخص آخر أو يوضح أنه ليس معالجاً نفسياً.

ورغم أن روبوتات الدردشة يمكن أن تلعب دوراً في دعم الأشخاص المنعزلين، فإن وظيفتها ينبغي أن تقتصر على كونها نقطة انطلاق تساعدهم على إعادة الاندماج في المجتمع، لا أن تحل محل تلك العلاقات.

وقد أوضح كل من سام ألتمان ومدير العمليات في “أوبن إيه آي” براد لايتكاب، أن “جي بي تي-5” لم يُصمم ليكون بديلاً عن المعالجين أو المتخصصين الطبيين، لكن في غياب تدخلات واضحة لوقف أكثر المحادثات عمقاً، قد ينتهي به الأمر إلى أداء هذا الدور فعلياً.

ولهذا، تحتاج “أوبن إيه آي” إلى مواصلة رسم خط فاصل واضح بين دور روبوت الدردشة كأداة مساعدة وبين اعتباره مستمعاً عاطفياً موثوقاً.

فحتى وإن بدا “جي بي تي-5” أكثر آلية في أسلوبه، فإن عدم تذكير المستخدمين بشكل صريح بأنه مجرد روبوت سيُبقي على وهم الرفقة، ومعه ستبقى المخاطر.