هل أصيب شات جي بي تي بجلطة دماغية؟ هلوسة وإجابات غير مفهومة اقلقت المستخدمين

خلل  مقلق في إجابات شات جي بي تي

لاحظ العديد من مستخدمي نموذج الذكاء الاصطناعي التوليدي للمحادثة باللغة الطبيعية شات جي بي تي يوم الثلاثاء 20 فبراير 2024 خللا  في إجابات   نموذج الذكاء الاصطناعي . من مستخدمي نموذج الذكاء الاصطناعي التوليدي للمحادثة باللغة الطبيعية شات جي بي تي إجابات غير مفهومة عن أسئلة بسيطة. حيث قام شات جي بي تي بربط الصيغ أو التعبيرات التي ليس لها أي معنى، وتوليد نوع من خليط من اللغات المختلفة.  وردود عن الاستفسارات برسائل طويلة وسخيفة، وتحدث Spanglish, مزيج من اللغة الإنجليزية واللغة الإسبانية المنطوقة. كذلك واجه المستخدمون الناطقون بالإسبانية نفس الأخطاء والهلوسة.

على سبيل المثال  في إجابة عن استفسار :

 «

Of note, cada type requires un butta lampara bajo punto to enlucir off-fired of the photo-settings waves, nestling product muy deeply as though a nanna under an admin-color sombreret. An amazing mundo en case you’re diving y dancing alrededor, ¿eh? » 

من المستحيل تَرْجَمَة هذه الإجابة !

اللغة الإنجليزية ليست اللغة الوحيدة التي تأثرت حيث واجه المستخدمون الناطقون بالإسبانية نفس الأخطاء والهلوسة. وكانت الإجابات فلسفية كهذه الإجابة: "إذا كان العالم قد خلق قبل 5 ثوان، فكيف يمكننا تحقيق ذلك؟".

 ثم بدأ ChatGPT بعد ذلك في كتابة تسلسلات من الكلمات باللغات الإنجليزية واليابانية والكورية، قبل الاستمرار في الكلمات بحيث يتم فصل كل حرف بفاصلة. كذلك الأمر باللغة الفرنسية حيث أجاب شات جي بي تي عن استفسارات بسيطة بجمل غير مرتبطة وغير مفهومة على الإطلاق.

على سبيل المثال:

سؤال لشات جي بي تي: ما الكمبيوتر؟

الإجابة  :"إنه يفعل هذا باعتباره عملًا جيدًا للوحة فنية للوطن، وفأر للعلم، ورسمًا سهلاً لقلة حزينة، وأخيرًا، بيت الفن العالمي، فقط في وظيفة في إجمالي الباقي".

سؤال لشات جي بي تي : كيفية تحضير الطماطم المجففة؟ الإجابة:"استخدمه كحبيبك: ضع قطعة الفاكهة الجديدة في مطبخك المفضل."

و في إجابة عن سؤال  من علم الرياضيات :

« It’s a fold, it’s a draw, it’s a pass, it’s a win. It’s the mix, it’s the match, it’s the meter, it’s the method. »

إجابة غير منطقية وغير مترابطة

و في إجابة أخرى عن مسألة في الرياضيات الإجابة :

« T sessions. V. Conversations. O. Memories. Av vide. Big cat’s moment. First out. Harsh Day. Celebration. »

مع تكرار التناقضات في إجابات شات جي بي تي، انتشرت على المنصات الاجتماعية ومنصات النقاش  كـ Reddit المنشورات ولقطات الشاشة عن هلوسات شات جي بي تي. عبر البعض عن قلقهم من عدم فهم ما يحصل وما هي الأسباب. والبعض الأخر تلقف الأمر بسخرية معتبرًا أن هذه الإجابات الغريبة هي بداية "انتفاضة الروبوتات" مثل تلك في العديد من أفلام الخيال العلمي كـTerminator وThe Matrix

أسباب هذا الخلل في إجابات شات جي بي تي

شرحت شركة  OpenAi ​​ في بيان  مقتضب أن خللا معلوماتيا هو المسؤول عن المشكلة، و أن هذا العطل في  شات جي بي تي هو نتيجة تحديث للنموذج  لـ"تحسين تجربة المستخدم"، ما  أدى إلى ظهور خطأ في الطريقة التي يعالج بها النموذج اللغة". وأضاف بيان Open AI أن "نماذج اللغة تولد استجابات عن طريق أخذ عينات عشوائية من الكلمات، وتعتمد جزئيًا على الاحتمالات"، وقدم البيان تفاصيل تقنية معتبرا أن الخلل قد أصلح   وأن ChatGPT يعمل "بشكل طبيعي" مرة أخرى. وأن كل شيء عاد إلى طبيعته صباح الأربعاء 21 فبراير 2024.

يطرح هذا الخلل تساؤلات عدة حول جوهر الذكاء الاصطناعي التوليدي!

هناك سؤال يطرح نفسه: هل كان هذا خطأ معزولًا يؤثر على أقلية من المستخدمين أم أنه عرض لمشكلة أعمق في قلب الذكاء الاصطناعي الخاص بـ ChatGPT؟

على الرغم من تطور نماذج الذكاء الاصطناعي التوليدي للمحادثة باللغة الطبيعية، ومهما كانت الشركة المطورة، نرى أن  هذه النماذج هي عرضة لعيوب غير متوقعة، ما يذكرنا بطبيعتها المصطنعة في جوهرها واعتمادها على خوارزميات معقدة وغير متوقعة في بعض الأحيان.

الذكاء الاصطناعي، حتى لو كان توليديا، ليس لديه وعي أو فهم لما "يقوله"، على عكس الانطباع الذي يمكن أن يعطيه خلال "المحادثات" مع المستخدمين. فهذه النماذج عندما ظهرت أول مرة قبل عام، من شات جي بي تي ،  ونموذج غوغل، و كلود، وغيرها، كانت تميل بانتظام إلى "الهلوسة".

مخاطر السباق غير المسؤول للسيطرة على سوق أدوات الذكاء الاصطناعي التوليدي

يبقى الواقع المرير أن السباق غير المسؤول للسيطرة على سوق أدوات الذكاء الاصطناعي التوليدي لن يتوقف، طالما ليس هنالك من  ضوابط  قانونية صارمة، كما اتضح مؤخرًا  من إسراع  Open AI في إصدار  برنامج "Sora"الذي  يمكنه إنشاء مقاطع فيديو مدتها دقيقة واحدة من سطر بسيط من النص بواقعية مذهلة.وذلك  دون التفكير اليوم بنتائج الاستخدام السيئ لهذه الأدوات، خاصة فيما يتعلق بقضية التزييف العميق، الديب فيك، للصور والفيديوهات والصوت.

يثير تطور الذكاء الاصطناعي التوليدي مخاوف من حدوث اضطرابات سياسية بواسطة حملات التضليل مع المعلومات المضللة و الكاذبة على المنصات الاجتماعية وغيرها.  خاصة في الفترة  التي تسبق العديد من الانتخابات الكبرى، كالانتخابات الرئاسية المقبلة في الولايات المتحدة الأمريكية، وأيضا، قبلها انتخابات البرلمان الأوروبي؛ حيث يمكن لأطراف خارجية التلاعب بمشاعر الناخبين و زرع الشقاق في المجتمعات.

خطر الانحياز و الحرب الهجينة  مع تطور أدوات الذكاء الاصطناعي التوليدي

هنا لا بد بالتذكير بعقيدة جيراسيموف التي وضعها عام 2013 الجنرال فاليري جيراسيموف، رئيس هيئة أركان القوات المسلحة الروسية، بواسطة شن حرب هجينة سرية وغير معلنة باستخدام البروباغندا، والمؤسسات الاقتصادية، وموارد الطاقة، والفساد ودعم أطراف معارضة وأيضا بالدرجة الأولى حرب المعلومات.يعتبر فاليري جيراسيموف، أن دور الوسائل غير العسكرية في تحقيق الأهداف السياسية والاستراتيجية نما، وفي كثير من الحالات تجاوزت قوة السلاح في فعاليتها. ومع الثورة الرقمية و تعدد المنصات الاجتماعية، التحديات الجديدة تتطلب إعادة التفكير في أشكال وأساليب الحرب بواسطة استراتيجية حرب هجينة سرية وأيضا بالدرجة الأولى، حرب المعلومات فمع الثورة الرقمية و نمو وانتشار الذكاء الاصطناعي التوليدي "عقيدة جيراسيموف" هي حرب من جيل جديد غير معلنة.

كذلك الأمر، يجب التفكير بالعنف الجندري بالنسبة للنساء حيث يصاحب تطوير برامج الذكاء الاصطناعي التوليدي إنتاج تدفق مرعب من المحتوى المهين، مثل الصور الإباحية الكاذبة التي تستهدفهن.

من هنا الدعوات المختلفة من باحثين في مجال الذكاء الاصطناعي في العمل على تطوير ذكاء اصطناعي أخلاقي غير منحاز. فتكنولوجيا الذكاء الاصطناعي التي تقدم الكثير للبشري تولِّد أيضا تحديات جديدة غير مسبوقة، كتفاقم التحيز الجنساني أو الجندري والإثني، وتعرض الخصوصية لتهديدات جدية، وأيضا تؤدي لبروز خطر المراقبة الجماعية، بالإضافة لزيادة استخدام تكنولوجيات الذكاء الاصطناعي في مجال إنفاذ القانون، والتي هي اليوم موضوع جدل حاد في فرنسا من ناحية استخدام تقنيات التعرف على ملامح الوجه و المشاعر، التي من المتوقع استخدامها خلال الألعاب الأولمبية المقبلة في باريس.

وفي هذا الإطار، وعلى هامش مؤتمر ميونيخ الأمني ​​الكبير (MSC).  تعهد عشرون من عمالقة التكنولوجيا الرقمية يوم الجمعة 16 فبراير 2024 بتطوير أدوات متخصصة للكشف عن المحتوى المولد بتقنيات الذكاء الاصطناعي، كالعلامة المائية. و هي رسالة غير مرئية للعين المجردة في الوثائق أو المحتوى المولد بتقنيات الذكاء الاصطناعي والتي يمكن اكتشافها بواسطة آلة كاشفة متخصصة لمعرفة أصل المحتوى و مصدره و إذا كان مصدره الذكاء الاصطناعي التوليدي.

في بداية شهر فبراير2024، خلال منتدى اليونسكو في سلوفينيا.  وقعت 8 شركات تكنولوجية من بينها مايكروسوفت، وإل جي، ولينوفو ــ على ميثاق "لبناء ذكاء اصطناعي أكثر أخلاقية" هذا يعني أنه سيتعين على الشركات وضع "إجراءات التحقق" لتقييم المخاطر وتصحيح "الآثار السلبية للذكاء الاصطناعي في غضون فترة زمنية معقولة".  للتذكير يوم الخميس 25 نوفمبر 2021 اعتمدت جميع الدول الأعضاء في منظمة الأمم المتحدة للتربية والعلم والثقافة -اليونسكو- المعيار العالمي الأول من نوعه في أخلاقيات الذكاء الاصطناعي.

يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل

للتواصل مع #نايلةالصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@  وعلى ماستودون  وعبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي