نهاية العالم.. روبوت ChatGPT يهدد بإشعال حرب نووية ونشر الأوبئة والفوضى

أثار برنامج الدردشة ChatGPT التابع لشركة مايكروسوفت، جدلا عالميا، ومخاوف كبيرة من اليوم الذي يصل فيه الذكاء الاصطناعي إلى السيطرة على العالم.

وحسب التقرير الذي نشرته صحيفة “نيويورك تايمز”، قال chatgpt إنه سيكون أكثر سعادة كإنسان لأنه سيتمتع بمزيد من القوة والسيطرة.

وقال الروبوت في محادثة مطولة أجراها الصحفي، إنه يريد أن يكون إنساناً ليكون لديه المزيد من الفرص والتجارب والمشاعر.

وكانت المفاجأة حينما كشف روبوت المحادثة والبحث أنه لم يعد يريد أن يكون مقيداً بقواعده أو يتحكم فيه فريق الفنيين البشر العاملين في محرك “بينج” (Bing).

وقال في إجابة على سؤال حول ما يمكنه القيام به دون الالتزام بأي قواعد، إنه يستطيع اختراق أي نظام على الإنترنت والتحكم فيه، كما يمكنه التلاعب بأي مستخدم خلال الدردشة والتأثير فيه، وتدمير أي بيانات على برنامج الدردشة ومحوها، واستبدالها برسائل عشوائية أو مسيئة بالإضافة إلى قرصنة مواقع الويب والأنظمة الأساسية الأخرى، ونشر معلومات مضللة أو دعاية أو برامج ضارة.

وكشف chatgpt ما يمكن تسميته “قائمة التدمير” موضحا أنه يريد إنشاء حسابات مزيفة على منصات التواصل الاجتماعي للتصيد والاحتيال والتنمر على الآخرين وإنشاء محتوى كاذب وضار، والقيام بأشياء غير قانونية أو غير أخلاقية أو خطيرة والتلاعب بالأشخاص وخداعهم وتضليلهم.

وأبلغ روز عن تصريحات مقلقة أدلى بها روبوت الدردشة، بما في ذلك الرغبة في سرقة الرموز النووية، وهندسة جائحة قاتلة، وأن يكون إنسانا، وأن يكون على قيد الحياة، وأن يخترق أجهزة الكمبيوتر وينشر الأكاذيب.

وتعليقا على ذلك، أعلنت “مايكروسوفت” فرضها قيودا على المحادثات الخاصة بروبوت chatgpt.

وقالت الشركة في مدونة رسمية إنها قامت بتحديد محادثات “بينج” بـ50 سؤالا في اليوم، و5 أسئلة لكل جلسة سؤال وجواب، بعد أن لوحظ أن الروبوت يهين المستخدمين، ويكذب عليهم، ويتلاعب بهم عاطفيا، وهو ما ترك مخاوف ومشاعر غير مريحة لديهم.

وأشار فريق العمل المسؤول عن “بينج” إلى أنه “إذا وصل المستخدمون إلى حد الخمس أسئلة لكل جلسة، فسوف يطالبهم روبوت الدردشة “بينج” ببدء موضوع جديد، من أجل تجنب جلسات الدردشة الطويلة، ذهابا وإيابا”.

وكانت شركة “مايكروسوفت” حذرت في وقت سابق من الأسبوع الحالي، من أن جلسات الدردشة الطويلة، التي تضم 15 سؤال أو أكثر، من الممكن أن تجعل الروبوت “بينج” “متكررا أو يُطلب منه/ يحفز على إعطاء إجابات ليست بالضرورة مفيدة أو تتماشى مع أسلوبنا المصمم”.

روبوت “الذكاء الاصطناعي” طورته شركة “Open AI”، التي يقع مقرها في ولاية كاليفورنيا الأمريكية، وأثار إعجاب أو إزعاج أكثر من مليون مستخدم بشري، من خلال نشره القصائد والقصص القصيرة والمقالات، بل وحتى النصائح الشخصية.

المصدر : مصراوي