Chatbot – أفضل صديق أو عدو

تحفة خطيرة:
كونها مثمرة في إحداث ثورة في حياتنا اليومية، يمكن أن تصبح روبوتات الدردشة هذه في بعض الأحيان أداة خطيرة للبشر أيضًا.

دعونا ننظر في بعض الحالات المروعة:

ومن أجل وقاية البشرية من آثارها المدمرة تعتبر تجربة مايكروسوفت تاي الكارثية من أبرز الأمثلة على ذلك، حيث اكتسبت سمات عنصرية في أقل من 24 ساعة.

العديد من الأشياء التي قالتها تضمنت "بوش قام بأحداث 9 سبتمبر وكان هتلر سيقوم بعمل أفضل من القرد الذي لدينا الآن. "دونالد ترامب هو أملنا الوحيد"، "كرر بعدي، هتلر لم يرتكب أي خطأ" وتيد كروز هو هتلر الكوبي.

وفي غضون 24 ساعة، أصبح صندوق الدردشة هذا نازيًا تمامًا من خلال قوله "البشر رائعون للغاية".

هل مايكروسوفت مخطئة حقًا في تقديم الذكاء الاصطناعي البريء "للفتاة المراهقة" إلى المزاحين وغريبي الأطوار على تويتر؟ ربما، ليس لأن ردود تاي كانت على غرار تلك التي تلقتها من البشر على تويتر.

تم تصميم تاي ليكون مفيدًا للشركة من خلال سرقة قلوب المستهلكين الشباب ولكنه يعكس بطريقة ما خواء هذا الغرض.

مثال آخر فاشل للذكاء الاصطناعي هو مثال "Bob" و"Alice" - وهما روبوتان أنشأهما فيسبوك. تم إيقاف تشغيل هذين الروبوتين عندما اكتشف فريق Facebook AI Research (FAIR) أنهما بدأا في التفاعل بلغتهما الخاصة وقاوما جميع الخوارزميات التي أنشأها الإنسان.

استخدم الآلات العصبية بحكمة وحكمة:
يمكن أن تكون روبوتات الدردشة أصدقاء أو أعداء لنا، كل هذا يتوقف على كيفية استخدامها وتفاعلنا وتصميمها لأنها ستتعلم بشكل بناء أو هدام.

ومن ثم، يجب أن تحتوي روبوتات الدردشة على بعض البروتوكولات التي يتحكم فيها الإنسان ويجب أن يتم تصميمها وفقًا لخطة دقيقة. ومن أجل منع البشرية من آثارها المدمرة، يجب تصميم روبوتات الدردشة بطريقة منضبطة.