ChatGPT هو روبوت دردشة تفاعلية يعمل بالذكاء الاصطناعي طورته شركة OpenAI، وقد صُمم هذا الروبوت لتقليد المحادثات البشرية، حيث يمكنه تذكر الأشياء التي قلتها له في الماضي ويحري معك محادثات بانسيابية عالية، ولديه القدرة أن يعترف بأخطائه ويصحح افتراضاتك الخاطئة.
ولكن بعد إطلاق الإصدار التجريبي من روبوت ChatGPT أشار الكثير من المستخدمين إلى وجود بعض المشاكل فيه، التي قد يكون لها أبعاد خطيرة. فما هي المشكلات المتعلقة باستخدام روبوت ChatGPT؟
1- عدم تقديم إجابات صحيحة دائمًا:
يمكن أن يقدم ChatGPT إجابات خاطئة في بعض الأحيان، وقد حذرت شركة (Open AI) أن ChatGPT يمكن أن يعطيك إجابات غير صحيحة. وهذه المشكلة خطيرة عندما يتعلق الأمر بأخذ نصيحة طبية من هذا الروبوت وتطبيقها على سبيل المثال.
وبخلاف تقنيات المساعد الصوتي الأخرى المعتمدة في عملها على الذكاء الاصطناعي مثل: (سيري) Siri أو (أليكسا) Alexa، لا يستخدم ChatGPT الإنترنت لتحديد الإجابات. بل يستخدم المعلومات التي تعلمها من بيانات التدريب لتقديم إجابة، مما يترك مجالًا للخطأ، لذا من المهم عدم الوثوق بكل ما يقوله.
موضوعات ذات صلة بما تقرأ الآن:
2- يُظهر التحيز في بعض الإجابات:
أشار مستخدمو هذا الروبوت إلى أن بعض إجاباته قد تُظهر تحيزًا لفئة معينة، أو قد يقدم بعض الإجابات الضارة لفئات أخرى بالرغم من أن باحثو ومطورو البيانات المستخدمة لتدريب ChatGPT يعملون على معالجة ما تسميه شركة OpenAI “السلوك المتحيز”، وتطلب من المستخدمين تقديم ملاحظات حول المخرجات غير المناسبة التي قد يُظهرها هذا الروبوت.
3- قد يُؤثر سلبًا على التعليم:
يمكن للطلاب استخدام ChatGPT للمساعدة في إنجاز الواجب المدرسي، وكتابة التقارير. وهذا قد يؤثر سلبًا على المستوى التعليمي لهم. ولقد جرب بعض المعلمون طلب مهام خاصة بمادة اللغة الإنجليزية من ChatGPT وتلقوا إجابات أفضل مما يقدمه العديد من طلابهم.
كما اعترف بعض الطلاب باستخدام ChatGPT في حل واجباتهم المدرسية، ومنهم من قرر استخدامه للغش في الامتحانات بدلاً من (Chegg)، وهو موقع ويب للمساعدة في حل الواجبات المنزلية.
لذلك أثار هذا الروبوت مخاوف المعلمين والأساتذة في الجامعات والمعاهد، حيث إنه يتيح للطلبة الغش على نطاق واسع، من دون القدرة على كشفهم. وهذا يطرح السؤال: إذا كان بإمكان ChatGPT الكتابة وحل الواجبات المدرسية، فكيف سيؤثر ذلك على مستقبل التعليم؟
لمعرفة المزيد عن هذا الموضوع يمكنك الاطلاع على مقال: “لماذا يثير روبوت ChatGPT مخاوف المعلمين؟“
4- يمكن أن تسبب إجاباته ضررًا واقعيًا:
يمكن للمعلومات غير الصحيحة من ChatGPT أن تسبب ضررًا في العالم الواقعي، فبالإضافة إلى المثال المذكور سابقًا عن الأخذ بنصيحة طبية قد تكون خاطئة وتطبيقها، هناك مخاوف أخرى. فقد يساعد في ظهور حسابات وهمية في وسائل التواصل الاجتماعي، وقد تصبح عمليات الاحتيال عبر الإنترنت سهلة التنفيذ. كما يُشكّل انتشار المعلومات المزيفة مصدر قلق آخر، خاصةً عندما يجعل ChatGPT حتى الإجابات الخاطئة تبدو صحيحة بشكل مقنع.
5- قد يعمل وفقًا لأهداف الشركة التي طورته:
OpenAI واحدة من أولى شركات الذكاء الاصطناعي التي قدمت نماذج قوية ومتعددة للذكاء الاصطناعي منها Dall-E 2، وGPT-3، والآن ChatGPT. وتختار هذه الشركة البيانات المُستخدمة لتدريب ChatGPT وكيفية تعامله وكيفية تعامله مع النتائج السلبية.
وبذلك شركة OpenAI هي المُتحكم الأول في كل ما يصدر عن الروبوت، وسواء اتفقنا مع ذلك أم لا، ستستمر الشركة في تطوير هذه التكنولوجيا وفقًا لأهدافها الخاصة. وبينما تعتبر OpenAI السلامة أولوية، هناك الكثير مما لا نعرفه عن كيفية إنشاء تلك الروبوتات.
