محاذير استخدام الذكاء الاصطناعي

في النشر العلمي

إعداد د. محمد المرزوق

قسم نظم المعلومات و إدارة العمليات

كلية العلوم الإدارية

جامعة الكويت

mo.almarzouq@ku.edu.kw https://journals.ku.edu.kw/ajas

المحاور

• المحاذير المتعلقة ب:
  • قدرات الذكاء الاصطناعي
  • الذكاء الاصطناعي في كتابة البحوث
  • الذكاء الاصطناعي في عملية التحرير

المحاذير المتعلقة بقدرات الذكاء الاصطناعي

• مرتبطة بتوقعات المستخدمين

بعض التوقعات الخاطئة

• الذكاء الاصطناعي يفكر بنفسه كالبشر
• الذكاءالاصطناعي يمكنه الابتكار
• الذكاء الاصطناعي سيلغي العديد من الوظائف ويستبدل البشر
• يجب أن تكون مبرمجاً لتستفيد من الذكاء الاصطناعي
• سيكون تأثير الذكاء الاصطناعي محدودا أو يمكننا الاستغناء عنه

بعض التوقعات الخاطئة

• مخرجات الذكاء الاصطناعي عالية الجودة وموثوقة
• الذكاء الاصطناعي غير مكلف
• حواراتي أو بياناتي التي أعرضها على الذكاء الاصطناعي آمنة
• التحديات القانونية والأخلاقية سهلة الحل ويسعنا تجاهلها
• الذكاء الاصطناعي هو ChatGPT

لمعالجتها

• فهم الذكاء الاصطناعي

ما هو الذكاء الاصطناعي؟

• أي آلة تؤدي مهام تحاكي الذكاء البشري
• المجال الذي يهتم بدراسة هذه الأنظمة والآلات والخوارزميات
• Artificial Intelligence (AI)

مفاهيم مهمة مرتبطة بالذكاء الاصطناعي

• تعلم الآلة (ML) Machine Learning
• التعلم العميق (DL) Deep Learning

تعلم الآلة (ML)

• تخصص فرعي من الذكاء الاصطناعي يهتم بالخوارزميات والنماذج التي تستخلص الأنماط والرؤى والفوائد من البيانات دون أن تتم برمجتها بشكل صريح لذلك.

التعلم العميق (DL)

• تخصص فرعي من تعلم الآلة
• أو فئة خاصة من نماذج تعلم الآلة
• توظف النماذج على شكل طبقات متعددة
• لتحليل البيانات واستخلاص الأنماط والرؤى واتخاذ القرارات.
• تتمتع بإمكانيات مذهلة تتعرف على أنماط معقدة
• تتطلب كمية بيانات و إمكانات حاسوبية هائلة للتدريب

تغير دور المبرمج مع هذا التطور

• إختلفت مهام المبرمج مع تطور مجالات الذكاء الاصطناعي

في البرمجة التقليدية

• المبرمج يحدد جميع التعليمات
• تنفذ هذه التعليمات على البيانات
• خطوات محددة ونتائج مؤكدة

مع تعلم الآلة

• بروز دور النماذج والبيانات
• المبرمج يختار الخوارزميات و يوفر البيانات
• النماذج تستنبط المعاملات و الأنماط من البيانات
• تطبق هذه النماذج المستنبطة على بيانات جديدة

مع تعلم الآلة

• النتائج غير مؤكدة ويمكن تحسينها بتغيير الخوارزميات واختيار خواص مختلفة بالبيانات
• يمكن تفسير ما يحصل إلى حد ما لأنها تبنى على خوارزميات معروفة
  • مثال: Logistic regression, Naive Bayes, Decision Trees, PCA, K-means, إلخ.
  • يمكن تفسير عمل هذه النماذج إلى حد ما

مع التعلم العميق

• تتبع تعلم الآلة
• طبقات متعددة من النماذج والخوارزميات وعدد المعاملات المستنبطة هائل
  • مثال: CNN, RNN, LSTM, BERT, GPT, إلخ.
• النتيجة غير مؤكدة وغير قابلة للتفسير بسبب التعقيد
  • يشار إلى النماذج أنها صندوق أسود

مع التعلم العميق

• خصائص البيانات المهمة تختار تلقائياً خلال عملية التدريب
• التكاليف والوقت اللازم للتدريب هائلة
  • تحسين النماذج أقل كلفة ووقت
• يتحول دور المبرمج إلى دور مهندس للبيانات

هل يفكر الذكاء الاصطناعي بنفسه؟

لا، قد يعتقد الناس أنه يفعل ذلك بسبب:

• استخدام مصطلح التعلم أو التدريب
• النماذج لها قدرات مذهلة مقارنة بما سبقها من برامج
• جهد المبرمج محدود
• الغموض المصاحب لهذه النماذج

ومع ذلك، الذكاء الاصطناعي

• يفتقر القدرة على الابتكار لطبيعة عملية التعلم
  • قد يدمج البيانات الهائلة بطريقة مبتكرة
  • لا يبتكر مفاهيم أو أفكار جديدة
• يعتمد على بيانات التدريب وتوجيهات المستخدم، وقد يكون متحيزاً
• يفتقر إلى الوعي و تمييز الخطأ من الصواب
  • الحذر من الهلوسة
• يتطلب إشرافاً بشرياً

التوقعات الخاطئة مرة أخرى

• الذكاء الاصطناعي يفكر بنفسه كالبشر
• الذكاءالاصطناعي يمكنه الابتكار
• الذكاء الاصطناعي سيلغي العديد من الوظائف ويستبدل البشر
• يجب أن تكون مبرمجاً لتستفيد من الذكاء الاصطناعي
• سيكون تأثير الذكاء الاصطناعي محدود أو يمكننا الاستغناء عنه

التوقعات الخاطئة مرة أخرى

• مخرجات الذكاء الاصطناعي عالية الجودة وموثوقة
• الذكاء الاصطناعي غير مكلف
• حواراتي أو بياناتي التي أعرضها على الذكاء الاصطناعي آمنة
• التحديات القانونية والأخلاقية سهلة الحل ويسعنا تجاهلها
• الذكاء الاصطناعي هو ChatGPT

تصحيح التوقعات

• الذكاء الاصطناعي يفكر بنفسه كالبشر
• الأصح:
  • الذكاء الاصطناعي يتقن تركيب البيانات التي درب عليها بطريقة تحاكي الأسلوب البشري دون أن يميز بين الصواب والخطأ

تصحيح التوقعات

• الذكاءالاصطناعي يمكنه الابتكار
• الأصح:
  • الذكاء الاصناعي يعيد تركيب البيانات الهائلة بطريقة مبتكرة ولكنه لا يبتكر مفاهيم جديدة

تصحيح التوقعات

• الذكاء الاصطناعي سيلغي العديد من الوظائف ويستبدل البشر
• الأصح:
  • الذكاء الصناعي يتقن وظائف محددة
  • في الغالب، ستتغير طبيعة الوظائف بدلاً من إختفائها

تصحيح التوقعات

• يجب أن تكون مبرمجاً لتستفيد من الذكاء الاصطناعي
• الأصح:
  • توفر خدمات جديدة تمكن الجميع من استخدام الذكاء الاصطناعي بسهولة
  • المهارات البرمجية وهندسة البيانات ضرورية لتحسين هذه النماذج وايجاد تطبيقات جديدة لها

تصحيح التوقعات

• سيكون تأثير الذكاء الاصطناعي محدود أو يمكننا الاستغناء عنه
• الأصح:
  • غيرك سيوظفه وستتأثر به بشكل مباشر أو غير مباشر
  • الأفضل تقبله وتعلم الاستفادة منه والوقاية من سوء استخداماته

تصحيح التوقعات

• مخرجات الذكاء الاصطناعي عالية الجودة وموثوقة
• الأصح:
  • قد تبدو المخرجات عالية الجودة بسبب محاكاة الأسلوب البشري
  • الأخطاء والتحيزات قد تدخل لعدم تمييز الذكاء الاصطناعي لها
    • يسهل على ذوي الخبرة كشف ذلك وتصحيحه
    • غموض استنتاجات الذكاء الاصطناعي تزيد من هذا النوع من المخاطر

تصحيح التوقعات

• الذكاء الاصطناعي غير مكلف
• الأصح:
  • تدريب نماذج التعلم العميق مكلف
  • التوجه تحويلها لخدمات مدفوعة

تصحيح التوقعات

• حواراتي أو بياناتي التي أعرضها على الذكاء الاصطناعي آمنة
• الأصح:
  • شركات مثل OpenAI تستفيد من البيانات التي تقدمها لها لتحسين نماذجها وتطويرها
  • يمكن خداع النماذج لكشف بيانات التدريب

تصحيح التوقعات

• التحديات القانونية والأخلاقية سهلة الحل ويسعنا تجاهلها
• الأصح:
  • التحديات كبيرة وتتطلب حوار مفتوح ومستمر
    • هل يمكن طلب تلخيص مستندات سرية؟
    • هل تملك OpenAI الحق في استخدام بياناتنا في التدريب؟
  • تطوير نماذج محلية خاصة بنا قد يقلل من أثر بعض التحديات

تصحيح التوقعات

• الذكاء الاصطناعي هو ChatGPT

• الأصح:

  • ChatGPT أحد نماذج الذكاء الاصطناعي التوليدي التي تنتج محتوى يحاكي المحتوى البشري
  • البدائل كثيرة وسنفصل بها أكثر فيما بعد

تساؤل

• من يتميز حال استخدام الجميع نفس النموذج؟
• مثال ChatGPT

المحاذير المتعلقة باستخدام الذكاء الاصطناعي

• كتابة البحوث
• عملية التحرير

نحن نستخدم الذكاء الاصطناعي في البحث والنشر العلمي بتوسع ولفترة من الزمن

• هل تتفق مع هذا البيان؟

هل تستخدم هذه الأدوات؟

• مدققات الانتحال
  • iThenticate، Turnitin، إلخ.
• المدققات النحوية واللغوية
  • Grammarly، Word، إلخ.
• أدوات الترجمة
  • ترجمة جوجل، DeepL، إلخ.
• محركات البحث
  • جوجل، بينج، إلخ.

ما الذي تغير؟ لم هذا الاهتمام المفاجئ؟

• ظهور ChatGPT
• أثره كبير بسبب
  • جودة المخرجات
  • سهولة الاستخدام

ما هو ChatGPT؟

• نوع من الذكاء الاصطناعي التوليدي من OpenAI
  • يقوم بتوليد المحتوى
• يحاكي الاستجابات البشرية بدقة عالية
• مدرّب على نصوص الإنترنت المتنوعة
  • يوظف التعلم العميق
• يتم تحديثه باستمرار لتقليل الأخطاء وتحسين الردود
  • أحدث إصدار هو ChatGPT-4

إمكانات الذكاء الصناعي التوليدي

• صياغة الأوراق البحثية والمقالات
• كتابة تقارير التحكيم والمراجعة
• إنشاء وتنقيح أسئلة البحث والهياكل البحثية
• تيسير التفسيرات المعقدة
• إنتاج البيانات وتحليلها
• تلخيص الأوراق البحثية والمراجعات
• مراجعة الأوراق البحثية وتحريرها
• وأكثر من ذلك

مثال على كتابة البحوث بالذكاء الاصطناعي

O’Connor, S. & ChatGPT. (2023). Open artificial intelligence platforms in nursingeducation: Tools for academic progress or abuse? Nurse Education in Practice, 66, 103537. https://doi.org/10.1016/j.nepr.2022.103537

أدوات أخرى قد تهم الباحثين

• Elicit
• Consensus
• Researchrabbit
• SciSpace
• Litmaps
• Scite
• Trinka
• Scholarcy

المحاذير المتعلقة باستخدام الذكاء الصناعي

• تجنب الاستخدام الكسول
  • توظيفه في كتابة البحوث أو تقارير التحكيم كبديل عن الباحث
  • تجاهل مراجعة المحتوى المنشأ بالذكاء الاصطناعي

المحاذير المتعلقة باستخدام الذكاء الصناعي

• كتمان استخدام الذكاء الاصطناعي في النشر العلمي
• الاقتصار على أول مخرج من الذكاء الاصطناعي دون تنقيح
• تجنب استخدام الذكاء الاصطناعي أو التعرف على إمكانياته

مخاطر الاستخدام الكسول

• الناتج يفتقر للإبتكار
  • تكرار للمحتوى الموجود
  • تقارير التحكيم تعاقب الابتكار
• تعزز فكرة استبدال الباحثين بالذكاء الاصطناعي
• فرط الاعتماد على الذكاء الاصطناعي يضعف الخبرة والمهارة
• استبدال الخبرة والتعلم بالذكاء الاصطناعي
  • يصعب كشف الأخطاء في البحوث المنتجة

الاستخدامات الفعالة

• تلخيص المقالات
• شرح أو تيسير المفاهيم المعقدة
• تحليل أو تمثيل البيانات
• استخلاص البيانات من المستندات
• توليد البيانات التجريبية
• توليد/ترجمة أدوات الاستبيان
• تحسين الصياغة للكلمات والفقرات
• صياغة رؤوس الاقلام والمساعدة في تصميم الأوراق البحثية
• والمزيد

أهمية الافصاح عن استخدام الذكاء الاصطناعي

• اعطاء الفرصة لهيئة التحرير بتحديد الابحاث التي تتناسب مع سياساتهم
• لازلنا نحاول فهم كيفية توظيف الذكاء الاصطناعي بشكل اخلاقي وفعال
• الشفافية تعزز الثقة في البحوث المنشورة والباحث
• تطور الأدوات التي تكشف استخدام البحوث قد يضع الباحث في حرج

تنقيح البحوث والتقارير

• الدخول في حوار مع الذكاء الاصطناعي لتحسين المخرجات
  • يكسب الباحث مهارة تمكنه من استخدام الذكاء الاصطناعي بشكل فعال وفهم حدوده
  • الجهد في التنقيح قد يكون أكبر من كتابة البحث أو التقرير بنفسك
• مراجعة المخرجات بنفسك وتنقيحها

تجنب استخدام الذكاء الاصطناعي

• تجنبك استخدامه لا يعني تجنب غيرك له
• سيكون واقع يجب التعايش معه
• ضرورة المشاركة في حوار لتحديد اخلاقيات استخدامه في البحث والنشر العلمي

دور هيئات التحرير

• التفكير في دور الذكاء الاصطناعي في عملية التحرير
• وضع لوائح وسياسات لاستخدام الذكاء الاصطناعي
  • الشفافية ستكون الحد الأدنى من المتطلبات
  • تقييم و تطوير اللوائح بشكل مستمر
• تثقيف الباحثين حول الاستخدامات الاخلاقية
• توظيف و تقييم استخدام الذكاء الاصطناعي في عملية التحرير

استخدام الذكاء الاصطناعي في عملية التحرير

• المساعدة في فحص الطلبات المقدمة
  • قد يعاقب الابتكار
• تحسين آلية تحكيم و مراجعة الأبحاث
  • تلخيص ومقارنة المراجعات
  • مراجع ثالث
• تحسين لغة التواصل
  • تحسين التعليقات/التقارير لتكون مهذبة وبناءة

تحديات جديدة ستواجهها هيئات التحرير

• الانتحال غير القابل للكشف
• التلاعب بالبيانات والنتائج المُنشأة بالذكاء الاصطناعي
• التغيير في الممارسات الافتراسية
• تفشي الاستخدام الكسول وأثره على الناتج العلمي
• تحديات قانونية وأخلاقية جديدة

حلول محتملة

• تبني أدوات الذكاء الاصطناعي والتعرف على قدراتها
  • رحلة استكشافية مع التقييم المستمر
• اعتماد ممارسات العلوم المفتوحة
  • البيانات المفتوحة، والوصول المفتوح، و التحكيم المفتوح
• الشفافية في استخدام الذكاء الاصطناعي
  • ستكون الشفافية ضرورة

الخلاصة

• إمكانات الذكاء الاصطناعي في تحويل النشر العلمي هائلة
• يزداد الانتفاع من الذكاء الاصطناعي مع ازدياد الامكانات العلمية والخبرة للباحث
• تجنب الاستخدام الكسول للذكاء الاصطناعي
  • استخدمه كأداة وليس بديلاً عنك
• تجنب التغافل عن الاعتبارات القانونية والأخلاقية
• الحوار المفتوح والتقييم المستمر والشفافية في الاستخدام ضرورات في هذا الوقت
• الأرجح تغير طبيعة الوظائف بدلاً من إختفائها

الختام

هذا العرض معد بالتعاون مع

• ChatGPT للتنقيح
• DeepL للترجمة

نشكر لكم حسن استماعكم

mo.almarzouq@ku.edu.kw https://journals.ku.edu.kw/ajas