11 عيوب لمحتوى شات جي بي تي

أبرز المميزات

• لماذا يتم الموافقة على محتوى ChatGPT ذو الجودة المنخفضة من قبل البشر.
• يعتبر ChatGPT شاملاً حتى عندما ينبغي أن يكون مختصرًا.
• أستاذ جامعي يشير إلى نقص في الأسلوب الذي يدمر مقالات توليدها ChatGPT.
• يفشل ChatGPT في اختبار اكتشاف الأندرويد الخيالي Voight-Kampff، والسبب المفاجئ لذلك يهم.

تنتج شات جي بي تي محتوى شامل ودقيق بما يتماشى مع الواقع.

لكن الباحثين والفنانين والأساتذة يحذرون من عيوب يجب الانتباه إليها والتي تؤدي إلى تراجع جودة المحتوى.

في هذه المقالة، سننظر إلى 11 عيبًا في محتوى ChatGPT. دعنا نغوص في التفاصيل.

1. استخدام التعبيرات يجعلها ملموسة كغير البشر

اكتشف الباحثون الذين يدرسون كيفية كشف المحتوى الذي يتم إنشاؤه بواسطة الآلة أن هناك أنماط تجعله يبدو غير طبيعي.

واحد من هذه العادات الغريبة هي أن الذكاء الاصطناعي يعاني في فهم التعابير الإنجليزية المجازية.

التعبير الشائع عبارة عن جملة أو قول له معنى مجازي مرتبط به، على سبيل المثال "كل سحابة لها حاشية فضية".

نقص التعابير الشائعة داخل محتوى معين يمكن أن يكون إشارة إلى أن المحتوى هو ناتج آلي - ويمكن أن يكون ذلك جزءًا من خوارزمية الكشف.

هذا ما يقوله بحث 2022 حول صلابة العدو للميزات العصبية والإحصائية في اكتشاف المحولات الإنتاجية حول هذا العيب في محتوى الآلة المولدة:

"السمات الصرفية المعقدة تعتمد على تكرار الكلمات والعبارات المحددة داخل النص المحلل التي تحدث بشكل أكثر تكراراً في النصوص البشرية."

...من بين هذه الميزات الكلامية المعقدة، فإن ميزات التعابير اللغوية تحتفظ بأكبر قدر من القدرة التنبؤية في اكتشاف النماذج الجيلية الحالية."

هذا العجز في استخدام التعابير الشائعة يسهم في جعل نتائج ال ChatGPT تبدو وتقرأ بشكل غير طبيعي.

2. يفتقر ChatGPT إلى القدرة على التعبير

قام فنان بالتعليق على كيفية تماثل نتائج ChatGPT للفن، ولكنه يفتقد للصفات الفنية الفعلية.

التعبير هو فعل التواصل للأفكار أو المشاعر.

إخراج ChatGPT لا يحتوي على تعابير، فقط كلمات.

لا يمكنه إنتاج محتوى يلامس المشاعر البشرية على نفس المستوى الذي يفعله الإنسان - لأنه لا يمتلك أفكاراً أو مشاعراً حقيقية.

كتب الفنان الموسيقي نيك كيف في مقال نشر على نشرته الإخبارية Red Hand Files حول كلمات أغنية تم إرسالها له عبر خدمة الدردشة "ChatGPT"، والتي تم إنشاؤها في نمط نيك كيف.

مجموعة أدوات تسويق المحتوى الجديدة المدعومة بالذكاء الاصطناعي
اعتمد التقنيات من الجيل القادم قبل منافسيك. صمم محتوى مستهدف ومحسّن جيدًا يوصل النتائج بثلاث مرات أسرع.

كتب قائلا:

"ما يجعل الأغنية العظيمة هي ليس تشابهها الوثيق مع عمل معروف."

...إنها مواجهة تنفسية لضعف الإنسان، وخطورته وصغر حجمه، وتذكره بمفاجآت التحدي. هي فعل فني تعويضي يثير قلب المستمع، حيث يتعرف المستمع على دمه الخاص وكفاحه ومعاناته الداخلية عبر أسلوب الأغنية.

وصف كيفين كيفين كالى كلمات ChatGPT بأنها استهزاء.

هذه هي كلمات أغنية ChatGPT التي تشبه كلمات الأغاني لـ نيك كيف:

"لدي دم ملائكي على يدي
لدي نار جهنمية في عينيّ
أنا ملك الهاوية، أنا حاكم الظلام
أنا الشخص الذي يخشونه، حيث يستمعون ويرون الظلال"

وهذا هو الكلمات الأصلية باللغة الإنجليزية لأغنية عن الفنان نيك كيف "أخي، فنجاني فارغ".

"تأرجحت من بين النجوم،
وانزلقت على قوس قزح،
وها قد أصبحت عبراءً، يرتجف بانتظار النفاق والزّيف،
انظروا، كأسي هذا الآن فارغ،
يبدو أنني فقدت رغباتي،
يبدو أنني أنظف الرّماد الذي تبقّى من النّيران السّابقة"

من السهل رؤية أن كلمات الأغنية المتولدة آلياً تشبه كلمات الفنان، ولكنها لا تنقل أي شيء حقاً.

كلمات نيك كاف تروي قصة ت resonates with the pathos, desire, shame, and willful deception of the person speaking in the song. تعبر عن أفكار ومشاعر.

من السهل رؤية سبب استهجان نيك كيف لذلك.

٣. لا يوفر ChatGPT أي تحليلات

نقلت مقالة نشرتها "ذا إنسايدر" تصريح باحث أكاديمي لفت فيه إلى أن المقالات الأكاديمية التي ينتجها تطبيق ChatGPT تفتقر إلى رؤى حول الموضوع.

تلخص ChatGPT الموضوع ولكنها لا تقدم رؤية فريدة حول الموضوع.

يخلق الإنسان بالمعرفة، ولكن أيضًا من خلال تجاربه الشخصية وتصوراته الذاتية الفردية.

يتم نقل كلام الأستاذ كريستوفر بارتل من جامعة ابلاشيان ستايت من قبل موقع ذا إنسايدر بأنّ مقالات شات جي بي تي قد تتمتّع بنوعية جيدة في القواعد النحوية والأفكار المتطوّرة، إلا أنّها ما زالت تفتقر إلى بصيرة.

قال بارتل:

"انهم حقًا رقيقون. ليس هناك سياق ، لا عمق أو رؤية."

الإدراك هو علامة التأليف الجيد وهو شيء ليس متميزًا فيه ChatGPT.

هذا النقص في التحليل هو شيء يجب أن نضعه في الحسبان عند تقييم المحتوى المنشأة بواسطة الآلة.

4. ChatGPT يستخدم الكثير من الكلمات

تم اكتشاف أنماط في محتوى ChatGPT في يناير 2023 تجعله غير مناسب للتطبيقات الحرجة.

يحمل الورقة عنوان "مدى قرب تقنية ChatGPT من الخبراء البشريين؟ مقارنة النصوص، التقييم، والكشف".

أظهرت الأبحاث أن البشر يفضلون إجابات ChatGPT في أكثر من 50٪ من الأسئلة المتعلقة بالمالية وعلم النفس.

ولكن فشلت ChatGPT في الإجابة على الأسئلة الطبية لأن البشر يفضلون الإجابات المباشرة - شيء لم يقدمه الذكاء الاصطناعي.

كتب الباحثون:

" ... يؤدي ChatGPT بشكل سيئ بالنسبة للمجال الطبي باللغتين الإنجليزية والصينية."

يتميّز تطبيق ChatGPT في بعض الأحيان بتوفير إجابات طويلة عند التشاور الطبي في مجموعة البيانات التي جمعناها، بينما قد يقدم الخبراء البشريون إجابات مباشرة وحلولاً بسيطة، مما يفسر جزئياً سبب عدم قيمة المتطوعين لإجابات ChatGPT في المجال الطبي."

يهدف ChatGPT إلى تغطية موضوع من زوايا مختلفة ، مما يجعله غير مناسب عندما يكون الجواب الأفضل هو مباشر.

يجب على المسوّقين الذين يستخدمون ChatGPT الانتباه إلى ذلك لأن الزوّار الذين يحتاجون إلى إجابة مباشرة لن يكونوا راضين عن صفحة ويب طويلة الكلام.

وحظًا موفقًا في ترتيب صفحة نصوص زائدة في مقتطفات جوجل، حيث يمكن أن يكون للإجابة الموجزة والواضحة التي يمكن أن تعمل جيدًا في جوجل Voice فرصة أفضل للترتيب من إجابة طويلة الأمد

OpenAI، صانعو ChatGPT، يقرون بأن إعطاء إجابات طويلة هو قيد معروف.

تتضمن مقالة الإعلان من OpenAI ما يلي:

"النموذج غالبًا ما يكون مفرط اللفظ ..."

الانحياز الذي يمتلكه شات جي بي تي تجاه توفير إجابات طويلة الأمد هو شيء يجب مراعاته عند استخدام نتائج شات جي بي تي، حيث قد تواجه حالات يكون فيها الإجابات الأقصر والأكثر مباشرة أفضل.

5. يتم تنظيم محتوى تشات جي بي تي بطريقة منظمة بشكل كبير مع منطق واضح

يتمتع ChatGPT بأسلوب كتابة ليس فقط طويل بل يتبع أيضًا قالبًا يمنح المحتوى أسلوبًا فريدًا ليس بشريًا.

تتجلى هذه الجودة الفظة في الاختلافات بين كيفية إجابة البشر والآلات على الأسئلة.

في فيلم بليد رانر، يظهر مشهد يتضمّن سلسلة أسئلة مصمّمة للكشف ما إذا كان الشخص الذي يجيب عليها إنسانًا أو آليًّا.

هذه الأسئلة كانت جزءًا من اختبار خيالي يسمى "اختبار فويت-كامبف".

واحدة من الأسئلة هي:

"أنت تشاهد التلفزيون، فجأة تدرك أن هناك دبور يزحف على ذراعك. ماذا تفعل؟"

رد فعل إنساني عادي يمكن أن يكون مثل الصراخ أو المشي خارجاً واصطيادها، وما إلى ذلك.

ولكن عندما طرحت هذا السؤال على ChatGPT، قدمت إجابة منظمة بدقة ملخصة للسؤال ثم عرضت عدة نتائج ممكنة منطقية - دون الإجابة على السؤال الفعلي.

لقطة شاشة لـ ChatGPT وهو يجيب على سؤال اختبار فويت-كامبف

الجواب منظّم بشكل كبير ومنطقي، مما يعطيه شعورًا غير طبيعي، مما هو غير مرغوب فيه.

٦. شات جي بي تي مفصل جدًا وشامل

تم تدريب ChatGPT بطريقة تكافئ الجهاز عندما يكون الإنسان راضيًا عن الإجابة.

عادةً ما يميل المقيمون البشريون إلى تفضيل الإجابات التي تحتوي على المزيد من التفاصيل.

ولكن في بعض الأحيان، مثل السياق الطبي، الإجابة المباشرة أفضل من الشاملة.

ما يعنيه ذلك هو أن الجهاز يحتاج إلى التحفيز ليكون أقل شامل وأكثر مباشرة عندما تكون هذه الصفات مهمة.

من أوبن إيه:

"هذه المشكلات تنشأ من الانحيازات في بيانات التدريب ( حيث يفضل المدربون الإجابات الطويلة التي تبدو أكثر شمولاً ) ومشاكل الأمثلية المعروفة."

7. ChatGPT يقدم أكاذيب (يرى حقائق وهمية)

ذكر البحث العلمي المذكور أعلاه ، بعنوان كيف تقترب ChatGPT من الخبراء البشريين؟ ، أن ل ChatGPT عادة في الكذب.

يُبَلِّغ عن:

"عند الإجابة على سؤال يتطلب معرفة احترافية من مجال معين ، يمكن لـ ChatGPT تزوير الحقائق من أجل إعطاء إجابة ...

على سبيل المثال، في الأسئلة القانونية، قد يبتكر تشات جي بي تي بعض الأحكام القانونية التي لا وجود لها للإجابة على السؤال.

علاوة على ذلك ، قد يقوم ChatGPT بتصنيع حقائق من أجل تقديم إجابة عندما يسأل المستخدم سؤالًا لم يتم الرد عليه بعد.

وثق موقع Futurism حالات حيث كان المحتوى الذي تم إنشاؤه بواسطة الآلات والمنشور على موقع CNET خاطئًا ومليئًا بـ "الأخطاء الغبية".

ينبغي أن يكون لدى شبكة سي نت فكرة عن إمكانية حدوث هذا ، حيث أن OpenAI نشر تحذيرًا بشأن الناتج الخاطئ:

"شات جي بي تي في بعض الأحيان يكتب إجابات صوتية معقولة ولكن خاطئة أو غير منطقية."

يزعم موقع CNET أنه قدم المقالات التي تم إنشاؤها بالآلة للمراجعة البشرية قبل النشر.

مشكلة التدقيق البشري هي أن محتوى ChatGPT مصمم ليبدو صوتاً صحيحاً بشكل مقنع، والذي يمكن أن يخدع المراجع الذي ليس خبيرًا في الموضوع.

8. تشات جي بي تي غير طبيعي لأنه غير متباين

كما لاحظت ورقة البحث "مدى قرب تشات جي بي تي من الخبراء البشريين؟" أن التواصل البشري يمكن أن يحمل معانٍ غير مباشرة، مما يتطلب تغييرًا في الموضوع لفهم ذلك.

تعتبر ChatGPT حرفيةً جدًا، مما يتسبب في عدم وصول الإجابات إلى الهدف أحيانًا لأن الذكاء الاصطناعي يتجاهل الموضوع الفعلي.

كتب الباحثون:

"تتركز ردود ChatGPT عمومًا على السؤال المعطى بدقة، في حين أن ردود البشر تتباين بسهولة وتتحول إلى مواضيع أخرى."

من حيث غنى المحتوى، يختلف البشر في جوانب مختلفة، بينما تفضل ChatGPT التركيز على السؤال نفسه.

البشر قادرون على فهم المعنى الخفي وراء السؤال باستخدام الحس السليم والمعرفة الخاصة بهم، ولكن تعتمد شات جي بي تي على الكلمات الحرفية في السؤال المطروح

البشر أفضل قدرة على التحرر من السؤال الحرفي، وهذا مهم للإجابة عن أسئلة "ماذا عن" من هذا النوع.

على سبيل المثال، إذا سألت:

"الخيول كبيرة جدًا لتكون حيوانات أليفة في المنزل. ماذا عن الراكون؟"

السؤال السابق لم يسأل عما إذا كان الراكون حيوانًا مناسبًا للحيوانات الأليفة. السؤال عن حجم الحيوان.

يتمحور تركيز ChatGPT على ملاءمة الراكون كحيوان أليف بدلاً من التركيز على الحجم.

صورة لإجابة ChatGPT المتحرفة حرفياً

9. تحتوي ChatGPT على تحيز نحو الحيادية

إخراج ChatGPT عمومًا محايد وإيضاحي. الانحياز في الإخراج يمكن أن يبدو مفيدًا ولكن ليس دائمًا.

أشارت البحثية التي ناقشناها للتو إلى أن الحيادية هي خاصية غير مرغوبة عندما يتعلق الأمر بالأسئلة القانونية والطبية والتقنية.

يميل البشر إلى اختيار جانب عندما يقدمون هذه الآراء.

10. تميل شات جي بي تي إلى الانحياز للأسلوب الرسمي

إن نتائج ChatGPT تحمل تحيزًا يمنعها من الاسترخاء والإجابة بتعبيرات عادية. بدلاً من ذلك، تميل إجاباتها إلى إطلاق المصطلحات الرسمية.

البشر، من ناحية أخرى، يميلون إلى الإجابة على الأسئلة بأسلوب شعبي أكثر، باستخدام اللغة اليومية والعامية - عكس الأسلوب الرسمي.

لا يستخدم ChatGPT اختصارات مثل GOAT أو TL;DR.

الإجابات تفتقر أيضًا إلى أمثلة السخرية والاستعارة والفكاهة، مما يمكن أن يجعل محتوى ChatGPT مفرطًا في الرسمية بالنسبة لبعض أنواع المحتوى.

يكتب الباحثون:

" ... تحب ChatGPT استخدام حروف العطف و ظروف الربط لنقل تدفق المفكرة المنطقي، مثل " بشكل عام"، " من ناحية أخرى"، " أولاً،..، ثانياً،..، وأخيراً" وهلم جرا."

11. تدريب ChatGPT لا يزال جاريًا

تعتبر تدريب ChatGPT وتحسينه مازالت قيد التقدم.

توصي OpenAI بمراجعة جميع المحتويات التي يولدها ChatGPT من قبل إنسان، معلنة ذلك كممارسة جيدة.

تقترح OpenAI الاحتفاظ بالبشر في العملية:

‏"حيثما أمكن ذلك، نوصي بمراجعة النتائج من قبل إنسان قبل استخدامها في الممارسات."

هذا مهم للغاية في المجالات عالية المخاطر، ولإنشاء الشفريات

يجب على البشر أن يكونوا على دراية بقيود النظام، وأن يتمكنوا من الحصول على أي معلومات تحتاجونها للتحقق من النتائج (على سبيل المثال، إذا خلاص التطبيق الملاحظات، يجب أن يتمكن الإنسان من الوصول بسهولة إلى الملاحظات الأصلية للرجوع إليها).

صفات غير مرغوبة في تطبيق ChatGPT

من الواضح أن هناك العديد من المشاكل في ChatGPT التي تجعله غير مناسب لتوليد المحتوى بشكل غير مراقب. فهو يحتوي على تحيزات ويفشل في إنشاء محتوى يشعر بالطبيعية أو يحتوي على رؤى حقيقية.

بالإضافة إلى عدم قدرته على الشعور بالأفكار الأصلية أو صياغتها، يجعل منه اختيارًا سيئًا لإنتاج التعبيرات الفنية.

يجب على المستخدمين تطبيق التعليمات التفصيلية لإنتاج محتوى أفضل من المحتوى الافتراضي الذي يعرضه النظام.

وأخيرًا ، فإن استعراض الإنسان للمحتوى الذي تنتجه الآلة لا يكون دائمًا كافيًا ، لأن محتوى ChatGPT مصمم ليبدو صحيحًا حتى عندما لا يكون كذلك.

وهذا يعني أن المراجعين البشريين يجب أن يكونوا خبراء في الموضوع ليستطيعوا التمييز بين المحتوى الصحيح والخاطئ في موضوع محدد.