Home
» ويكي
»
تدرس OpenAI إضافة علامات مائية إلى النصوص المُولّدة بواسطة ChatGPT
تدرس OpenAI إضافة علامات مائية إلى النصوص المُولّدة بواسطة ChatGPT
سجل واكسب 1000 دولار في اليوم ⋙
وفقًا لصحيفة وول ستريت جورنال، كان لدى OpenAI نظام لإضافة علامات مائية إلى النصوص التي تم إنشاؤها بواسطة ChatGPT وأداة للكشف عن العلامات المائية جاهزة منذ حوالي عام. لكن الشركة تتناقش داخليًا بشأن ما إذا كانت ستطلقه أم لا. من ناحية أخرى، يبدو الأمر وكأنه الشيء المسؤول الذي ينبغي القيام به؛ ومن ناحية أخرى، قد يؤثر ذلك سلباً على أرباح الشركة.
يتم وصف العلامة المائية الخاصة بـ OpenAI على أنها تعديل لكيفية توقع النموذج للكلمات والعبارات الأكثر احتمالاً بعد الكلمات والعبارات السابقة، مما يؤدي إلى إنشاء نمط يمكن اكتشافه.
إن توفير أي طريقة للكشف عن المواد المكتوبة بواسطة الذكاء الاصطناعي يعد بمثابة نعمة محتملة للمعلمين الذين يحاولون تثبيط الطلاب عن استخدام الذكاء الاصطناعي للقيام بواجباتهم المدرسية. وذكرت الصحيفة أن الشركة وجدت أن العلامة المائية لم تؤثر على جودة النص الذي يخرجه برنامج الدردشة الآلي. وفي استطلاع أجرته الشركة، "أيد الناس في جميع أنحاء العالم فكرة أدوات الكشف بالذكاء الاصطناعي بنسبة 4:1"، كما كتبت الصحيفة.
وبعد أن نشرت المجلة قصتها، أكدت شركة OpenAI أنها دفعت باتجاه إضافة العلامة المائية النصية في تحديث منشور بالمدونة اليوم رصده موقع TechCrunch. وتقول الشركة في رسالتها إن طريقتها دقيقة للغاية ("فعالة بنسبة 99.9 في المائة"، وفقًا للوثائق التي اطلعت عليها الصحيفة) ومقاومة "للتزييف، مثل إعادة الصياغة". وقالت الشركة أيضًا إنها تشعر بالقلق إزاء الوصمة المحيطة بفائدة أدوات الذكاء الاصطناعي للمتحدثين غير الأصليين.
لكن يبدو أن شركة OpenAI تشعر بالقلق أيضًا من أن استخدام العلامة المائية قد يؤدي إلى تنفير مستخدمي ChatGPT. وبحسب الاستطلاع، فإن ما يقرب من 30% منهم أبلغوا الشركة أنهم سيستخدمون البرنامج بشكل أقل إذا تم تنفيذ ميزة العلامة المائية.
ومع ذلك، يرى بعض الموظفين أن ميزة العلامة المائية قد تكون فعالة. ومع ذلك، رداً على إحباط المستخدمين، قالت المجلة إن بعض طرق الاختبار المقترحة "قد تكون أقل إثارة للجدل بين المستخدمين ولكنها غير مثبتة". في تحديث مدونة اليوم، قالت الشركة إنها "في المراحل المبكرة" من استكشاف تضمين البيانات الوصفية، ولا يزال "من المبكر جدًا" معرفة مدى نجاح الميزة الجديدة، ولكن نظرًا لأنها موقعة تشفيريًا، فلا ينبغي أن تكون هناك أي نتائج إيجابية خاطئة.