ميتا تخطط لتمييز صور الذكاء الاصطناعي على منصاتها!

تعمل شركة ميتا على تطوير أدوات جديدة لتمييز صور الذكاء الاصطناعي بحيث يظهر علامة تشير أن هذه الصور تم تطويرها بواسطة AI، وذلك عبر منصاتها المختلفة بما في ذلك فيسبوك وانستجرام وThreads.
ويوضح المصدر أن هذه الخطة تأتي ضمن حملة أوسع نطاقًا للقضاء على المعلومات الخاطئة والمضللة، وهو أمر هام، خاصة مع الخوف من تداعيات الذكاء الاصطناعي التوليدي (GAI) في عام انتخابي كبير في الولايات المتحدة ودول أخرى.
تمييز صور الذكاء الاصطناعي على فيسبوك وانستجرام وثريدز
وفقًا لـ “Nick Clegg”، رئيس الشؤون العالمية في شركة ميتا، تعمل الشركة مع شركاء من جميع أنحاء الصناعة لتطوير معايير تكشف دلالات ما إذا تم إنشاء صورة أو مقطع فيديو أو مقطع صوتي باستخدام الذكاء الاصطناعي.
وكتب كليج في منشور Meta Newsroom: “إن القدرة على اكتشاف هذه الدلالات ستمكننا من تصنيف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي ينشرها المستخدمون على Facebook وInstagram وThreads”.
“نحن نعمل على بناء هذه التقنية الآن، وفي الأشهر المقبلة سنبدأ في تطبيق التصنيفات بجميع اللغات التي يدعمها كل تطبيق.”
وأضاف كليج أنه مع توسيع هذه القدرات خلال العام المقبل، تتوقع ميتا معرفة المزيد حول “كيفية إنشاء الأشخاص لمحتوى الذكاء الاصطناعي ومشاركته، ونوع الشفافية التي يجدها الأشخاص الأكثر قيمة وكيف تتطور هذه التقنيات”.

تقول Meta إن الأدوات التي تعمل عليها ستكون قادرة على اكتشاف الإشارات غير المرئية – وهي المعلومات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تتوافق مع المعايير الفنية C2PA و IPTC – على نطاق واسع. على هذا النحو، تتوقع أن تكون قادرة على تحديد الصور وتصنيفها من Google، وOpenAI، وMicrosoft، وAdobe، وMidjourney، وShutterstock، وجميعها تدمج بيانات تعريف GAI في الصور التي تنتجها منتجاتها.
أما بالنسبة لفيديو وصوت GAI، يشير كليج إلى أن الشركات في هذا المجال لم تبدأ بعد في دمج الإشارات غير المرئية في تلك الموجودة على نفس نطاق الصور. وعلى هذا النحو، فإن ميتا غير قادر حتى الآن على اكتشاف الفيديو والصوت الذي يتم إنشائه بواسطة أدوات الذكاء الاصطناعي التابعة لجهات خارجية.
في غضون ذلك، تتوقع Meta من المستخدمين تصنيف هذا المحتوى بأنفسهم. حيث كتب كليج: “في حين تعمل الصناعة على تحقيق هذه الإمكانية، فإننا نضيف ميزة للأشخاص للتوضيح عندما يشاركون فيديو أو صوت مطور بالذكاء الاصطناعي حتى نتمكن من إضافة تصنيف إليه”.
“سنطلب من الأشخاص استخدام أداة الكشف والتسمية هذه عندما ينشرون محتوى يحتوي على فيديو واقعي أو صوت يبدو واقعيًا تم إنشاؤه أو تعديله رقميًا، وقد نطبق عقوبات إذا لم يقومو بذلك.”
بالإضافة إلى ذلك، تسعى Meta إلى جعل من الصعب على الأشخاص تغيير أو إزالة العلامات غير المرئية من صور أو محتوى الذكاء الاصطناعي التوليدي عمومًا.
كتب كليج: قام مختبر أبحاث FAIR AI التابع للشركة بتطوير تقنية “تدمج آلية وضع العلامات المائية مباشرة في عملية إنشاء الصور لبعض أنواع مولدات الصور، والتي يمكن أن تكون ذات قيمة للنماذج مفتوحة المصدر بحيث لا يمكن تعطيل العلامة المائية”.

وتعمل Meta أيضًا على إيجاد طرق للكشف تلقائيًا عن المواد التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي لا تحتوي على علامات غير مرئية.
وبذكر العلامات الرقمية، فقد أعلنت Open AI عن وضع علامات رقمية على الصور التي تم توليدها بواسطة شات جي بي تي، للمساهمة في تمييز المحتوى الخاص بالذكاء الاصطناعي والتقليل من تناقل المعلومات المضللة.
أخيرًا، فقد شاركت ميتا التحديث الخاص بنهجها في تصنيف المحتوى الناتج عن الذكاء الاصطناعي بعد أيام قليلة من إلقاء الرئيس التنفيذي مارك زوكربيرج مزيدًا من الضوء على خطط شركته لبناء ذكاء اصطناعي عام.