كيف تتحقق جوجل من المراجعات المزيفة للأنشطة التجارية؟

نشرت جوجل يوم الجمعة الماضي منشورًا عبر مدونتها مفاده أنها قامت بتحديث أنظمة التعلم الآلي الخاصة بها من أجل اكتشاف المراجعات المزيفة للأنشطة التجارية في خدمة الخرائط وحذفها، وكذلك قوائم الأنشطة التجارية والصور ومقاطع الفيديو المزيفة.

وقد حذفت أنظمة التعلم الآلي وفرق المراجعة البشرية أكثر من 200 مليون صورة و 7 ملايين مقطع فيديو وأكثر من 115 مليون مراجعة، وهو ما يمثل زيادة بنسبة 20% عن العام السابق.

كيف تستخدم جوجل التعلم الآلي للتخلص من المحتوى المزيف؟

1- الكشف عن أنماط إساءة الاستخدام بشكل أسرع:

تستخدم جوجل نماذج جديدة للتعلم الآلي لاكتشاف المحتوى المزيف والاحتيالي وحذفه بسرعة، إذ تبحث نماذج التعلم الآلي هذه عن أنماط غير معتادة في المحتوى الذي يساهم به المستخدم، ومنها: الإبلاغ عن أشكال جديدة من إساءة الاستخدام لم يسبق رؤيتها.

وقد صرحت جوجل في المنشور: “أطلقنا خلال العام الماضي تحديثًا مهمًا لنماذج التعلم الآلي لدينا التي ساعدتنا في تحديد توجهات إساءة الاستخدام الجديدة أسرع عدة مرات من السنوات السابقة. على سبيل المثال، اكتشفت أنظمتنا ارتفاعًا مفاجئًا في الحسابات الخاصة بالأعمال التجارية المرتبطة بمواقع الويب التي تنتهي بكلمات مثل: (design.) أو (top.)، وهو أمر يصعب اكتشافه يدويًا عبر ملايين الحسابات”.

وأضافت: “أكد فريق المحللين لدينا بسرعة أن هذه المواقع مزيفة، وتمكنا من إزالتها وتعطيل الحسابات المرتبطة بسرعة”.

الجدير بالذكر أن أنظمة جوجل تراجع المحتوى الجديد قبل نشره من أجل حظر المحتوى المزيف أو الاحتيالي المقدم إلى خدمة خرائط جوجل، كما تستخدم نماذج التعلم الآلي لفحص المحتوى الذي نُشر بالفعل لاكتشاف المحتوى المزيف الذي ربما قد تجاوز المراجعات الأولية.

2- حذف الصور الاحتيالية:

يضع المحتالون في بعض الأماكن أرقام هواتفهم فوق الصور المساهمة، على أمل خداع المستخدمين للاتصال بهم بدلًا من النشاط التجاري الفعلي، ولمكافحة هذه المشكلة؛ استخدمت جوجل نموذج جديد للتعلم الآلي يمكنه التعرف على الأرقام المتراكبة على الصور المساهمة من خلال تحليل تفاصيل مرئية محددة وتخطيطات الصور.

وباستخدام هذا النموذج؛ نجحت جوجل في اكتشاف الغالبية العظمى من هذه الصور الاحتيالية والمخالفة لسياساتها قبل نشرها وحظرها.

إليك بعض الإحصائيات حول المحتوى المزيف الذي اكتشفته جوجل:

• حظرت جوجل أكثر من 115 مليون مراجعة مزيفة، قائلة إن الأغلبية حُظرت قبل نشرها.
•  أزالت خوارزميات مكافحة الرسائل غير المرغوب فيها الجديدة أكثر من 200 مليون صورة وأكثر من 7 ملايين مقطع فيديو كانت ضبابية أو منخفضة الجودة أو تنتهك سياسات المحتوى الخاصة بجوجل.
• أوقفت هذه الأنظمة الجديدة 20 مليون محاولة لإنشاء حسابات مزيفة للأنشطة التجارية، وهو ما يزيد بمقدار 8 ملايين عن عام 2021.
• كما وضعت جوجل إجراءات حماية لأكثر من 185000 شركة كانت تواجه أنشطة مشبوهة.