تشكّل المراجعات على Google كنزًا من المعطيات المحلية، يمكن الاستناد إليه للعثور على الأماكن والأنشطة التجارية التي تلبّي الاحتياجات والتوقعات، سواء كنت تبحث عن مخبز يقدّم أشهى كعك محلّى خالٍ من الغلوتين، أو مطعم مجاور لديه منطقة ترفيه للأطفال.
يتم نشر ملايين المراجعات يوميًا من جميع أنحاء العالم. لذلك، يعمل فريقنا على مدار الساعة للحفاظ على دقة المعلومات على Google والحرص على ارتباطها بالسياق. وغالبًا ما نعمل خلف الكواليس على تجنّب المحتوى غير اللائق، لذلك نودّ أن نوضّح لكم ما يحدث بعد كتابة مراجعة والنقر على زرّ النشر.
كيفية صياغة وإنفاذ سياساتنا
لقد وضعنا سياسات محتوى صارمة للحرص على أن تعكس المراجعات تجارب الأفراد الفعلية، واستبعاد التعليقات غير المرتبطة بالموضوع والمهينة من الملفات التجارية على Google.
تواكب سياستنا وإجراءات الحماية لدينا التطوّر الذي يشهده العالم من حولنا. ويساعدنا ذلك على حماية الأماكن والأنشطة التجارية المعرّضة للإساءة المستهدفة، من خلال استبعاد المحتوى المنتهك وغير المرتبط بالسياق. على سبيل المثال، عندما بدأت بعض الحكومات والأنشطة التجارية باشتراط إبراز شهادة اللقاح المضاد لفيروس كورونا المستجد (كوفيد-19) قبل السماح للعملاء بدخول أماكن محددة، وضعنا تدابير حماية إضافية لإزالة المراجعات من Google إذا كانت تنتقد سياسات الصحة والأمان في نشاط تجاري محدد أو تهاجمه لالتزامه بفرض اللقاح.
عند صياغة سياسة، يتم استخدامها لتدريب الموظفين وخوارزميات تعلّم الآلة، وذلك لمساعدة فرقنا على رصد المحتوى المنتهك للسياسات والحفاظ على فائدة ومصداقية المراجعات على Google.
الإشراف على المراجعات باستخدام تقنية تعلّم الآلة
بعد نشر مراجعة، نرسلها إلى نظام الإشراف على المراجعات للتأكد من عدم انتهاكها لأي من سياساتنا. ويمكن مقارنة نظام الإشراف على المراجعات بحارس أمن يمنع الأفراد غير المصرح لهم بالدخول إلى المبنى. وبالمثل، يمنع فريقنا نشر المحتوى السيء على Google.
ونظرًا لكمية المراجعات التي نتلقاها بوتيرة منتظمة، وجدنا أننا بحاجة إلى وجهة النظر الشخصية التي يقدّمها الموظفون فضلًا عن النطاق الواسع الذي تغطّيه الآلة لمساعدتنا على الإشراف على المحتوى. ولكلٍّ من العاملَين فوائده وميزاته، لذلك نواصل الاستثمار بشكل كبير في كليهما.
تشكّل الآلات خط الدفاع الأول لأنّها تجيد رصد الأنماط. وغالبًا ما تستند آلاتنا إلى هذه الأنماط لتحدّد بشكل فوري ما إذا كان المحتوى مشروعًا. وتتم إزالة غالبية المحتوى الزائف والمخادع قبل أن يتمكّن أحد من رؤيته.
وتنظر آلاتنا في المراجعات من زوايا مختلفة. وفي ما يلي بعض الأمثلة:
● محتوى المراجعة: هل تحتوي المراجعة على محتوى مهين أو خارج عن الموضوع؟
● الحساب الذي نشر المراجعة: هل سجّل حساب Google أي سلوكيات مريبة في الماضي؟
● المكان موضوع المراجعة: هل تم تسجيل أي نشاط غير اعتيادي حول المكان، مثل نشر مراجعات بكثافة خلال فترة زمنية قصيرة؟ هل تم تسليط الضوء عليه مؤخرًا في الأخبار أو وسائل التواصل الاجتماعي، ما قد يحفّز الأفراد على نشر مراجعات مخادعة؟
لا بدّ من انتهاج الدقة عند تدريب الآلة على الفرق بين المحتوى المقبول والمحتوى المنتهك للسياسات. يجري الموظفون لدينا اختبارات جودة بشكل منتظم ويخضعون لتدريبات إضافية لإزالة التحيز من نماذج تعلّم الآلة. ومن خلال تدريب النماذج بدقة على كل السياقات التي قد ترد فيها كلمات أو جمل محددة، نحسّن قدرتنا على رصد المحتوى المنتهك للسياسات ونقلّص احتمالية حظر المراجعات المشروعة عن غير قصد.
إذا لم ترصد أنظمتنا أي انتهاكات للسياسات، يمكن نشر المراجعة في غضون ثوانٍ، ولكنّ ذلك لا يعني أنّ مهمتنا قد انتهت. في الواقع، تواصل أنظمتنا تحليل المحتوى المنشور ومراقبة الأنماط المريبة. ويمكن أن تشتمل هذه الأنماط على جماعة تنشر مراجعات على المجموعة نفسها من الملفات التجارية، أو نشاط تجاري أو مكان يتلقى كمية غير اعتيادية من التقييمات بالنجوم من 1 إلى 5 خلال فترة زمنية قصيرة.
الحفاظ على مصداقية وموثوقية المراجعات
من واجبنا أن نسعى جاهدين إلى منع المحتوى المخادع والمسيء على "خرائط Google"، شأننا شأن أي منصة تتيح للمستخدمين نشر المحتوى. وفي هذا الإطار، نقدّم للمستخدمين طريقة سهلة للإبلاغ عن المراجعات المنتهكة للسياسات في "خرائط Google". فإذا صادفتكم مراجعة على Google تعتقدون أنها تنتهك السياسات، نشجعكم على إبلاغ فريقنا عنها. ويمكن للأنشطة التجارية الإبلاغ عن المراجعات المسيئة على ملفاتها التجارية هنا، أمّا المستهلكون، فيمكنهم الإبلاغ عنها هنا.
When exploring new places, reviews on Google are a treasure trove of local knowledge that can point you to the places and businesses you’ll enjoy most, whether it’s a bakery with the best gluten-free cupcake or a nearby restaurant with live music.
With millions of reviews posted every day from people around the world, we have around-the-clock support to keep the information on Google relevant and accurate. Much of our work to prevent inappropriate content is done behind the scenes, so we wanted to shed some light on what happens after you hit “post” on a review.
How we create and enforce our policies
We've created strict content policies to make sure reviews are based on real-world experiences and to keep irrelevant and offensive comments off Google Business Profile.
As the world evolves, so do our policies and protections. This helps us guard places and businesses from violative and off-topic content when there’s potential for them to be targeted for abuse. For instance, when governments and businesses started requiring proof of COVID-19 vaccine before entering certain places, we put extra protections in place to remove Google reviews that criticize a business for its health and safety policies or for complying with a vaccine mandate.
Once a policy is written, it’s turned into training material, both for our operators and machine learning algorithms, to help our teams catch policy-violating content and ultimately keep Google reviews helpful and authentic.
Moderating reviews with the help of machine learning
As soon as someone posts a review, we send it to our moderation system to make sure the review doesn’t violate any of our policies. You can think of our moderation system as a security guard that stops unauthorized people from getting into a building, but instead, our team is stopping bad content from being posted on Google.
Given the volume of reviews we regularly receive, we’ve found that we need both the nuanced understanding that humans offer and the scale that machines provide to help us moderate contributed content. They have different strengths so we continue to invest tremendously in both.
Machines are our first line of defense because they’re good at identifying patterns. These patterns often immediately help our machines determine if the content is legitimate, and the vast majority of fake and fraudulent content is removed before anyone actually sees it.
Our machines look at reviews from multiple angles, such as:
- The content of the review: Does it contain offensive or off-topic content?
- The account that left the review: Does the Google account have any history of suspicious behavior?
- The place itself: Has there been uncharacteristic activity — such as an abundance of reviews over a short period of time? Has it recently gotten attention in the news or on social media that would motivate people to leave fraudulent reviews?
