عندما أقول إنّني أعمل في YouTube، غالبًا ما يخبرني أفراد العائلة أنّهم يلجأون إلى المنصة لتعلّم معلومات جديدة، أو ممارسة اليوغا، أو الرسم، أو الطهي معًا. ونظرًا إلى أنّ الأطفال والمراهقين يقضون وقتًا أطول على الإنترنت، من المهم توفير تجربة آمنة لهم ودعم تفاعلهم مع المنتدى وتعزيز حب الاستكشاف والتعلم لديهم. وعلى رأس أولوياتنا في YouTube الاضطلاع بمسؤولياتنا على أكمل وجه، وأكثر ما يهمّنا هو حماية الأطفال على المنصة.
ومن هذا المنطلق، أنشأنا تطبيقًا مخصصًا للأطفال، وهو YouTube Kids. وقد استثمرنا الكثير خلال السنوات الماضية لجعل هذا التطبيق أكثر أمانًا وملاءمة للأطفال، بما يتيح توسيع مخيلتهم الخصبة وتغذية فضولهم.إضافةً إلى ذلك، نفرض معايير عالية تحدّد الفيديوهات التي يجوز تضمينها في التطبيق، كما نمكّن الوالدَين من التحكّم في المحتوى الذي يتم عرضه على أولادهم.
نحن ننطلق من إطار العمل المعتمد في YouTube من أجل الوفاء بمسؤوليتنا كمنصة مفتوح، والالتزام بحماية المنتدىة. وتشمل مبادئنا أربع نقاط رئيسية، هي: إزالة المحتوى الضار، ورفع الأصوات الموثوقة، وتقليل المحتوى القريب من مخالفة السياسات، ومكافأة منشئي المحتوى الموثوقين. ونحن نطبق هذه المبادئ على مجموعة واسعة من المحتوى، كالانتخابات والمعلومات المضللة. وتعزز هذه المبادئ جهودنا المبذولة لحماية الأطفال والعائلات، كما تكمّل خيارات السلامة والرفاهية الرقمية وممارسات الخصوصية والبيانات الحالية الخاصة بالمحتوى الموجه إلى الأطفال، وذلك على الشكل التالي:
الإزالة
تحظر سياساتنا بوضوح المحتوى الذي يستغل القاصرين أو يعرّضهم للخطر على YouTube. وقد خصصنا الكثير من الوقت والموارد لإزالة المحتوى المخالف لسياساتنا في أسرع وقت ممكن. إضافةً إلى ذلك، نراجع هذه السياسات بشكل دوري، ونتعامل مع خبراء خارجيين للتأكد من مواءمتها للظروف الراهنة. على سبيل المثال، عدّلنا سياستنا لتشمل المحتوى الذي يستهدف القاصرين والعائلات والذي يحتوي على مواضيع جنسية أو مشاهد عنف أو فحش أو أي مشاهد مخصصة للكبار. وخلال الربع الثاني من العام 2021، أزلنا أكثر من 1.8 مليون فيديوو لانتهاكها سياساتنا المتعلقة بسلامة الأطفال.
ويشكّل YouTube Kids تطبيقًا مستقلًا، وهو عبارة عن نسخة مفلترة من YouTube، وله سياسات محتوى خاصة، ويتضمّن مجموعة أصغر بكثير من القنوات والفيديوهات. وعلى مرّ السنين، فرضنا معايير أعلى للقنوات والفيديوهات التي يجوز عرضها على YouTube Kids، مما أدى إلى انخفاض ملحوظ في عدد القنوات على التطبيق. على سبيل المثال، عدّلنا مؤخرًا سياساتنا لإزالة الفيديوهات التي يغلب عليها الطابع التجاري والتسويقي على YouTube Kids، مثل الفيديوهات التي تركز فقط على تغليف المنتج أو تشجع الأطفال بشكل مباشر على إنفاق الأموال.
التعزيز والتخفيض
وعلى مدى السنوات الماضية، عملنا على تفعيل منتجات وسياسات لمساعدة العائلات على الوصول إلى محتوى عالي الجودة على YouTube وYouTube Kids. من خلال تعاوننا مع خبراء في مجال تنمية الأطفال، قمنا بتأسيس مجموعة من مبادئ الجودة لمساعدة توجيه منظومة منشئي المحتوى التي تقدّم محتوى خاصًا بالأطفال والعائلات. ويمكن إنشاء محتوى غنيّ وتفاعلي ومناسب لهذه الفئة العمرية باعتماد تنسيقات مختلفة وتناول مواضيع ومجالات متنوعة. ويشمل ذلك فيديوهات تثير فضول الأطفال وتحفّز مخيلتهم، وتشجّع على التنوع في الآراء، وتساعد الأطفال على التعبير عن اهتماماتهم الخاصة. وتساعد هذه المبادئ على توضيح المعايير المتّبعة لإدراج الفيديوهات في YouTube Kids وآلية عمل الاقتراحات في تجربة YouTube الرئيسية. ففي YouTube Kids، نحدّد وندرج الفيديوهات والقنوات المناسبة لجميع الفئات العمرية والتي تلتزم بمبادئ الجودة المعتمدة لدينا.
ونستند أيضًا إلى هذه المبادئ لتحديد المحتوى العالي الجودة الذي سيظهر في اقتراحاتنا على YouTube. إذًا، عند مشاهدة محتوى "مخصص للأطفال" على YouTube، نعمل على اقتراح فيديوهات تعليمية ومناسبة لجميع الفئات العمرية، تحفّز على الإبداع والخيال. فإذا كان المستخدم يشاهد مثلًا فيديو How Do Rockets Fly من قناة SciShow Kids، قد نقترح فيديو How to Draw a Rocket مثلًا من قناة Art for Kids Hub، أو How To Make A DIY CD Hovercraft من قناة Super Sema، أو STEM Curiosity Camp من قناة GoldieBlox.
ونعتمد هذه المبادئ أيضًا للتقليل من المحتوى المنخفض الجودة الموجّه إلى الأطفال في الاقتراحات التي نقدّمها على YouTube، (حتى إذا كان هذا المحتوى لا ينتهك إرشادات المنتدى) وإزالة القنوات من YouTube Kids. ويشمل هذا المحتوى على سبيل المثال الفيديوهات التي يغلب عليها الطابع التجاري أو الترويجي، والفيديوهات التي تشجع على السلوكيات السلبية. ونحن نعمل باستمرار على إعادة تقييم مبادئنا وتعديلها عند الحاجة. للمزيد من المعلومات، يُرجى الاطلاع على هذه المقالة.
المكافأة
ثمة مجموعة كبيرة من منشئي المحتوى الذين يقدّمون فيديوهات مخصصة للأطفال والعائلات بجودة عالية. ونودّ الحرص على مكافأة منشئي المحتوى هؤلاء ومساعدتهم على النمو وتحقيق النجاح على YouTube.
وفي هذا الإطار، فرضنا معايير عالية لتحديد القنوات التي يجوز لها تحقيق الأرباح على YouTube. فعلى منشئي المحتوى الامتثال لإرشادات المنتدى واتباع سياساتنا الخاصة بتحقيق الأرباح للانضمام إلى "برنامج شركاء YouTube". وكل قناة تتقدم بطلب الانضمام إلى البرنامج تخضع لمراجعة دقيقة على يد خبير مختص للتأكد من توافقها مع سياساتنا. ونحن نحرص على تعديل هذه الإرشادات بشكل دوري، كما نراجع القنوات التي لا تلتزم بسياساتنا ونقوم بإزالتها.
خلال هذا الشهر، شاركنا سياسات إضافية لتحقيق الربح، تتماشى مع مبادئ الجودة التي أشرنا إليها أعلاه، وتستهدف القنوات التي تقدّم محتوى مخصصًا للأطفال والعائلات. فمن الآن فصاعدًا، لن تُطبّق هذه المبادئ فقط على الاقتراحات والمحتوى المضمّن في YouTube Kids، بل ستؤثر أيضًا على أهلية تحقيق الربح.
بالتالي، إنّ القنوات التي تستهدف الأطفال بشكل أساسي ، أو المصنّفة على أنها "مخصصة للأطفال" يجب أن تقدّم محتوى عالي الجودة، وأن تلتزم بسياسات تحقيق الربح الخاصة بمحتوى الأطفال. على سبيل المثال، قد يتم تعليق القنوات في "برنامج شركاء YouTube" إذا كانت تشتمل على محتوى مخصص للأطفال ومنخفض الجودة، مثل المحتوى الذي يغلب عليه الطابع الترويجي أو التسويقي، أو الذي يشجع على سلوكيات أو مواقف سلبية. وإذا انتهك أي فيديو فردي مبادئ الجودة هذه، قد يتم عرض إعلانات محدودة عليه أو لا يتم عرض أي إعلانات.
وقمنا بالتواصل مع منشئي المحتوى الذين يحتمل أن يتأثروا بها لتقديم الدعم لهم قبل تنفيذ هذه التغيرات بداية من الشهر المقبل. ويتمثل هدفنا في توفير بيئة آمنة وغنية للعائلات، ومكافأة منشئي المحتوى الموثوقين والذين ينشئون محتوى مخصصًا للأطفال والعائلة على مستوى عالٍ من الجودة.
ونحن فخورون بمنشئي المحتوى المبدعين الذين يقدمون محتوىً غنيًا ومتنوعًا للمستخدمين في جميع أنحاء العالم، ونلتزم بمساعدتهم على تحقيق النجاح، ومواصلة تزويد الأطفال والعائلات بتجربة أكثر أمانًا وفائدة وغنىً. وسنواصل العمل بجدّ في هذا الإطار، ونقدّر كثيرًا مساهمة الآباء ومنشئي المحتوى والخبراء الذين يساعدوننا على تحسين تجربة YouTube.
هذه المدونة نسخة معدلة من مدونة YouTube بقلم يوهانا فولتيش رايت، نائبة رئيس، إدارة المنتجات في YouTube
Our responsibility approach to protecting kids and families on YouTube
When I tell people that I work at YouTube, I often hear stories about how their families come to YouTube to learn something new, do yoga, draw and cook together. As kids and teens spend more time online, it’s important to protect their experience while fostering community and encouraging exploration. Responsibility is our number one priority at YouTube, and nothing is more important than protecting kids.
For our younger users, we’ve built a dedicated kids destination, the YouTube Kids app. We’ve invested heavily over the years to make YouTube Kids a safer, family-friendly place for kids to explore their imagination and curiosity. We have a higher bar for which videos can be a part of the app and also empower parents to control what content their child can and cannot see.
This work builds on the framework we use across YouTube to live up to our responsibility as an open platform while protecting the YouTube community. Our principles are organized around the four “Rs”: remove harmful content, raise authoritative voices, reduce borderline content, and reward trusted creators. We apply these pillars across a range of content, from elections to misinformation, and they also ground our efforts to protect kids and families. This work complements our existing safety and digital wellbeing options and privacy and data practices for children’s content. Here’s how:
Remove
We have clear policies that prohibit content that exploits or endangers minors on YouTube and have committed significant time and resources toward removing violative content as quickly as possible. We also regularly review these policies and engage with external experts to ensure they are current. For example, we’ve updated our policy to cover content meant to target young minors and families that contains sexual themes, violence, obscenity, or other mature themes. In Q2 of 2021 alone, we removed over 1.8 million videos for violations of our child safety policies.
YouTube Kids is a separate app that is a filtered version of YouTube, has specific content policies and a much smaller set of channels and videos available. Over the years, we’ve raised the bar for which channels and videos can be a part of YouTube Kids, drastically reducing the number of channels on the app. For example, we’ve recently updated our policies to remove overly commercial content from YouTube Kids, such as videos that only focus on product packaging or directly encourage children to spend money.
Raise & Reduce
Over the last few years, we’ve been working to implement products and policies that help us connect families with high quality-content on YouTube and YouTube Kids. In collaboration with child development experts, we established a set of quality principles to help guide our kids and family creator ecosystem. Age-appropriate, enriching, and engaging content can come in different formats, genres and cover a range of topics. They include videos that inspire curiosity and imagination, celebrate diverse perspectives and encourage kids to uncover their own interests and passions.
These principles help determine inclusion in YouTube Kids and how recommendations work in the main YouTube experience. On YouTube Kids, we identify and include videos and channels that are age-appropriate and adhere to the quality principles.
We also use these principles to determine which high-quality content we raise up in our recommendations on YouTube. his means that when you’re watching “made for kids” content on YouTube, we aim to recommend videos that are age-appropriate, educational, and inspire creativity and imagination. For example, if you were watching SciShow Kids’ How do Rockets Fly, we could recommend content like Art for Kids Hub’s How to Draw a Rocket, Super Sema’s How To Make A DIY CD Hovercraft or GoldieBlox's STEM Curiosity Camp.
At the same time, we use these principles to reduce kids content that is low-quality (but doesn’t violate our Community Guidelines) in our recommendations on YouTube, and remove channels from YouTube Kids. Examples of this content include videos that are heavily commercial or promotional, encourage negative behaviors or attitudes, and more. Our work here is ongoing and we regularly reevaluate and update these principles. You can read more here.
Reward
There is a vibrant community of kids and family content creators that produce high-quality content. And we want to make sure that we’re rewarding these creators and helping them grow and succeed on YouTube.
We set a higher bar for what channels can make money on YouTube. In addition to our Community Guidelines, creators also need to follow our monetization policies to join the YouTube Partner Program. Every channel applying to YPP undergoes review by a trained rater to make sure it meets our policies and we continually keep these guidelines current. We also regularly review and remove channels that don’t comply with our policies.
Earlier this month, we shared additional monetization policies—which align with the quality principles discussed above—for channels that primarily create kids and family content on YouTube. Going forward, these principles will have not only an impact on recommendations and inclusion in YouTube Kids, but also on monetization.
Channels that primarily target young audiences or are classified as “made for kids” will need to deliver high-quality content and comply with kids-specific monetization policies. For example, channels that have predominantly low-quality kids content, such as “Heavily commercial or promotional” or “Encouraging negative behaviors or attitudes”, may be suspended from YPP. And if an individual video violates these quality principles, it may see limited or no ads.
We have reached out to potentially impacted creators in order to support them before these changes take effect starting next month. Our ultimate goal is to foster a safe and enriching environment for families while rewarding trusted creators who are making high-quality kids and family content.
We are proud of the incredible creators who are delivering enriching and diverse content for people across the globe. We’re committed to helping them succeed, while providing kids and families with a safer and enriching experience. Our work here is ongoing, and we appreciate the partnership of parents, creators and experts in this journey.
This is an amended version of the blogpost by Johanna Voolich Wright, Vice President, Product Management, YouTube