TikTok takes extra steps to curb dangerous challenges
تيك توك يتخذ خطوات إضافية للحدّ من التحديات الخطيرة
BBC
TikTok is trying to strengthen the detection and enforcement of rules against dangerous online challenges and hoaxes.
Just over one in five teenagers has participated in an online challenge, a survey commissioned by TikTok suggests.
But only one in 50 has taken part in a “risky and dangerous” – and fewer than one in 300 a “really dangerous” – one.
The survey looked at teenagers’ broad online experience, without focusing on any one platform.
‘Skull-breaker’ challenge
There has been widespread concern about the proliferation, across various platforms, of potentially harmful online challenges.
Last year, the “skull-breaker” challenge, shared on TikTok, was linked to injuries.
And this year, doctors warned of the risk to life and limb of the “milk-crate challenge”, which invited the foolhardy to climb pyramids of milk crates.
But online challenges can also be positive and promote worthwhile causes, experts note, such as the “ice-bucket challenge”, which helped raise awareness of amyotrophic lateral sclerosis (ALS).
Violating content
The independent report, Exploring effective prevention education responses to dangerous online challenges, TikTok commissioned draws on a survey of teachers, parents and 5,400 13- to 19-year-olds in the UK, the US, Germany, Australia, Italy, Brazil, Mexico, Indonesia, Vietnam and Argentina
In response to its findings, TikTok said technology that “alerts our safety teams to sudden increases in violating content linked to hashtags” would be expanded “to also capture potentially dangerous behaviour”.
For example, if a hashtag such as #foodchallenge normally used to share recipes suddenly saw a spike in interest apparently connected to videos breaking the company’s rules, the team would investigate.
TikTok already has a policy of removing content that “promotes or glorifies dangerous acts”.
Self-harm hoaxes
Experts contributing to the report noted: “Adolescence is a period that has always been associated with heightened risk-taking.”
But it comes at a time of heightened public debate about the impact of social media on teenagers, after whistleblower Frances Haugen revealed Facebook research into the effect Instagram had on their mental health.
The TikTok research also looked at suicide and self-harm hoaxes.
Some schools warned parents about Momo, for example, a sinister character with bulging eyes setting children dangerous “challenges” such as harming themselves.
Experts said it was a hoax.
But the survey indicates these can still affect children.
Alarmist warnings
Of those to have seen a hoax, 31% said it had had a negative impact – and 63% of those said this had been on their mental health
“Hoaxes like these often have similar characteristics – and in previous cases, false warnings have circulated suggesting that children were being encouraged to take part in ‘games’ which resulted in self-harm,” TikTok said.
“These hoaxes largely spread through warning messages encouraging others to alert as many people as possible to avoid perceived negative consequences.”
And as well as removing the hoaxes, it would now “start to remove alarmist warnings about them, as they could cause harm by treating the self-harm hoax as real”.
Heightened risk-taking
The report also highlighted previous research suggesting the number of searches for hoax challenges by children “peaked in a way that mirrored the media coverage and public comment”.
Calling for better “media guidelines on dangerous challenges and hoax challenges”, it suggested existing guidance on the reporting of suicide, followed by many media organisations, could be a model.
TikTok said it had worked “to develop a new resource for our Safety Centre dedicated to challenges and hoaxes” and sought expert advice to improve warning labels that appear to people who search Tiktok for content related to harmful challenges or hoaxes.
“A new prompt will encourage community members to visit our Safety Centre to learn more,” it said.
“And should people search for hoaxes linked to suicide or self-harm, we will now display additional resources in search.”
بي بي سي
تحاول TikTok تعزيز الكشف عن التحديات الخطيرة عبر الإنترنت والخدع وتعزيز تنفيذ القواعد ضدها. ووفقًا لاستطلاع أجرته TikTok، شارك أكثر من واحد من كل خمسة مراهقين في تحدي عبر الإنترنت، ولكن فقط واحد من كل 50 شخصًا شارك في تحدي “خطير وخطير جداً”، وأقل من واحد من كل 300 شخص شارك في تحدي “خطير بشكل حقيقي”. وقد تم إجراء الاستطلاع على تجربة المراهقين على الإنترنت بشكل عام، دون التركيز على أي منصة بشكل خاص.
وقد أثار انتشار التحديات الخطيرة عبر الإنترنت على مختلف المنصات قلقًا واسعًا، حيث كان التحدي “كسر الجمجمة” المشارك على TikTok العام الماضي مرتبطًا بالإصابات، وحذر الأطباء هذا العام من خطر التحدي “صناديق الحليب”، الذي يدعو المراهقين الجريئين إلى تسلق هرم من صناديق الحليب.
ومع ذلك، يمكن أن تكون التحديات عبر الإنترنت إيجابية وتشجع على القضايا الجديرة بالدعم، على سبيل المثال، التحدي “دلو الثلج” الذي ساعد على رفع الوعي بالتصلب الجانبي الضموري، وفقًا للخبراء.
وفيما يتعلق بالمحتوى المخالف، تفيد التقارير المستقلة التي قام بتكليفها TikTok بتحسين استجابة التعليم لمواجهة التحديات الخطيرة عبر الإنترنت، بأن التكنولوجيا التي تنبه فرق الأمان لديهم إلى زيادات مفاجئة في المحتوى المخالف المرتبط بالوسوم سيتم توسيعها لتشمل أيضًا السلوك الخطير المحتمل. على سبيل المثال، إذا شهد الهاشتاغ #foodchallenge زيادة في الاهتمام مرتبطة بمقاطع الفيديو التي تنتهك قواعد الشركة، فسيقوم الفريق بالتحقيق.
كما أن TikTok لديها سياسة لإزالة المحتوى الذي “يروج أو يمجد الأعمال الخطيرة”. وتشير التقارير إلى أن سن المراهقة هي فترة مرتبطة دائمًا بزيادة المخاطرة، ولكنها تأتي في ظل نقاش عام متصاعد حول تأثير وسائل التواصل الاجتماعي على المراهقين، بعد كشف المُخترع ترفرز هوغان عن بحث فيسبوك في تأثير إنستغرام على صحة المراهقين.
وناقشت الأبحاث التي أجرتها TikTok أيضًا الخدع التي تتعلق بالانتحار والإيذاء الذاتي. وحذرت بعض المدارس الآباء من شخصية مومو، على سبيل المثال، وهي شخصية شريرة ذات عيون بارزة تطلب من الأطفال تحديات خطيرة مثل إيذاء أنفسهم. وأشار الخبراء إلى أنها خدعة، ولكن يمكن لهذه الخدع أن تؤثر على الأطفال.
وبالإضافة إلى إزالة الخدع، ستبدأ TikTok الآن في إزالة التحذيرات المثيرة للقلق حولها، حيث يمكن أن تتسبب في الضرر عن طريق التعامل مع الخداع الذي يتعلق بالإيذاء الذاتي بشكل حقيقي. وأوضحت TikTok أنها ستعمل “على تطوير مورد جديد لمركز الأمان الخاص بنا يخص التحديات والخدع”، كما ستطلب المشورة من الخبراء لتحسين تسميات التحذير التي تظهر للأشخاص الذين يبحثون عن محتوى متعلق بالتحديات الخطيرة أو الخدع.
وسيشجع النظام الجديد أيضًا أعضاء المجتمع على زيارة مركز الأمان الخاص بـ TikTok للمزيد من المعلومات. وإذا بحث الأشخاص عن الخدع المرتبطة بالانتحار أو الإيذاء الذاتي، فسيتم عرض موارد إضافية في البحث.
