YouTube正在更新其网络欺凌和骚扰政策，将不再允许“真实模拟”未成年人和其他犯罪受害者讲述他们的死亡或他们所经历的暴力的内容。
这次更新似乎针对的是真实犯罪圈中的一类内容，这些内容通过人工智能对受害者(包括儿童)进行令人不安的描绘，然后描述对他们的暴力行为。其中一些视频使用人工智能生成的孩子般的声音来描述发生在备受关注的案件中的可怕暴力事件。视频中的受害者家属称这些内容“令人作呕”。
YouTube的政策更新将导致罢工，从频道中删除内容，并暂时限制用户在平台上的活动。例如，第一次打击将限制用户在一周内上传视频。如果在90天内再次违反该政策，处罚将会增加，最终可能会导致整个频道被删除。
最近几个月，包括YouTube在内的平台推出了人工智能驱动的创作工具，同时也推出了针对合成内容的新政策，这些新政策可能会让用户感到困惑。例如，TikTok现在要求创作者给人工智能生成的内容贴上这样的标签。YouTube本身也宣布了一项严格的政策，禁止人工智能复制音乐家的声音，而对其他人则有一套宽松的规则。