元宇宙这一概念最早出自1992年出版的科幻小说作家尼尔·斯蒂芬森的第三部著作《雪崩》。
这个概念现在火爆了科技圈和资本圈。国内外各科技巨头们基本上都涌入元宇宙这个新风口，Facebook更名为“Meta”，微软宣布计划构建“虚拟地球”，华为发布“星光巨塔”发力元宇宙，腾讯几乎投遍了与元宇宙涉及的公司……
大部分人认为元宇宙是一个虚拟空间，就像电影“头号玩家”里的那样。一个虚拟的世界,像Minecraft 、Roblox (著名游戏)，或者像扎克伯格做的演示“Demo”。小盾以为广义元宇宙的核心是：内容、平台、NFT，进一步也就是创造+娱乐+展示+社交+交易。
当下，火爆的并不只有元宇宙，还有蓬勃的泛娱乐大航海，在现今需要加强本土化创新、成功商业模式赋能的出海4.0时代，我们有幸见证元宇宙的融合。
居于当下中国互联网及出海泛娱乐浪尖的核心其实就是内容，而承载内容的平台和应用我们可以视为一个个“内容元宇宙”，对于平台而言，价值传导链为内容引发兴趣、兴趣引发流量、流量引发“成交”、成交引发复购，链条的原点是内容，每一条内容都有可能是一个元宇宙奇点，在爆款系列内容下，用户形成一批批的互动和圈层，甚至在历次的热点内容传播过程中，形成了各路内容的追随者和社群，但在某些内容无序野蛮生长导致危害时，就需要毁灭失控的元宇宙，这就是内容风控，通过对视能“源奇点”的风控，平台方需要具备审视和识别有风险的内容。
01
内容风控
必要性
内容元宇宙参与方都应履行“良性”的义务，而作为平台方更有维护宇宙和平的使命，做好内容审核非常必要，为何要做好内容的审核和风控呢，小盾认为主要有以下三点：
必要性其一：满足各地域及国家的政策、文化及宗教信仰等要求
目前，很多国家推出政策，要求在用户层面开发并应用多种过滤软件，以筛查色情和违法内容，并对未成年人在线权益进行保护。
- 北美：以美国为例，美国的法律措施主要在色情内容管理、娱乐软件分级、隐私保护和专业机构支持四个方面，色情内容管理是美国未成年人网络安全保护的主要着力点，对不同年龄段的未成年用户和成年用户有着完全不同的分级要求，另外在恐怖主义、煽动性涉政言论、种族、宗教、性别等内容也有相应的限制要求。
- 欧盟：以法国、德国为代表的地区和国家针对未成年人网络安全的监管立法非常全面，还推行相关计划资助和鼓励社会各方协调维护未成年人网络安全，而对于色情、种族、宗教、性别及性别认同/偏好等方面也有限制。
- 中东：和其他地域的主要区别是宗教文化相关禁忌较严格。
- 东南亚：印尼对线上色情及反伊斯兰内容尤其敏感，马来西亚和新加坡则对色情、暴力等言论监管更加严格。
- 东亚：日本在暴力、赌博、性、毒品等方面有严格限制，在未成年人网络安全方面有着非常严格的管理与立法措施，日本专门制定了相关法律，还对广播电视、电影、书籍、游戏、网络服务商等采取分级措施，韩国则严格规定不允许散布淫秽色情信息、网络赌博、对青少年有害的信息等，针对内容和游戏两个方面立法尤为严格。
必要性其二：满足应用平台合规要求
如App Store，Google Play都有相关的合规政策，不允许App中出现令人反感的内容，如诽谤、歧视、暴力、色情和煽动性的宗教内容；对于用户生成的内容，也要求App实施稳健有效的UGC审核机制，实时移除不当内容，否则就将面临严厉的惩罚。
必要性其三：满足平台自身发展所需
如用户运营、内容运营的刚性需求，包括提升用户粘性、用户增长、内容质量、社区良性度、平台健壮度等。
02
海外内容
风险点
因各区域文化不同，海外监管及隐私政策着力有所区别，整体内容监管态势大方向上具有一定的一致性，普适性的风险点有如下几大类：
- 涉政敏感：不同地域和国家对涉政敏感类的尺度要求也会有所区别，出海企业需要满足各地域和国家的监管政策，尤其在领导人、涉政事件、国家旗帜等方面需格外谨慎，同时要重点防控与中国相关的涉政话题；
- 色情低俗：现阶段实践来看，海外对于色情元素相关的管理尺度相对较宽泛，可接受程度更高，但对于明显的偏重度色情元素以及涉及儿童色情方面防控严格，同时也会根据平台属性和内容曝光度等因素灵活调整风控尺度；
- 未成年人：海外对于未成年人问题的关注度较高，很多地域和国家针对未成年人网络安全的监管立法非常全面，未成年人识别及涉未风险识别需要格外重视；
- 涉恐涉暴：涉恐涉暴方面，海外在恐怖主义、暴力、反动、血腥、枪支等方面较为敏感；
- 违规违禁：平台应当对毒品、涉赌、违禁标识等内容进行限制，部分地域国家对包含不同类别宗教元素的内容高度敏感。
03
小盾安全守护
内容元宇宙
基于对海外监管政策的深度解读和对海外平台内容审核痛点的深刻理解，小盾安全针对海外实际监管政策和平台业务情况，进行全面的定制升级，推出了海外专项智能内容风控服务，满足不同垂类出海平台的内容风险防控需求。
基本面风控：小盾安全不仅针对海外优化了各项模型（如涉政、色情、低俗、暴恐、违禁、毒赌、侵权等），还进一步开放超过1000类三级标签，满足各类平台面对不同区域不同内容的审核需求；同时，智能内容风控平台支持按照不同应用、不同场景、不同业务渠道、不同事件、不同审核需求等进行灵活标签、规则和策略调整，并提供灵活的自定义空间，满足不同出海平台极致精细的审核需求。
涉未风控：针对未成年人网络安全保护，海外具备较健全的立法和监管措施，未成年人风险内容的识别和控制平台方要重点关注，针对涉未成年人的风险内容，如儿童色情、恋童、虐待、儿童邪典、涉未犯罪、涉未不良等具备完善的风控措施，同时通过智能模型跟进海外不同年龄段的未成年内容分级要求进行内容识别和内容过滤。
精细化运营：针对不同区域、不同平台、同一平台不同业务等个性化风控需求，小盾安全不仅开放精细化标签，且会结合实际业务需求去精细化的调整，针对海外不同区域具备完善的服务支撑体系，提供专属策略及运营专家持续化运营，稳步提升风控效果，促进平台良性发展。
定制化模型：除了已具备的模型能力外，小盾安全亦可提供定制化模型服务，包含在现有模型上针对业务平台需求进行定制改造和优化，同时也支持根据平台方需求进行独立模型开发。
04
经典合作
案例
- 风控需求
某泛娱乐综合平台，旗下的多款App，是出海企业全球累计安装用户、活跃用户体量最大的平台之一，需要对旗下多个应用生态内容进行审核，且需满足不同业务及不同区域审核要求。
- 风控痛点
业务层：有超过10类应用，同一应用上的多个业务板块和渠道，以及不同应用不同内容板块业务防控需求有所差异。
风险层：重点防控涉政、色情、暴恐、涉未等风险，根据不同业务需求防控尺度需精细化调整。
- 风控方案
数据合规：专属海外服务节点及隐私合规认证、协议
对接流程：轻量级API对接，通用场景和精细化场景对接
模型迭代：定制化模型、天级迭代模型
标签服务：开发超过1000类三级标签
策略运营：通用策略、精细化场景策略定制，联合平台业务需要进行精细化策略调整和运营服务支持
- 风控效果
效果运营：涉政等红线类风险召回率接近100%，未成年人识别率高达96%
成本控制：帮助业务平台降低了95%的审核运营成本