随着互联网的发展和普及，公众获取信息的方式发生了变化。然而，互联网平台上的内容井喷和信息爆炸也增加了内容安全风险，威胁着互联网内容生态的健康发展。与此同时，运营商、开发者、平台等各方也开始对内容体验和内容安全提出了更高的要求。

为了帮助开发者更好地了解和防范内容安全风险，继推出“珊瑚内容安全助手”小程序后，腾讯通过“微信开放社区服务平台”正式推出“珊瑚安全”ApI，向更多小程序开发者开放其信息安全优势，帮助发现图片和文字内容中的恶意内容，提供更细致高效的内容安全服务。

完善内容安全功能，并向小型程序开发人员开放

目前，“珊瑚安全”ApI为开发者提供图片内容安全和文本内容安全两种服务，支持用户在各种场景下上传的图片和文本内容的识别。开发者可以根据需要选择色情、赌博、恐怖等恶意内容识别服务，获取恶意点击类型、风险概率等详细信息，帮助开发者更好地做好内容审核。

图像内容安全

影像内容安全基于腾讯海量数据资源和深度学习技术，为用户提供影像内容智能审核服务，不仅可以帮助运营商和开发者降低内容违规风险，还可以大大节省人工审核成本，保障业务健康发展。

在图片评论的应用场景中，如用户头像、社区照片发布、相册制作、直播封面、信息流、电商、游戏等。这一能力支持对色情、赌博、暴力、恐怖等恶意内容的识别，开发者可以根据自己的需求选择相应的识别服务，获取恶意类型、风险概率等详细信息。

文本内容安全

文本内容安全界面可以识别文本信息中的色情、暴力等恶意内容，帮助运营商及时准确防范违规风险。

该功能基于10万级大规模敏感词库，结合多种文本对抗方法，利用深度学习技术高效识别高风险、有害内容。同时根据大规模语料库和实时反误杀系统，会不断更新迭代，保证效果的不断提升。

在文本评论的应用场景中，如用户昵称、社区评论、弹幕、文章内容等。这种能力可以对文本中的恶意词进行分类和识别。

帮助开发者维护健康的平台生态

目前，微信小程序日活跃账户数已超过3亿，与微信共同打造的小程序和游戏开发者已超过150万。微信生态圈的繁荣发展，需要运营商、开发者、平台的共同努力。

随着小程序用户数量的不断增加，开发者在用户内容审核上的投入也越来越重。

针对开发者在内容安全审核方面的痛点，腾讯于2019年6月在微信上推出首个移动安全识别工具“珊瑚内容安全助手”小程序，允许运营商和开发者随时随地查看小程序中文字和图片的合规性，体验内容识别的效果，并对其产品进行风险自测。

“Coral内容安全助手”小程序允许运营商和开发者体验和了解内容安全风险，而“Coral Security”ApI则允许运营商和开发者访问内容安全服务。

“珊瑚安全”ApI基于腾讯云AI、“云鸮”等内部优势进行打包，通过微信开放社区输出给开发者。

腾讯安全专家表示，未来“珊瑚内容安全助手”将在今天图片文字识别能力的基础上，继续强化识别能力，丰富识别类型，增加视频内容的识别能力。此外，“珊瑚内容安全助手”小程序将增加用户反馈入口，开发者可以通过入口随时提交反馈。

目前，“珊瑚安全”ApI已经对接了We

“小年糕”小程序团队表示，在有害内容管控方面，微信为开发者提供了一系列工具，帮助开发者自动筛选有害信息，防止有害信息过度扩散，不仅节省了开发者的时间，也有效促进了行业的内容安全。

“珊瑚安全”ApI不仅将提高开发者的内容审查能力，还将大大节省开发者在内容安全方面投入的精力和成本。后续还将重点提升微信生态安全需求应用能力，打造健康繁荣的平台生态。