微软最近发布了一个名为Azure AI Content Safety的新人工智能内容审查工具。

该公司声称，该工具将创造一个健康和谐的社区环境。

该公司还表示，将减少图片或文字中与偏见、仇恨、暴力等相关的负面内容。

人工智能内容审核工具Azure AI 内容正式发布，其实是在今年 5 月上线的。

但是，此工具已经测试了好几个月。

经过严格的测试，该公司昨日正式发布了该工具。

无论负面内容是文本还是图像，Azure AI 内容安全都会提供一系列经过训练的人工智能模型来检测它们。

该工具还可以理解和检测八种语言的图片或文本。

该工具将为标记的内容分配严重性分数，向人工审阅者指示哪些内容需要操作。

内容审核工具最初已集成到 Azure OpenAI 服务中。

但是，微软现在正式将其作为独立系统推出。

微软在一篇官方博客文章中写道。

这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用一些用户生成的内容，进一步扩展效用。

微软表示，与其他类似产品相比，该产品在公正性和理解方面得到了显着改善。

但是，该产品仍然依赖于人工审阅者来标记数据和内容。这意味着最终，它的公平性取决于人类。

在处理数据和内容时，人工审阅者可能会带来自己的偏见。

这意味着他们仍然不能完全中立和谨慎。

在本文中，我们将探讨 Azure AI 内容安全的功能，以及它如何帮助企业维护安全的在线空间。