tongchenkeji 发表于:2023-8-24 14:22:550次点击 已关注取消关注 关注 私信 对于敏感词审核,大家有什么更好的办法?[阿里云开放搜索 OpenSearch] 暂停朗读为您朗读 敏感词很多平台都是一棍子打死,出现这个词就违规,没出现就不违规。但是很多隐藏的敏感词单独看没有一个是敏感的,但是组合一看就是政治话题。针对这种怎么处理? 「点点赞赏,手留余香」 赞赏 还没有人赞赏,快来当第一个赞赏的人吧! 海报 开放搜索 OpenSearch# 对于敏感词审核,大家有什么更好的办法?2
三掌柜666AM 2023-11-27 9:06:49 1 楼主你好,针对这种情况,可以采用两种方式来处理: 采用人工审核,将隐藏的敏感词进行解析和分析,确定是否构成政治话题。如果构成政治话题,再根据相关政策规定进行审核。 采用智能审核技术,引入自然语言处理和机器学习算法,并不断优化算法,提升审核准确度。通过模拟用户操作,对文本内容进行多维度分析,识别文本中可能存在的政治话题,提升审核效率和准确度。 对于阿里云的敏感词审核,可以采用人工审核和智能审核相结合的方式来处理隐藏的敏感词,以保证审核准确度和效率。
玥轩AM 2023-11-27 9:06:49 2 敏感词审核是一个很重要的问题,有很多方法可以解决这个问题。一种方法是使用自然语言处理技术,例如百度AI开放平台的敏感词检测。另一种方法是使用深度学习技术,例如使用LSTM模型进行敏感词检测。此外,还有一些公司采用人工审查策略,结合AI智能审核+人工重点审核+质检抽查等手段,全方位立体管控。
楼主你好,针对这种情况,可以采用两种方式来处理:
采用人工审核,将隐藏的敏感词进行解析和分析,确定是否构成政治话题。如果构成政治话题,再根据相关政策规定进行审核。
采用智能审核技术,引入自然语言处理和机器学习算法,并不断优化算法,提升审核准确度。通过模拟用户操作,对文本内容进行多维度分析,识别文本中可能存在的政治话题,提升审核效率和准确度。
对于阿里云的敏感词审核,可以采用人工审核和智能审核相结合的方式来处理隐藏的敏感词,以保证审核准确度和效率。
敏感词审核是一个很重要的问题,有很多方法可以解决这个问题。一种方法是使用自然语言处理技术,例如百度AI开放平台的敏感词检测。另一种方法是使用深度学习技术,例如使用LSTM模型进行敏感词检测。此外,还有一些公司采用人工审查策略,结合AI智能审核+人工重点审核+质检抽查等手段,全方位立体管控。
麻烦官方删一下,非阿里云相关的技术性问题不予回答