首页 新闻 会员 周边

业务中的内容审核机制如何设计比较合理?

0
[已解决问题] 解决于 2023-07-28 09:04

内容包含文字,图片,视频.在第一次创建的时候状态为待审核,业务中创建审核事件,等机器审核,或人工审核.(因为是新创建,本次审核对整条内容进行审核).

下面是通过后,再修改,需再次审核的一些问题.

通过后,后续用户修改了内容,比如只修改了其中一个标题,或一段文字,或包含的一张图片,或一个视频.此时审核的场景就多了.

已通过的内容状态再次回到待审核,前台无法浏览,互联网又必须做到审核,这个只能给内容审核让路.

网上看到博文中提到,这个可以做个历史版本,审核时显示旧数据,审核成功后显示新数据,鉴于这种实现方式想想都比较繁琐,暂没有细研这种方式.看看还没有其它偷懒的方式.

机器审核自动化,无需多余考虑. 流到人工审核,在审核界面中对修改的内容进行标记,方便人工快速定位修改部分,一眼就找到审核部分. 这种方式需对修改项进行标记.

大伙的内容审核机制是怎么设计的? 有什么建议吗?

随吧的主页 随吧 | 菜鸟二级 | 园豆:210
提问于:2023-07-06 09:34
< >
分享
最佳答案
0

设计一个合理的内容审核机制需要综合考虑多个方面,包括审核流程、版本管理、审核人员的参与等。以下是一些常见的设计考虑和建议:

审核流程设计:

确定审核的先后顺序:是先经过机器审核还是直接进入人工审核流程,或者两者结合进行审核。
确定审核人员的角色和权限:区分不同级别的审核人员,根据不同的审核要求分配任务。
设置审核时限:对于不同类型的内容,可以根据重要性和敏感性设置不同的审核时限。
版本管理:

为每个内容创建一个唯一的标识符或版本号,方便后续对修改进行追踪和管理。
当内容被修改后,将修改后的版本与原始版本进行对比,并记录修改的内容,以便审核人员查看和审核。
如果涉及到频繁的修改,可以考虑使用版本控制系统(例如Git)来管理内容的修改历史。
审核界面设计:

在审核界面中清晰地标记出哪些部分是被修改的,可以使用颜色、标记、高亮等方式来区分。
提供审核人员对修改部分的评论或备注功能,以便他们可以交流并记录审核意见。
自动化审核:

利用机器学习和自然语言处理等技术,尽可能自动化审核过程,减轻人工审核的工作负担。
建立一个机器审核模型,对内容进行初步筛查,可以帮助快速过滤出明显违规的内容,提高审核效率。
审核结果反馈:

及时将审核结果反馈给内容的创建者或修改者,以便他们了解审核状态并做出相应的处理。
如果审核未通过,提供明确的原因和改进建议,帮助内容的创建者或修改者改正问题。
请注意,每个业务的审核需求可能有所不同,因此您需要根据您的具体业务场景和需求来定制合适的内容审核机制。此外,了解相关法规和规定对于内容审核也非常重要,以确保内容符合法律和道德要求。如果您的业务需要高度的内容审核,建议咨询专业的法律和合规团队以获取更具体的建议和指导。

奖励园豆:5
Technologyforgood | 大侠五级 |园豆:6772 | 2023-07-06 22:18

谢谢建议

随吧 | 园豆:210 (菜鸟二级) | 2023-07-08 00:44
其他回答(1)
0

修改,也当成一个新审核,并关联老的ID
当修改的审核通过后,把关联的ID删除,显示新的

Giant150 | 园豆:1165 (小虾三级) | 2023-07-07 16:07

谢谢建议

支持(0) 反对(0) 随吧 | 园豆:210 (菜鸟二级) | 2023-07-08 00:44
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册