待审核消息
0
已审核消息
审核配置
消息内容包含以下关键词时进入审核流程
用于识别审核群的关键词
超过此时间未处理的消息将被忽略
推送到审核群的消息前缀
推送到审核群的消息后缀
推送到审核群的消息模板,点击变量可复制
AI Moderation
智能审核
本地规则 → AI 三态判定 → 置信度策略路由 → 人工复核。仅高置信「正常」自动放行,违规与存疑内容一律转人工,全过程留痕可查。
未启用
今日自动通过
–
待人工复核
–
今日人工处理
–
今日自动拦截
–
运行开关
关闭 AI 预审后,消息不再进入审核管道
启用 AI 预审
所有消息先经 AI 三态判定(通过 / 待复核 / 违规),再按置信度自动路由
关键词 AI 二次确认
命中关键词时由 AI 判断上下文是否真的违规(独立于上方开关)
审核 Agent(多轮查证)
判定前允许模型先查历史判定与板块配置,再给结论(只读工具,不能自己发布或拦截)。
需先开启「AI 智能预审」或「关键词 AI 二次确认」;默认最多 3 轮、45 秒预算,超时或失败一律转人工。
费用高于单次判定,建议先用单次判定跑一段时间、积累人工判定记录后再开。
需先开启「AI 智能预审」或「关键词 AI 二次确认」;默认最多 3 轮、45 秒预算,超时或失败一律转人工。
费用高于单次判定,建议先用单次判定跑一段时间、积累人工判定记录后再开。
审核管道
分层过滤 · 置信度分级路由
01
本地规则
审核关键词交由 AI 判定,强制拒绝关键词转人工审核
02
AI 初筛
文本与图片并行审核,输出三态结论与置信度
03
策略引擎
仅高置信「正常」自动放行,其余转人工
04
人工复核
存疑消息推送审核群,由人工最终决定
模型配置
文字与视觉模型相互独立,任一故障不影响另一个
文字审核服务
文本
视觉审核服务
启用
关闭时图片审核将自动跳过。视觉模型使用与文字模型相同的 OpenAI Chat 格式。
推荐:视觉模型填与文字模型相同的多模态模型(同名、同地址)——此时有图帖会自动合并成一次联合审核,模型同时看文案和图片再判定,比"文字审文案、视觉审图片"分开审更准,也少一次调用。
推荐:视觉模型填与文字模型相同的多模态模型(同名、同地址)——此时有图帖会自动合并成一次联合审核,模型同时看文案和图片再判定,比"文字审文案、视觉审图片"分开审更准,也少一次调用。
云OCR服务(百度智能云)
启用
视觉模型可用时不会调用 OCR(多模态模型自己就会读图里的文字,重复识别等于白花一份钱)。
OCR 只在两种情况作为图片审核引擎:① 视觉模型关闭或没配好;② 图片审核模式选了「仅OCR」。
命中微信号/加好友等引流特征时强制转人工复审(不自动推送)。
OCR 只在两种情况作为图片审核引擎:① 视觉模型关闭或没配好;② 图片审核模式选了「仅OCR」。
命中微信号/加好友等引流特征时强制转人工复审(不自动推送)。
需先在各板块的审核策略里开启图片审核开关才会生效。
· 视觉优先:有视觉模型就由它读图判断,不会再调用 OCR;只有视觉模型不可用时才回退到 OCR,避免重复识别浪费。
· 仅 OCR:不使用视觉模型,只审核图片里的文字;识别不到文字的图片(绝大多数照片)会全部转人工复核,容易堆积待审队列。
· 仅视觉模型:不使用 OCR,图片判断完全交给视觉模型。
· 视觉优先:有视觉模型就由它读图判断,不会再调用 OCR;只有视觉模型不可用时才回退到 OCR,避免重复识别浪费。
· 仅 OCR:不使用视觉模型,只审核图片里的文字;识别不到文字的图片(绝大多数照片)会全部转人工复核,容易堆积待审队列。
· 仅视觉模型:不使用 OCR,图片判断完全交给视觉模型。
置信度阈值
决定 AI 结论在何种置信度下自动生效
自动通过阈值
AI 判定「通过」且置信度达到阈值时直接推送,低于则转人工复核
80%
只有高置信「正常」自动放行;违规结论、灰色地带与强制拒绝关键词命中,一律进入人工复核。
强制拒绝关键词
命中即转人工审核,不经过 AI 判断
分板块审核规则
不同板块可使用各自的审核标准
小小墙审核规则
已填入当前默认规则,可直接修改后保存
小小集市审核规则
已填入当前默认规则,可直接修改后保存
告警通知配置
启用告警通知
开启后,当系统出现异常时将通过配置的渠道发送通知
企业微信通知
在企业微信群聊中创建群机器人,复制 Webhook 地址
飞书通知
在飞书群聊中创建自定义机器人,复制 Webhook 地址
邮箱通知
QQ邮箱可发送短信获取授权码,其他邮箱请前往设置获取
多个收件人用英文逗号分隔
小小墙推送规则
合并多条消息为一条发送
发送间隔等待时间
启用消息合并
{推送类型}
{帖子ID}
{作者昵称}
{帖子内容}
{图片链接}
{封面图}
{帖子链接}
小小集市推送规则
合并多条消息为一条发送
发送间隔等待时间
启用消息合并
闲置出售 →
求购 →
技能服务 →
{商品类型}
{商品ID}
{作者昵称}
{商品描述}
{价格}
{原价}
{区域}
{图片链接}
{封面图}
{商品链接}
发送管理
小小墙
状态
正常
缓冲区
0 条
暂停结束
-
小小集市
状态
正常
缓冲区
0 条
暂停结束
-
群聊列表
已选择 0 个群聊
点击搜索或刷新加载群聊列表
发送消息
账户信息
修改密码
平台概览
租户列表