(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210522087.3 (22)申请日 2022.05.13 (71)申请人 上海辉禹科技有限公司 地址 200000 上海市浦东 新区张江路5 05号 展想中心70 6室 (72)发明人 吴子龙　陈琳辉　华振星　 (74)专利代理 机构 北京中索 知识产权代理有限 公司 11640 专利代理师 隋晓勇 (51)Int.Cl. H04L 9/06(2006.01) H04L 9/32(2006.01) H04L 9/40(2022.01) H04W 12/128(2021.01) (54)发明名称 一种用户聊天风险等级自动处置方法及系 统 (57)摘要 本发明提供一种用户聊天风险等级自动处 置方法及系统， 所述方法包括： 基于大数据平台 的训练模型对用户的聊天行为进行处理分析， 得 出相应的检测结果； 对大数据平台的数据进行画 像研究分析， 提炼出识别信息， 作为反作弊识别 描述的衡量标准和参考依据； 对用户可能存在风 险进行分析并数值化得出风险值， 区分对平台有 隐患的账号。 本发明结合自动化反欺诈流程， 对 于举报数据的风险等级提出一套完整的风险等 级处置以及被处置用户申诉的自动化流程， 大大 加快了处理的速度， 提高了处理效率， 降低和避 免了反欺诈带来的损失。 权利要求书3页 说明书9页 附图5页 CN 114978474 A 2022.08.30 CN 114978474 A 1.一种用户聊天风险等级自动处置方法， 其特 征在于， 包括以下步骤： S1、 基于大数据平台的训练模型,对用户的聊天行为进行处理分析， 得出相应的检测结 果； 所述训练模型的训练方法， 包括基于用户在不同行为发生场景、 行为内容、 行为用户基 础信息、 行为 发生设备信息维度下的信息构建若干训练集样本、 使用装置、 配置模型和训练 参数， 将每 个训练集样本， 通过计算后得 出检测结果； 所述检测结果包括3个级别： 放行、 观察、 拦截； S2、 对大数据平台的数据进行画像研究分析， 提炼出识别信 息， 作为反作弊识别描述的 衡量标准和参 考依据； 所述画像 研究分析的方法包括： 根据需要的设备型号、 设备IP地址、 设备MAC地址、 设备软件版本信息、 设备唯一标识 码、 传感器数据、 安装列表、 用户编号、 用户手机的md5加密方式、 用户IP、 用户性别、 用户等 级， 对数据进 行用户画像的构建， 所述用户画像的构建的方法包括： 对用户各个维度进行分 析， 以及计算标签权 重； 设定标签权 重阈值位， 构建和分析的标签包括： 数据异常、 行为异常、 校验异常； 根据样本用户的设备型号维度的数据异常值、 行为异常值和校验异常值， 以及设备IP 地址维度的数据异常值、 行为异常值和校验异常值， 分析样本用户的设备IP地址维度的标 签是正常或异常； S3、 对用户可能存在风险进行分析并数值化得出风险值， 区分对平台有隐患的账号； 所 述有隐患的账号包括： 拉人、 黑灰产、 引流。 2.根据权利要求1所述的用户聊天风险等级自动处置方法， 其特征在于， 所述S1步骤的 所述训练模型的训练方法包括以下步骤： 以UB1代表行为发生场景， UB2代表行为内容， UB3代表行为用户基础信息， UB4代表行为 发生设备信息； 给UB1一个初始值， 然后通过训练， 逐步迭代对UB1进行调整， 最终得到合 适的值； 给UB1和UB2一个初始值， 然后通过训练， 逐步迭代对UB1和UB2进行调整， 最终得到合适 的值； UB1、 UB2、 UB3和UB4交叉进行计算； 给UB1、 UB2、 UB3和UB4一个初始值， 然后通过训练， 逐步迭代对UB1、 UB2、 UB3和UB4进行 调整， 最终得到合 适的值； 通过不断的训练， 让模型的参数越来越准确。 3.根据权利要求1所述的用户聊天风险等级自动处置方法， 其特征在于， 所述S2步骤的 所述衡量标准和参 考依据包括： 正常： 表示用户的操作行为无异常； 数据异常： 表示有数据完整性校验不 通过或数据伪造等； 行为异常： 表示有用户的操作行为(鼠标点击 /移动等)无法通过 行为验证模型； 设备模型： 表示有设备指纹等信息无法通过设备验证模型； 业务模型： 表示有撞库、 批量操作、 违反业 务规则； 校验异常： 表示有数据强校验结果异常或数据伪造；权　利　要　求　书 1/3 页 2 CN 114978474 A 2模拟器： 表示有安卓 端使用手机模拟器的行为； 越狱或RO OT： 表示有iOS系统已越狱或Andro id系统已ro ot； 浏览器异常： 表示有浏览器分辨 率等参数异常或遭篡改； IP异常： 表示有终端IP画像结果 为风险IP或高危 IP； 黑名单： 易盾自有及客户自定义 黑名单数据； 白名单： 易盾自有及客户自定义白名单 数据； 高危账号： 表示有团伙账号或异常共享账号 等风险账号类型； 多开小号： 表示有批量多开； 篡改硬件信息： 表示篡改硬件设备参数信息； 篡改系统信息： 表示篡改系统参数信息； 高危设备： 表示高危设备画像风险评分， 黑产特 征设备等类型； 群控或云控： 表示群控工作室 设备或云机； 安装修改工具： 表示有安装Ho ok修改、 Xposed修改， Ma gisk修改； 虚拟环境： 表示非真实设备访问环境； 脚本工具： 表示 黑灰产用于作弊行为的脚本 工具。 4.根据权利要求1所述的用户聊天风险等级自动处置方法， 其特征在于， 所述S1步骤的 所述基于大 数据平台的训练模型对用户的聊天行为进行处 理分析的方法包括以下步骤： S11、 举报涉嫌欺诈的聊天行为， 将举报方、 被举报方、 举报类型、 举报场景、 举报时间、 举报内容和对应的数据导入举报信息数据库中； S12、 通过大数据平台将用户编号、 用户客户端反作 弊编码、 用户手机： m d5加密方式、 用 户IP、 活动标识、 用户注册类型、 用户性别、 用户等级、 好友数量、 奖励， 导入到数字内容风控 引擎中。 5.根据权利要求1所述的用户聊天风险等级自动处置方法， 其特征在于， 所述S3步骤之 后若被举报的用户主动提出申诉， 还 包括以下步骤： 使用所述检测结果、 所述反作弊识别描述和所述风险值作为考评标准对被举报的用户 进行判定； 如被举报的用户的聊天行为在反作弊识别描述中是放行， 则操作撤销， 快速还原所述 用户的账号状态； 如被举报的用户的聊天行为检测结果是拦截， 和/或反作弊识别描述是黑名单， 和/或 风险值是0.9， 则点击退款， 给举报方的用户， 进行一定的虚拟货币补偿。 6.根据权利要求5所述的用户聊天风险等级自动处置方法， 其特征在于， 所述对被举报 的用户进行判定的方法包括： S31、 判定举报数据的双方用户的基础数据信息是否符合认定规则； 所述基础数据信息包括： 金额数据、 用户性别、 用户等级； S32、 判定追 诉期， 判定举报数据的双方用户的深入信息是否符合认定规则； 所述深入信息包括： 聊天 发生至举报的时长； S33、 通过补充策略判定举报数据是否符合认定规则。 7.一种用户聊天风险等级自动处置系统， 其特征在于， 执行如权利要求1 ‑6任一项所述 的用户聊天风险等级自动处置方法， 包括：权　利　要　求　书 2/3 页 3 CN 114978474 A 3