CSDN个性化推荐系统-负反馈测试

已于 2023-06-29 21:03:46 修改
阅读量3.2k 收藏 30
点赞数 30
文章标签： python
于 2023-06-26 11:11:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38093452/article/details/131374201
版权

文章目录

前言

CSDN个性化推荐系统-负反馈测试

大家好，我是空空star，本篇给大家分享一下《CSDN个性化推荐系统-负反馈测试》。

一、uc不感兴趣标签过滤测试

用户：weixin_38093452

1.uc不感兴趣标签获取(uc_unlike_tag_list)

1.1个人中心界面

1.2从标签中可以发现什么？

  • 标签有一级标签、二级标签
  • 标签并不都是全小写，也有一些字母大写
  • 同一个标签在感兴趣和不感兴趣里都出现

1.3与研发确认点

  • 一级标签和二级标签在过滤侧会拆开用到还是只用了二级标签？
  • 获取到的uc标签与推荐流文章标签匹配时有无统一转小写或大写后才去匹配？
  • 当同一个标签在感兴趣和不感兴趣里都出现时，屏蔽的优先级是不是高于增强的优先级？
  • uc标签维护好后，在推荐流的生效时间？

1.4设计开发

def get_uc_tag_list(username, interest_type):
    uc_tag_list = []
    # 获取uc不感兴趣标签
    url = f'http://xxx.csdn.net/user_csdn_tag/get_tag_list?username={username}&type={interest_type}'
    response = requests.get(url)
    res = response.json()
    for i in res['data']:
        name = i['name']
        for tag in i['tags']:
            if tag['select']:
                # 添加小写后的一级标签
                uc_tag_list.append(name.lower())
                # 添加小写后的二级标签
                uc_tag_list.append(tag['name'].lower())
    return uc_tag_list

1.5接口获取结果

unlike_uc_tag_list = get_uc_tag_list('weixin_38093452', 1)
print(unlike_uc_tag_list)

[‘python’, ‘pillow’, ‘java’, ‘java’, ‘编程语言’, ‘php’, ‘大数据’, ‘odps’, ‘大数据’, ‘大数据’, ‘人工智能’, ‘人工智能’, ‘aigc’, ‘chatgpt’]

2.推荐流文章标签获取(tag_list)

用户：weixin_38093452
请求推荐接口50次

2.1部分代码

    items = result['data']['items']
    for data in items:
        # 过滤掉nps
        if 'username' in data:
            tags = data["tags"]
            temp_tag = []
            for tag in tags:
                # 用来判断一个item中返回的标签是否重复(ml和title合并，只保留ml)
                temp_tag.append(tag['name'])
                # 多次请求后，用来跟uc的不感兴趣标签/负反馈标签做对比
                tag_list.append(tag['name'])
                # 多次请求后，用来判断ml标签和title标签是否有返回
                tag_type_list.append(tag['type'])
                if tag['name'] == '':
                    print(f"存在空标签,博客:{data['product_id']},标签类型:{tag['type']},标签名称:{tag['name']}")
            if len(temp_tag) != len(set(temp_tag)):
                print(f"同一篇博客{data['product_id']}存在重复标签:{temp_tag}")

if len(set(tag_type_list)) == 2:
    print(f'返回文章标签类型:{set(tag_type_list)}')

2.2基本标签校验

  • ml标签和title标签是否都有返回；
  • 是否有空标签结构返回；
  • 同一篇博客是否返回重复标签；

2.3基本标签校验结果

返回文章标签类型:{‘ml’, ‘title’}

3.推荐流uc不感兴趣标签过滤验证

3.1校验方法

  1. 获取用户的uc不感兴趣标签列表(uc_unlike_tag_list)；
  2. 获取用户50次请求推荐流返回文章的标签列表(tag_list)；
  3. 求uc_unlike_tag_list和tag_list的交集。

3.2部分代码

    print(f'【推荐返回的标签】：{set(tag_list)}')
    unlike_uc_tag_list = get_uc_tag_list(username, '1')
    print(f'【uc-不感兴趣标签】：{set(unlike_uc_tag_list)}')
    intersection_tag = list(set(tag_list).intersection(set(unlike_uc_tag_list)))
    print(f'【uc-不感兴趣标签过滤】验证结果，标签交集：{intersection_tag}')

3.3校验结果

3.4结果分析

标签交集为空，说明没有badcase；
将【推荐返回的标签】中的高频标签维护到uc不感兴趣标签中，再次执行我们的脚本观察校验结果，结合服务端uc不感兴趣过滤日志，多次执行标签交集仍为空，说明uc不感兴趣标签在推荐流过滤生效。

4.用户场景回归

确保推荐接口有返回数据和返回数据正常。

  • 登录用户(未维护uc不感兴趣标签)
  • 未登录用户

二、用户推荐流负反馈过滤测试

1.内容负反馈

1.1提交API校验

负反馈项(directive)：

  • duplicate:内容重复推荐
  • content poor quality:内容质量较低
  • advertising:内容夸张、涉及广告等

资源类型(type)：

  • blog
  • ask
  • blink
  • live
  • …

1.2获取API校验

  • last_unlike_time:负反馈操作时间戳记录是否正确；
  • num:负反馈提交次数记录是否正确；
  • directive:负反馈项记录是否正确；
  • 是否以type和item_id两个字段作为唯一键。

1.3过滤验证

1.3.1获取内容负反馈资源列表(negative_item_list)
def get_negative_item_list(username):
    negative_item_list = []
    url = f'http://xxx.csdn.net/api/v2/recommend/insight/negative/items/by/{username}'
    response = requests.get(url)
    res = response.json()
    pprint.pprint(res)
    for i in res['result']['duplicate']:
        if 'object_id' in i.keys():
            negative_item_list.append(i['type']+':'+i['object_id'])
    for j in res['result']['content poor quality']:
        if 'object_id' in j.keys():
            negative_item_list.append(j['type']+':'+j['object_id'])
    for k in res['result']['advertising']:
        if 'object_id' in k.keys():
            negative_item_list.append(k['type']+':'+k['object_id'])
    return negative_item_list
1.3.2获取推荐流资源列表(item_list)
item_list.append(data['product_type']+':'+data['product_id'])
1.3.3求item_list和negative_item_list交集
    print(f'【推荐返回的item】：{set(item_list)}')
    negative_item_list = get_negative_item_list(username)
    print(f'【内容负反馈】：{set(negative_item_list)}')
    negative_intersection_item = list(set(item_list).intersection(set(negative_item_list)))
    print(f'【内容负反馈过滤】验证结果，item交集：{negative_intersection_item}')
1.3.4交集结果
1.3.5结果分析

交集为空，说明没有badcase；
将推荐结果返回的部分资源列表通过提交API写入内容负反馈，再求交集，多次执行交集为空，说明内容负反馈在推荐流过滤生效。

2.标签负反馈

2.1提交API校验

directive：

  • reduce:减少
  • block:屏蔽

2.2获取API校验

  • tag:标签是否统一转小写；
  • last_unlike_time:负反馈操作时间戳记录是否正确；
  • num:负反馈提交次数记录是否正确。

2.3过滤验证

2.3.1获取标签负反馈标签列表(negative_tag_list)
def get_negative_tag_list(username):
    negative_tag_list = []
    url = f'http://xxx.csdn.net/api/v2/recommend/insight/negative/tags/by/{username}'
    response = requests.get(url)
    res = response.json()
    for i in res['result']:
        negative_tag_list.append(i['tag'].lower())
    return negative_tag_list
2.3.2获取推荐流标签列表(tag_list)
tag_list.append(tag['name'])
2.3.3求tag_list和negative_tag_list交集
    negative_tag_list = get_negative_tag_list(username)
    print(f'【减少xx相似内容推荐】：{set(negative_tag_list)}')
    negative_intersection_tag = list(set(tag_list).intersection(set(negative_tag_list)))
    print(f'【减少xx相似内容推荐过滤】验证结果，标签交集：{negative_intersection_tag}')
2.3.4交集结果
2.3.5结果分析

交集为空，说明没有badcase；
将推荐结果返回的标签列表通过提交API写入标签负反馈，再求交集，多次执行交集为空，说明标签负反馈在推荐流过滤生效。

3.作者负反馈

3.1提交API校验

  • unlike_user_id大小写场景

3.2获取API校验

  • 作者是否转小写处理；
  • last_unlike_time:负反馈操作时间戳记录是否正确；
  • num:负反馈提交次数记录是否正确。

3.3过滤验证

3.3.1获取作者负反馈作者列表(negative_user_list)
def get_negative_user_list(username):
    negative_user_list = []
    url = f'http://xxx.csdn.net/api/v2/recommend/insight/negative/users/by/{username}'
    response = requests.get(url)
    res = response.json()
    for i in res['result']:
        negative_user_list.append(i.lower())
    return negative_user_list
3.3.2获取推荐流作者列表(user_list)
user_list.append(data['username'])
3.3.3求user_list和negative_user_list交集
    print(f'【推荐返回的作者】：{set(user_list)}')
    negative_user_list = get_negative_user_list(username)
    print(f'【不看此作者】：{set(negative_user_list)}')
    negative_intersection_user = list(set(user_list).intersection(set(negative_user_list)))
    print(f'【不看此作者过滤】验证结果，作者交集：{negative_intersection_user}')
3.3.4交集结果
3.3.5结果分析

交集为空，说明没有badcase；
将推荐结果返回的作者列表通过提交API写入作者负反馈，再求交集，多次执行交集为空，说明作者负反馈在推荐流过滤生效。

三、未登录用户负反馈过滤测试

1.提交API校验

pc传uuid，app传device_id

2.获取API校验

  • imei字段值不做大小写处理；
  • 根据imei字段值可以正确获取到负反馈的数据。

3.过滤验证

类似登录用户的校验流程，只是请求推荐接口的入参有调整。

四、整体回归

  • 召回策略验证；
  • 召回资源类型验证；
  • 未登录用户/登录用户(是否维护uc兴趣标签/是否维护身份标签)场景验证；
  • 单次请求结果中资源类型分布情况验证；
  • 单次请求结果中出现重复作者占比验证；
  • 单次请求结果中出现重复资源验证；
  • 单次请求结果中连续出现同作者资源验证；
  • 其他渠道数据验证(关注流、同城流、blink热门流、推荐用户列表等)
  • 多端验证(app/wap/pc/小程序等)

五、新老负反馈写入hbase对比

旧负反馈新负反馈
流程用户提交负反馈->上报到sls->flink消费sls->udf处理写入hbase用户提交负反馈->通过API直接写入hbase
响应flink任务时常延迟/迁移华为云等因素，需要重构实时
文案文案不统一，如wap端【内容重复推荐】叫【旧闻，重复】，【内容质量较低】叫【内容质量差】，【不看此作者】叫【不喜欢该作者】各端文案已统一
数据非blog资源的负反馈数据未正常解析，导致没有正确写入hbase已兼容不同资源类型

引用
[1] 《如何支持研发对CSDN个性化推荐系统重构》
[2] 《CSDN 个性化推荐系统的设计和演进》
[3] 《CSDN 个性化推荐的数据治理》

空空star
关注
如何支持研发对CSDN个性化推荐系统重构
正交分解
06-25 1401
一个以内容服务为主的软件，它的推荐系统在数据侧对软件产生着举足轻重的作用。数据的三个方面决定了这个内容软件的档次。通常，我们说的推荐，包含了两类不同的推荐本文介绍的是我们在CSDN的软件主视图的各种推荐等信息流部分的持续改进工作。这部分在各种不同的技术浪潮下，容易发生这些问题。
CSDN 个性化推荐的数据治理
u010280923的博客
06-25 2397
经过不断地迭代，推荐流数据在质量、正确性、实效性等方面得到了一定提升，但数据治理从来都不是一劳永逸的工作，随着时间的推移需要不断迭代与优化。此外，后续会进一步优化用户画像的效果，做到推荐用户真正感兴趣的高质量数据。
CSDN-AI小组2023-半年-研发总结
正交分解
06-28 4131
通过这些分析，我们改进了博客质量分的计算，近期推出了博客质量分V5，V5版本在解决博客质量可计算方面的能力基础上，进一步增加了可解释性，让博主们能在机器自动辅助建议的基础上持续获得写作质量的提升，这也是平台生态长期良性发展的基石。实际做的工作远不止这些，有重大技术突破的时代，是一个最好的时代，希望大家都能走的更远，创造更多好的技术和产品。机器做的更多，人的精力会背更多解放出来。解决问题需要「多人」讨论，包括human1, human2, 中间可以夹杂ai1, ai2，AI的加持，人与人的讨论更能聊的下去。
读书笔记《推荐系统实践》- 个性化推荐系统总结
零度的博客专栏
07-31 3751
转载：https://www.jianshu.com/p/319e4933c5ba 对于推荐系统，本文总结内容，如下图所示： 推荐系统.png 文章很长，你可以跳着看你感兴趣的部分。 一、什么是推荐系统 1. 为什么需要推荐系统 结论是，为了解决互联网时代下的信息超载问题。 看个数据： 据IDC《数字宇宙》的研究报告表明，2020 年全球新建和复制的信息量将超过40ZB，是2...
【4-11】读书笔记 |《推荐系统实践》- 个性化推荐系统总结
weixin_42834204的博客
04-11 4208
推荐系统实践 对于推荐系统，本文总结内容，如下图所示： 推荐系统.png 文章很长，你可以跳着看你感兴趣的部分。 一、什么是推荐系统 1. 为什么需要推荐系统 结论是，为了解决互联网时代下的信息超载问题。 看个数据： 据IDC《数字宇宙》的研究报告表明，2020 年全球新建和复制的信息量将超过40ZB，是2012年的12倍；中国的数据量在2020年超过8ZB，...
个性化推荐算法总结
热门推荐
Yasin的博客
04-11 6万+
读书笔记 |《推荐系统实践》- 个性化推荐系统总结 对于推荐系统，本文总结内容，如下图所示： 一、什么是推荐系统 1. 为什么需要推荐系统 为了解决互联网时代下的信息超载问题。 2. 搜索引擎与推荐系统 分类目录，是将著名网站分门别类，从而方便用户根据类别查找公司。 搜索引擎，用户通过输入关键字，查找自己需要的信息。 推荐系统，和搜索引擎一样，是一种帮助用户快速发展有用信...
读书笔记 |《推荐系统实践》- 个性化推荐系统总结
weixin_30426879的博客
07-30 1715
推荐系统实践 对于推荐系统，本文总结内容，如下图所示： 推荐系统.png 文章很长，你可以跳着看你感兴趣的部分。 一、什么是推荐系统 1. 为什么需要推荐系统 结论是，为了解决互联网时代下的信息超载问题。 看个数据： 据IDC《数字宇宙》的研究报告表明，2020 年全球新建和复制的信息量将超过40ZB，是20...
一文入门推荐系统——推荐系统实践读书笔记
白水的博客
12-20 2万+
1. 推荐系统 1.1. 什么是推荐系统 1.2. 推荐系统评测 1.2.1. 实验方法 1.2.2. 评判指标 1.2.3. 评判维度 2. 数据来源 2.1. 用户行为数据 2.2. 用户标签数据 2.3. 上下文信息 2.3.1. 时间上下文信息 2.3.2. 地点上下文信息 2.4. 社交网络数据 3. 通用推荐模型 3.1. 协同过滤推荐 3.1.1. 基于邻域的模型 3.1.2. 隐语义模型 3.1.3. 基于图的模型 3.2. 基于内容的推荐 3.3. 基于关联规则的推荐 3.4. 基于知识的
推荐系统-Ctr点击率预估理论基础及项目实战
CoderBoom的博客
03-25 8628
Ctr点击率预估理论基础及项目实战 1.机器学习推荐算法模型回顾 召回(粗排) 利用业务规则结合机器学习推荐算法得到初始推荐结果，得到部分商品召回集 ALS\UserCF\ItemCF\FP-Growth\规则等方式召回 排序(精排) 1期：根据不同推荐位通过不同的模型得到推荐结果 2期：将推荐的所有结果通过Ctr或Cvr预估结果进行排序 GBDT\LR\GBDT+LR\FM()\FFM...
推荐系统
汪云辉的博客
08-31 2034
1-推荐系统简介 1.1推荐系统概念及产生背景 个性化推荐(推荐系统)经历了多年的发展，已经成为互联网产品的标配，也是AI成功落地的分支之一，在电商(淘宝/京东)、资讯(今日头条/微博)、音乐(网易云音乐/QQ音乐)、短视频(抖音/快手)等热门应用中,推荐系统都是核心组件之一。 什么是推荐系统 没有明确需求的用户访问了我们的服务, 且服务的物品对用户构成了信息过载, 系统通过一定的规则对物...
基于毫米波生物感知雷达+STM32设计的独居老人居家监护系统(微信小程序)(192)
07-24 1万+
当前基于STM32设计的独居老人居家监护系统为独居老人提供一种简便、实时的健康监护服务。该系统通过集成多种传感器和功能模块，能够实时监测老人的生理指标、姿态以及室内环境状况，并通过微信小程序远程显示数据，当出现异常情况时及时发出报警提醒。
推荐系统实践笔记——第二章_利用用户行为数据
liying700的博客
01-16 526
目录 一、用户行为数据简介 二、用户行为分析 三、实验设计 四、基于邻域的算法 五、隐语义模型（参考LiuQQu的博客，版权声明：本文为CSDN博主「LiuQQu」的原创文章） 六、基于图的模型（参考LiuQQu的博客，版权声明：本文为CSDN博主「LiuQQu」的原创文章） 基于用户行为分析的推荐算法是个性化推荐系统的重要算法，学术界一般将这类型的算法称为协同过滤算法。 一、用户...
基于ESP32的智能家居控制系统-微信小程序
漠宸离若的博客
04-28 1万+
一、 课题研究意义、现状及应用分析 1.1课题研究意义及现状 目前，科学技术发展十分迅速，其渗透到各行各业以及生活的方方面面，室内设计和高科技结合便出现了“智能家居”。所谓智能家居就是以居住场所为平台，利用物联网、传感器、智能控制技术将各种家用电器联系起来，实现居住环境的智能化、自动化、人性化。通过语音控制、远程控制、预约控制、个性化设计、一键控制等功能进一步提高生活的舒适性、便利性、安全性。 1.2应用分析 具体而言，利用多种传感器监测室内温度、湿度、光线强度、烟雾浓度、室内是否有人等信息自动调整空调、加
机器学习、数据挖掘-推荐系统问题总结
weixin_38730718的博客
03-26 644
参考各种资料总结一下，准备面试。更新中~ 1、过拟合与欠拟合 过拟合：在训练数据集上表现较好，在测试集上表现较差。 可能的原因： 参数太多，模型复杂度高。 样本噪声数据较大，模型学到了噪声数据的特征。 对于决策树模型，对于决策树的生长没有进行合理的限制和修剪。 对于神经网络，迭代次数太多(overtraining)，拟合数据中的噪声和无代表性的特征。 解决方法： 降低模型复杂度，使...
【人工智能学习之PaddleOCR快速上手】
Jiagym的博客
10-12 1340
在配置文件中，可以设置组建模型、优化器、损失函数、模型前后处理的参数，PaddleOCR从配置文件中读取到这些参数，进而组建出完整的训练流程，完成模型训练，在需要对模型进行优化的时，可以通过修改配置文件中的参数完成配置，使用简单且方便修改。而 L2 正则化中，添加正则化项的目的在于减少参数平方的总和。准确检测的标准是检测框与标注框的IOU大于某个阈值，正确识别的检测框中的文本与标注的文本相同。如果缺少带标注的数据，或者不想投入研发成本，建议直接调用开放的API，开放的API覆盖了目前比较常见的一些垂类。
pandas中数据子集的获取
weixin_43597208的博客
10-14 459
通常，在pandas模块中实现数据框子集的获取可以使用iloc、loc和ix三种方法，这三种方法既可以对数据行进行筛选，也可以实现变量的筛选，它们的语法可以表示成[rows_select,cols_select]。iloc只能通过行号和列号进行数据的筛选，可以将iloc中的i理解为’integer’，即只能向[rows_select,cols_select]指定整数列表该索引方式与数组的索引方式类似，都是从0开始，可以间隔取号，对于切片仍然无法取到上限。
Python编程实例-猜数字游戏
视觉与物联智能
10-17 37
每个人都喜欢玩游戏。数字游戏既有趣又对大脑活动有益。在本文中，我们将使用Python创建一个有趣的数字猜谜游戏
Python 使用 Jarvis 算法或包装的凸包（Convex Hull using Jarvis’ Algorithm or Wrapping）
csdn_aspnet的专栏
10-14 1169
例如，当输入 (0, 3), (0, 0), (0, 1), (3, 0), (3, 3) 时，它产生 (0, 3) (0, 0) (3, 0) (3, 3) 的输出；当输入 (0, 3), (0, 1), (0, 0), (3, 0), (3, 3) 时，输出为 (0, 3) (0, 1) (0, 0) (3, 0) (3, 3)。下一个点被选为在逆时针方向上领先于所有其他点的点，即，如果对于任何其他点 r，我们有“orientation(p, q, r) = 逆时针”，则下一个点是 q。
【Java 22 | 8】 深入解析Java 22 ：Pattern Matching 特性详解
最新发布
颜淡慕潇
10-17 1426
Java 22 进一步扩展了模式匹配（Pattern Matching）功能，简化了类型检查和条件表达式的使用。此特性不仅提升了代码的可读性，还减少了常见的错误。以下是对 Java 22 中模式匹配的详细介绍，包括基础概念、增强特性、使用场景、示例代码，以及如何在实际项目中有效利用模式匹配
个性化音乐推荐系统csdn
09-20
个性化音乐推荐系统是一种能够根据用户的个人喜好和音乐偏好为其推荐符合其口味的音乐的系统。在这个时代，音乐已经成为人们生活中不可或缺的一部分，但是由于音乐种类繁多，人们往往很难找到适合自己的音乐，这时个性化音乐推荐系统就显得尤为重要。 个性化音乐推荐系统通过分析用户的历史听歌记录、喜欢的艺人和风格等各种数据来获取用户的音乐偏好。然后，通过运用机器学习算法和数据挖掘技术，系统会根据用户的个人喜好为其推荐与其口味相似或符合其偏好的音乐。 个性化音乐推荐系统的好处是显而易见的。首先，它能够减少用户搜索和筛选音乐的时间和精力，提高用户的使用体验。其次，它能够为用户发现更多新的音乐和艺人，丰富用户的音乐品味和视野。最重要的是，个性化音乐推荐系统能够让用户感受到被关注和理解的感觉，提高用户的满意度和忠诚度。 然而，个性化音乐推荐系统也存在一些不足之处。首先，系统往往只会根据用户的历史数据为其推荐类似的音乐，可能会导致用户陷入音乐的“舒适区”，错过了一些新的、可能有趣的音乐。其次，个性化音乐推荐系统依赖于用户的历史数据，如果用户的历史数据有限或有些特殊，那么系统的推荐可能会出现偏差。此外，个性化音乐推荐系统也需要解决隐私和数据安全等问题，确保用户的数据得到妥善保护。 总的来说，个性化音乐推荐系统在帮助用户发现适合自己口味的音乐方面起到了重要作用。但是，为了更好地满足用户的需求，我们还需要进一步改善算法和提高用户数据的准确性和广度。
评论 27
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

空空star

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值