Hu0a2N1oaj-CSDN博客

原创 2024.01.13 过拟合解决方案之暂退法（dropout）

在本情况中，所有元素都被丢弃# 在本情况中，所有元素都被保留return X我们可以将暂退法应用于每个隐藏层的输出（在激活函数之后），并且可以为每一层分别设置暂退概率：常见的技巧是在靠近输入层的地方设置较低的暂退概率。下面的模型将第一个和第二个隐藏层的暂退概率分别设置为0.2和0.5，并且暂退法只在训练期间有效。# 只有在训练模型时才使用dropout# 在第一个全连接层之后添加一个dropout层# 在第二个全连接层之后添加一个dropout层return out。

2024-01-13 23:08:54 440 1

原创 2024.01.13 过拟合解决方案之权重衰减

L2{L}_2L2"""线性回归模型""""""均方损失""""""小批量随机梯度下降""""""在n个变量上累加""""""评估给定数据集上模型的损失"""metric = Accumulator(2) # 损失的总和,样本数量# 增加了L2范数惩罚项，# 广播机制使l2_penalty(w)成为一个长度为batch_size的向量print('w的L2范数是：', torch.norm(w).item())# 增加了L2范数惩罚项，

2024-01-13 22:22:05 982 1

原创 2024.01.12 多层感知机和常见激活函数

lr = 0.1"""计算预测正确的数量""""""在n个变量上累加""""""计算在指定数据集上模型的精度"""net.eval() # 将模型设置为评估模式metric = Accumulator(2) # 正确预测数、预测总数"""训练模型一个迭代周期（定义见第3章）"""# 将模型设置为训练模式# 训练损失总和、训练准确度总和、样本数# 计算梯度并更新参数# 使用PyTorch内置的优化器和损失函数else:# 使用定制的优化器和损失函数# 返回训练损失和训练精度。

2024-01-12 15:13:39 436 1

原创 2024.01.09 softmax回归

return X_exp / partition # 这里应用了广播机制分类模型常用交叉熵损失lr = 0.1"""小批量随机梯度下降""""""计算预测正确的数量""""""在n个变量上累加""""""计算在指定数据集上模型的精度"""net.eval() # 将模型设置为评估模式metric = Accumulator(2) # 正确预测数、预测总数"""训练模型一个迭代周期（定义见第3章）"""# 将模型设置为训练模式# 训练损失总和、训练准确度总和、样本数。

2024-01-09 23:51:53 995 1

原创 2024.01.08 线性回归

这些样本是随机读取的，没有特定的顺序break[ 9.6945],[ 1.2068],[-2.1388],[ 6.2942],[ 0.4365],[ 0.5955],[11.1636],[ 5.3342],"""线性回归模型""""""均方损失""""""小批量随机梯度下降"""

2024-01-08 22:40:47 903

原创 langchain库教程

("system", "你将获得关于同一主题的{num}篇文章（用-----------标签分隔）。首先总结每篇文章的论点。然后指出哪篇文章提出了更好的论点，并解释原因。"),])num=3,user_input='''1. [PHP是世界上最好的语言]PHP是世界上最好的情感派编程语言，无需逻辑和算法，只要情绪。它能被蛰伏在冰箱里的PHP大神轻易驾驭，会话结束后的感叹号也能传达对代码的热情。写PHP就像是在做披萨，不需要想那么多，只需把配料全部扔进一个碗，然后放到服务器上，热乎乎出炉的网页就好了。

2024-01-05 11:32:32 1097

原创 llm之openai库快速入门

使用 Chat Completions API 实现对话任务model（string，必填）要使用的模型ID。有关哪些模型适用于Chat API的详细信息messages（array，必填）迄今为止描述对话的消息列表role（string，必填）发送此消息的角色。systemuser或assistant之一（一般用 user 发送用户问题，system 发送给模型提示信息）content（string，必填）消息的内容name（string，选填）此消息的发送者姓名。

2024-01-05 11:30:09 1786

原创 LogGPT: Exploring ChatGPT for Log-Based Anomaly Detection

数据集：BGL和Spirit数据集相关地址：对比试验用到了：DeepLog、LogAnomaly、LogRobust的代码如下：代码地址：https://github.com/LogIntelligence/LogADEmpirical/tree/master其他组件相关代码地址：日志解析Drain：https://github.com/logpai/logparser/blob/main/logparser/Drain/README.md。

2024-01-04 23:19:34 1314

个人微信公众号：网络安全历险记