c++实现LogisticRegression/用c++实现逻辑回归

最新推荐文章于 2023-05-20 21:48:21 发布

锦子

最新推荐文章于 2023-05-20 21:48:21 发布

阅读量2.3k

点赞数

分类专栏： c++ 机器学习文章标签： c++ 机器学习

本文链接：https://blog.csdn.net/qrqpjxq/article/details/77414898

版权

本文介绍了使用C++实现逻辑回归的过程，强调了C++语法的学习和梯度下降算法的详细实现。代码涵盖梯度下降、随机梯度下降、批梯度下降三种学习方式，并提供了相关头文件和cpp源文件，读者可以直接编译运行。训练参数包括数据路径、迭代次数、学习速率、容差和训练方式等。

摘要由CSDN通过智能技术生成

今天没事学习c++，试着用c++实现了一个简单的逻辑回归。
因为重在学习c++语法和逻辑回归的具体实现细节，因此没有用到向量化矩阵化等操作，而是老老实实用遍历一步一步求解梯度。
代码具体实现了梯度下降、随梯度下降、批梯度下降三种学习算法。
本文仅包含代码实现部分，逻辑回归的理论可以参考：
http://blog.csdn.net/abcjennifer/article/details/7716281
代码包括两个头文件和一个cpp文件：

logisticregression.h

#ifndef _LOGISTICREGRESSION_H_
#define _LOGISTICREGRESSION_H_

#include <iostream>
#include <fstream>
#include <string>
#include <vector>
#include <assert.h>

struct DataSet {
    int numData;
    int numFeature;
    std::vector<std::vector<float> > features;
    std::vector<int> labels;
};

class LogisticRegression {
public:
    LogisticRegression(int max_iter, float learn_rate, float tol);

    ~LogisticRegression();

    DataSet loadData(std::string filename);

    void initWeights(int length);

    std::vector<float> oneSampleGrident(std::vector<float> feature, int label);

    void train(DataSet* dataset, std::string gdType);

    std::vector<float> getWeight();

    int predict(std::vector<float> feature);

    float predict_proba(std::vector<float> feature);

    float score(DataSet* dataset);

private:
    int maxIter_;
    float learnRate_;
    float tol_;
    std::vector<float> weights;
};

#endif

common.h

#ifndef _COMMON_H_
#define _COMMON_H_

#include <iostream>
#include <string>
#include <vector>
#include <cmath>

namespace common {

std::vector<std::string> Split(std::string line, char flag) {
    std::vector<std::string> ret;
    size_t start = 0;
    size_t index = line.find_first_of(flag, start);
    while (index != std::string::npos) {
        ret.push_back(line.substr(start, index));
        start = index + 1;
        index = line.find_first_of(flag, start);
    }
    ret.push_back(line.substr(start, index));
    return ret;
}

float Sigmoid(