想用julia的Flux来做神经网络的训练,但网络上现有代码不太多,主要是model接受的data很难理解到底是什么格式的数据,遂实现一个简单的程序来探究。
导包
using Flux
如果没安装的话有可以运行如下代码进行安装:
ENV["JULIA_PKG_SERVER"] = "https://mirrors.tuna.tsinghua.edu.cn/julia"
using Pkg
Pkg.add("Flux")
生成数据集:
x=rand(-10000:10000,2,10000)
#对于y的生成有两种方式
y=x[1,:]+x[2,:]
y=y'
#还可以
#y=sum(x,dims=1)
注意,julia的Flux的train!函数接受的data为一个二元组,元组第一个元素是特征x的矩阵,需要是每一列是一个样本数据,一般在csv读入的是每一行是一个样本,在julia中往往需要做一个转置,第二个元素是标签y,同x。
定义模型,损失函数,以及优化器
#一层网络,由于x是二维特征,两个输入对应一个输出,由于是线性模型,不加激活函数效果较好,若加
#可如Dense(2 =>1,sigmoid),多层网络的话可以加多个Dense,每个Dense用,隔开
model = Chain(
Dense(2 => 1)
)
#可以尝试用Flux的均方差,如loss(x,y)=Flux.mse(model(x),y)
loss(x, y) = sum((model(x) - y).^2)
#可以用其他优化函数如:opt=Descent(0.01)
opt =ADAM(0.01)
开始训练
for i in 1:10000
Flux.train!(loss, Flux.params(model), [(x, y)], opt)
if i % 1000 == 0
println("Epoch $i, Loss: $(loss(x, y))")
end
end
检验结果
model([1.0;233])
效果还行