AI Programmer: 用基因算法生成程序 简介

最近有篇文章《AI Programmer： Autonomously Creating Software Programs Using Genetic Algorithms》火了，它主要是利用基因算法生成代码。没准儿以后能称为程序员居家旅行之必备。按说这个和深度学习一点关系都没有，但是我还是决定蹭个热度，写一写这篇文章刷一刷存在感。：）

基因算法，用高大上的词汇来说，属于机器学习（或者人工智能）里的进化主义，和深度学习所属的连接主义大相径庭，分属不同的山头。然而，二者隐含了一些相似之处。基因算法的fitness function 对应深度学习的loss function;  基因算法通过遗传和变异改进candidate, 以期达到更好的fitness, 深度学习通过back propagation更新weights，来减少loss  

基因算法主要适用于寻找问题的最优解，也就是optimization问题，如果我们很好的做到以下两件事情，我们就可以利用GA（基因算法）为我们服务：

1. 定义需要最优化的fitness函数。这个fitness往往是我们需要最优化的那个函数。比如任意一个复杂的数学函数的最大（小）值，比如TSP问题中人需要行走的距离，比如自旋玻璃模型中的能量等等。换句话说，fitness函数是我们的任务目标在数学上的表达。

2. 定义问题的解空间。这个解空间必须是有限维度的而且可以表达的。它可以是数字，是符号，是任何可以表达的变量展开出来的空间。

有了以上两点，我们就可以定义candidates

每个candidate都是一个potential solution。 通过优解的结合和在子代身上适度的