Evolutionary Algorithms

Evolutionary Tagging - Araujo 2002

Evolutionary tagger能从一个training corpus里面学习从而产生一组rules (contexts)，这里叫做training table。table记录了每个tag的上下文情境，通过记录在training text中不同的语境和每种tag在training text中出现的次数来计算。training corpus用来提取随机信息，自动调整EA中的参数。下图为流程图。Evolutionary steps目标是最大化test corpus里面sentence tag的总概率。

-Chromosome Representation
Chromosome是对应要被tag的句子的基因序列。每个gene由一个tag和其它一些在evaluation有用的信息，比如根据training table这个tag上下文情境的次数。
Initial Population： 给定test corpus里面的一句话，初始化群体是随机从词典里面选出每个词的有效tag。字典里没有出现的单词则分配一个在训练文本中给定上下文情境最常出现的tag。

-Fitness: Chromosome Evaluation
Fitness为每个chromosome或者solution的总概率。

-Genetic Operators
每一步进化，当前群体的一些chromosomes会应用genetic operators生成新的群体并跟新群体。这里用的genetic operators是crossover （将两个chromosomes合并成一个新的）和mutatuion （在一个chromosome之前的一代中改变一个随机选择的基因）。genetic operators的设计必须平衡继承特性和搜索空间新区域的探索。算法的效率对每一步的crossovers率和mutuations率非常敏感。