准备数据
这次,我们的任务是对一批音乐进行分类。
音乐的训练数据从这里可以下载到。这个数据里包含了blue,classical 等十个音乐类别,每个音乐类别有一百首样本。每个样本都是一首歌的前30秒。不过这个数据集是.au格式的,我们需要先转换成比较易于python处理的格式:wma。从这里下载sox的windows安装版本。安装完之后,我们在windows的cmd窗口里,可以采取写命令的方式利用sox批量转音乐文件的格式。
一个比较傻瓜的方式是
1.先把cmd命令移动到genres下的某个文件夹,例如jazz(使用"cd /."回c盘根目录,使用"e:"跳转到e盘,然后继续用cd前往要去的文件夹);
2.然后“mkdir converted”来新建一个converted文件夹;
3.接着使用如下命令批量装换jazz中的.au文件到converted文件夹中:
for %x in (*.au) do C:\sox-14-3-2\sox.exe %x E:\wulingfei\music_classification\genres\jazz\converted\%x.wav
在本练习中,我们只使用到jazz,classical,country, pop, rock, metal六个类型,所以只要在这六个文件夹下分别重复以上三个步骤就可以了。
音频文件的频谱图
我们可以先把一个wma文件读入python,然后绘制它的频谱图(spectrogram)来看看是什么样的。
from scipy.io import wavfile
from matplotlib.pyplot import specgram
import matplotlib.pyplot as plt
sample_rate, X = wavfile.read("E:\wulingfei\music_classification\genres\jazz\converted\jazz.00000.au.wav")
print sample_rate, X.shape
specgram(X, Fs=sample_rate, xextent=(0,30))
plt.xlabel("time")
plt.ylabel("frequency")
上图就是一个jazz音乐样本的频谱图。当然,我们也可以把每一种的音乐都抽一些出来打印频谱图以便比较,如下图:
从肉眼就可以看出一些区分,金属音乐的能量在各个频率上都比较强,爵士则是分布很不均匀的。
def plotSpec(g,n):
sample_rate, X = wavfile.read("D:/genres/"+g+"/converted/"+g+"."+n+".au.wav")
specgram(X, Fs=sample_rate, xextent=(0,30))
plt.title(g+"_"+n[-1])
figure(num=None, figsize=(18, 9), dpi=80, facecolor='w', edgecolor='k')
plt.subplot(6,3,1);plotSpec("classical","00001");plt.subplot(6,3,2);plotSpec("classical","00002")
plt.subplot(6,3,3);plotSpec("classical","00003");plt.subplot(6,3,4);plotSpec("jazz","00001")
plt.subplot(6,3,5);plotSpec("jazz","00002");plt.subplot(6,3,6);plotSpec("jazz","00003")
plt.subplot(6,3,7);plotSpec("country","00001");plt.subplot(6,3,8);plotSpec("country","00002")
plt.subplot(6,3,9);plotSpec("country","00003");plt.subplot(6,3,10);plotSpec("pop","00001")
plt.subplot(6,3,11);plotSpec("pop","00002");plt.subplot(6,3,12);plotSpec("pop","00003")
plt.subplot(6,3,13);plotSpec("rock","00001");plt.subplot(6,3,14);plotSpec("rock","00002")
plt.subplot(6,3,15);plotSpec("rock","00003");plt.subplot(6,3,16);plotSpec("metal","00001")
plt.subplot(6,3,17);plotSpec("metal","00002");plt.subplot(6,3,18);plotSpec("metal","00003")
plt.tight_layout(pad=0.4, w_pad=0, h_pad=1.0)
什么是快速(离散)傅里叶变换(FFT)?
FFT是一种数据处理技巧,它可以把time domain上的数据,例如一个音频,拆成一堆基准频率,然后投射到frequency domain上。
为了理解FFT,我们可以先生成三个音频文件。在cmd环境下输入
C:\sox-14-3-2\sox.exe --null -r 22050 sine_a.wav synth 0.2 sine 400
C:\sox-14-3-2\sox.exe --null -r 22050 sine_b.wav synth 0.2 sine 3000
C:\sox-14-3-2\sox.exe --combine mix --volume 1 sine_b.wav --volume 0.5 sine_a.wav sine_mix.wav
生成三个音频文件。如果我们播放的话,会发现sine_a声音比较低,sine_b声音比较高,而sine_mix则混合了两者。
figure(num=None, figsize=(12, 8), dpi=80, facecolor='w', edgecolor='k')
plt.subplot(3,2,1)
sample_rate, a = wavfile.read("E:/wulingfei/music_classification/sine_a.wav")
specgram(a, Fs=sample_rate, xextent=(0,30))
plt.xlabel("time")
plt.ylabel("frequency")
plt.title("400 HZ sine wave")
plt.subplot(3,2,2)
fft_a = abs(scipy.fft(a))
specgram(fft_a)
plt.xlabel("frequency")
plt.ylabel("amplitude")
plt.title("FFT of 400 HZ sine wave")
plt.subplot(3,2,3)
sample_rate, b = wavfile.read("E:/wulingfei/music_classification/sine_b.wav")
specgram(b, Fs=sample_rate, xextent=(0,30))
plt.xlabel("time")
plt.ylabel("frequency")
plt.title("3000 HZ sine wave")
plt.subplot(3,2,4)
fft_b = abs(scipy.fft(b))
specgram(fft_b)
plt.xlabel("frequency")
plt.ylabel("amplitude")
plt.title("FFT of 3000 HZ sine wave")
plt.subplot(3,2,5)
sample_rate, c = wavfile.read("E:/wulingfei/music_classification/sine_mix.wav")
specgram(c, Fs=sample_rate, xextent=(0,30))
plt.xlabel("time")
plt.ylabel("frequency")
plt.title("Mixed sine wave")
plt.subplot(3,2,6)
fft_c = abs(scipy.fft(c))
specgram(fft_c)
plt.xlabel("frequency")
plt.ylabel("amplitude")
plt.title("FFT of mixed sine wave")
plt.tight_layout(pad=0.4, w_pad=0, h_pad=1.0)
本文一开始的示例jazz数据经过FFT变形是这样的:
figure(num=None, figsize=(9, 6), dpi=80, facecolor='w', edgecolor='k')
sample_rate, X = wavfile.read("E:/wulingfei/music_classification/genres/jazz/converted/jazz.00000.au.wav")
plt.subplot(2,1,1)
specgram(X, Fs=sample_rate, xextent=(0,30))
plt.xlabel("time")
plt.ylabel("frequency")
plt.subplot(2,1,2)
fft_X = abs(scipy.fft(X))
specgram(fft_X)
plt.xlabel("frequency")
plt.ylabel("amplitude")
plt.tight_layout(pad=0.4, w_pad=0, h_pad=1.0)
使用频域强度特征来判别音乐
转换完数据后,我们就可以使用频域的特征来判别音乐数据了。这里我们考虑最简单的分类器,例如KNN方法。
#---------prepare train data--------------------
genre_list = ["classical", "jazz", "country", "pop", "rock", "metal"]
def getdata(g,n):
ad="E:/wulingfei/music_classification/genres/"+g+"/converted/"+g+"."+"0000"+str(n)+".au.wav"
sample_rate, X = wavfile.read(ad)
fft_X = list(abs(scipy.fft(X)[:1000]))
f=fft_X+[genre_list.index(g)]
return f
data=[]
for g in genre_list:
for n in range(10):
data.append(getdata(g,n))
data=array(data)
#-----------prepare test data-------------------
sample_rate, test = wavfile.read("E:/wulingfei/music_classification/genres/metal/converted/metal.00080.au.wav")
testdata=abs(scipy.fft(test))[:1000]
#---------classify-----------------------
def distance(p0, p1):
return np.sum( (p0-p1)**2)
def nn_classify(training_set, training_labels, new_example):
dists = np.array([distance(t, new_example) for t in training_set])
da=zip(dists,training_labels)
da=array(sorted(da, key=lambda x:x[0]))
votes = da[:3,1]
return votes
nn_classify(data[:,:-1], data[:,-1], testdata)