Python 读 arff 格式数据

1、Yahoo 数据集介绍

以yahoo 为例：

@attribute为列名内容，@attribute Label26 {0,1}表示，列名为Label26 ，取值为0或1。列名中包含了对每个对象的属性描述以及多标签内容。Label26表示第26个标签。

@data 为数据内容，{8 1，11 1，....} 表示第8列，取值为1。每一对{}之间的数据，描述一个对象。

2、代码

scipy无法读取稀疏arff文件（{}在文件中）。而文件yahoo_arts.arff在其@data部分使用稀疏格式。直接读取会报错valueError: could not convert string to float: '{8 1'，可采用下述代码替代处理。

import numpy as np
import pandas as pd

def parse_row(line, len_row):
    line = line.replace('{', '').replace('}', '')

    row = np.zeros(len_row)
    for data in line.split(','):
        index, value = data.split()
        row[int(index)] = float(value)

    return row

def read_data_arff(filename):
    # Step 1. Read data by row.
    with open(filename, 'r') as fp:
        file_content = fp.readlines()

    # Step 2. Get the columns.
    columns = []
    len_attr = len('@attribute')

    for line in file_content:
        if line.startswith('@attribute '):
            col_name = line[len_attr:].split()[0]
            columns.append(col_name)

    # Step 3. Get the rows.
    rows = []
    len_row = len(columns)

    for line in file_content:
        if line.startswith('{'):
            rows.append(parse_row(line, len_row))

    # Step 4. Return the results.
    df = pd.DataFrame(data=rows, columns=columns)

    return df