【append() 方法在 pandas 版本 1.4.0 中已经被标记为弃用,并将在未来的版本中被移除,官方推荐使用 concat() 作为替代方法来进行数据的合并操作。】
concat() 方法用于合并两个或多个 DataFrame,当你想要添加一行到另一个 DataFrame 时,可以将新行作为一个新的 DataFrame,然后使用 concat():
# 使用concat添加新行
new_row = pd.DataFrame([[4, 7]], columns=['A', 'B']) # 创建一个只包含新行的DataFrame
df = pd.concat([df, new_row], ignore_index=True) # 将新行添加到原始DataFrame
print(df)
但是如何用concat放入【for循环呢?】解决了 还是用concat
excelNames = os.listdir('/Users/zoulinxi/Desktop/9563 ncl/data/Forecast') ##获得所有的文件名
len(excelNames)
df = pd.read_excel('03CP_IndStockCnsExpInd.xlsx')
df.drop(index=[0, 1], inplace=True) ##删除行名为0,1的行
df
for x in excelNames:
x_df = pd.read_excel(x)
x_df.drop(index=[0, 1], inplace=True) ##删除行名为0,1的行
df = pd.concat([df, x_df], ignore_index=True)
df
一共有3000w行,大概用了2小时,导出成orc文件,有3.7G
(希望这组数据有点用)
这个是我想实现的结果,每一个excel分别做没问题。
df03 = pd.read_excel('03CP_IndStockCnsExpInd.xlsx')
df03.drop(index=[0, 1], inplace=True) ##删除行名为0,1的行
df04 = pd.read_excel('04CP_IndStockCnsExpInd.xlsx')
df04.drop(index=[0, 1], inplace=True) ##删除行名为0,1的行
# Let's concatenate both dataframes #1 and #2
investor_df_combined = pd.concat([df03, df04])
investor_df_combined
investor_df_combined.reset_index(drop = True)
(是excel表100w行放不下了,整合到一个DataFrame,表头是一模一样的)
学着用for 循环,主要问题是:
DFs = []
for x in ['03CP_IndStockCnsExpInd.xlsx', '04CP_IndStockCnsExpInd.xlsx']:
data_x_df = pd.read_excel(x)
data_x_df.drop(index=[0, 1], inplace=True) ##删除行名为0,1的行
DFs.append(data_x_df)
DFs
这样先建立空的df,for循环中用append,得到的结果每个excel还是分开的,没能合并
我想是不是DFs的创建不应该是list?