python车辆轨迹分析_Ngsim数据集分析与python处理,NGSIM,解析,及

简介

NGSIM(Next Generation Simulation)数据集

是美国FHWA搜集的美国高速公路行车数据，它包括了US101、I-80等道路上的所有车辆在一个时间段的车辆行驶状况。数据是采用摄像头获取，然后加工成一条一条的轨迹点记录。我在项目中用到的是US101数据集，其他数据结构大同小异。一下着重介绍该路段数据集。

US101数据集介绍

NGSIM官方提供了使用API的方法获取数据集，但是文档并不够良心，因此我还是直接选择了下载整个数据集，下载链接可以在官方网站找出，这里再给出

链接

，下载下俩的数据集是一个1.6G+的CSV文件。这个文件包含

所有道路的所有数据

。打开看一看，数据结构如表：

注：不同的道路其车道信息不同，行车数据差异较大。

相同的表你可以到刚才的下载链接中找到，我来介绍一下遇到的坑。

Col

介绍

Vehicle_ID

给每一个进入记录区域的车辆的编号。不同的车会重复利用！！

Frame_ID

该条数据在某一时刻的帧号，同一Vehicle_ID的帧号不会重复

Total_Frame

该车出现的总帧数

Global_Time

全局时间，单位为ms

Local_X,Y

采集区域内的坐标，采集区域不同，坐标系不同，会有不同的零点

Global_x,Y

全局坐标，只有一个零点，可用作数据筛选

这几个很难倒腾，而且筛选数据主要看这几个，其他数据可以直接看官网介绍。

python处理数据

我想得到的是某一区域内的车辆及它们未来10秒的轨迹。读取CSV，用python的话当然用pandas咯。

最好添加

usecols

过滤你不需要的列，因为数据集很大，载入真的很慢。

import pandas as pd

init_df = pd.read_csv('./data.csv', usecols=['你所需要的列名'])

首先，数据集很大，要把数据多余的内容除掉。我要的是US101数据，因此定义一个函数筛选并按照

全局时间

排序，按照frame排序是行不通的，如果要按照路段排序同理选取Global的数据。

def cutbyRoad(df=None, road=None):

'''

:param df: 打开后文件

:param road: 路段名称

:return: 切路df,按照全局时间排序

'''

road_df = df[df['Location'] == road]

return road_df.sort_values(by='Global_Time', ascending=True)

原数据集的单位，时间是ms，长度单位全是ft。给它转换一下：

def unitConversion(df):

'''

转换后长度单位为m，时间单位为0.1秒

:param df: 被转换df

:return: 转换后df

'''

ft_to_m = 0.3048

df['Global_Time'] = df['Global_Time'] / 100

for strs in ["Global_X", "Global_Y", "Local_X", "Local_Y", "v_length", "v_Width"]:

df[strs] = df[strs] * ft_to_m

df["v_Vel"] = df["v_Vel"] * ft_to_m*3.6

return df

我需要的数据是某一区域内，某一时刻的车辆及它们未来10s的行车数据，因此首先要获得某一区域某一时刻某一区域的车辆ID列表：

def cutbyPosition(road_df, start_y=0, start_time=0, area_length=50):

'''

给定起始时间，起始y，区间长度，输出区间内车辆list

:param road_df:限定路段后的df

:param start_y: 区域开始段，单位为m

:param start_time: 起始时间，0.1s

:param area_length: 区域长度单位为m

:return: vehicle_list为起始框内部车辆编号

'''

area_df = road_df[road_df['Global_Time'] == start_time]

area_df = area_df[(area_df['Global_Y'] - start_y <= area_length) & (

area_df['Global_Y'] - start_y >= 0)]

vehicle_list = area_df['Vehicle_ID'].unique()

if len(list(vehicle_list)) <= 2:

return None

else:

return list(vehicle_list)

其中

start_y, start_time

可以根据自己的需要取

Global_Y,Global_Time

的最大值最小值区间内值。

然后是迭代获取10s内车辆数据：

def cutbyTime(road_df, start_time=0, vehicle_list=None, time_length=10.0, stride=1):

'''

:param inint_df:road_df

:param start_frame: 开始帧

:param time_length: 采样时间长度,单位为s

:param stride: 采样步长

:return: 返回一组清洗完数据time

'''

temp_df = road_df[road_df['Vehicle_ID'].isin(vehicle_list)]

one_sequence = pd.DataFrame()

for vehicle in vehicle_list:

for time in range(int(time_length * 10 / stride)):

df = temp_df[

(temp_df['Vehicle_ID'] == vehicle) & (temp_df['Global_Time'] == (start_time + time * stride))]

if df.shape[0] == 1:

one_sequence = pd.concat([one_sequence, df])

else:

return None

return one_sequence

最后是存储数据至CSV

def saveCsv(df, file_name):

'''

:param df: 存入df

:param file_name: 文件名

:return: 无

'''

df=df.reset_index(drop=True) #重置索引

if not os.path.exists('\\'):

os.makedirs('\\')

df.to_csv('data\\' + file_name + '.csv', mode='a', header=True)

我的main函数，也就是调用这些方法的主干函数，代码中调用的json文件是配置文件：

with open("conf/dataExecute.json", "r") as f:

conf = json.load(f)

init_df = pd.read_csv(conf['data_source'], usecols=conf['useCols'])

road_df = cutbyRoad(init_df, road=conf['road'])

road_df = unitConversion(road_df)

min_Global_Y, max_Global_Y = road_df['Global_Y'].min()+100, road_df['Global_Y'].max()

min_Global_Time, max_Global_Time = road_df['Global_Time'].min(), road_df['Global_Time'].max()

total_dist=int((max_Global_Y - min_Global_Y) / (conf['area_step']))

total_time=int((max_Global_Time - min_Global_Time) / (conf['time_step'] * 10))

print("共计{}--{}组数据，时间步长为{}，距离步长为{}".format(total_dist,total_time,conf['time_step'],conf['area_step']))

total_data=0

for dist_index in range(conf["hist_dist"],total_dist):

for time_index in range(conf["hist_time"],total_time):

if conf["noise"]:

time_noise=random.randint(0,100)

dist_noise=random.randint(0,100)

else:

time_noise,dist_noise=0,0

start_time = min_Global_Time + time_index * conf['time_step'] * 10+time_noise*10

start_y = min_Global_Y + dist_index * conf['area_step']+dist_noise

vehicle_list = cutbyPosition(road_df, start_y=start_y, start_time=start_time,

area_length=conf['area_length'])

if vehicle_list is None:

# print('{}秒时刻，{}为起点区域内车辆过少，进入下个时段'.format(start_time * 0.1, start_y))

print('{}--{}内车辆过少，进入下个时段'.format(dist_index, time_index))

continue

one_sequence = cutbyTime(road_df, start_time=start_time, vehicle_list=vehicle_list,

time_length=conf['time_length'],

stride=conf['stride'])

if one_sequence is None:

# print('{}时刻，{}为起点区域内车辆存在消失，进入下个时段'.format(start_time * 0.1, start_y))

print('{}--{}内车辆存在消失，进入下个时段'.format(dist_index, time_index))

else:

total_data+=1

saveCsv(one_sequence, file_name=conf['road'])

print('{}/{} - {}/{} saved! Exist {} data! '.format(dist_index, total_dist,time_index, total_time,total_data))

if total_data == conf["need_num"]:

print("数据采集完成")

break

if total_data ==conf["need_num"]:

print("数据采集完成")

break

传参我用了一个json文件：

{

"data_source": "./data/data.csv",

"road": "us-101",

"useCols": [

"Vehicle_ID",

"Frame_ID",

"Total_Frames",

"Global_Time",

"Global_X",

"Global_Y",

"Local_X",

"Local_Y",

"v_length",

"v_Width",

"v_Class",

"Location",

"v_Vel",

"Lane_ID"

],

"area_length": 80,

"time_length": 10,

"area_step": 20,

"time_step": 30,

"stride": 5.0,

"hist_dist":6,

"hist_time":0,

"noise": 1,

"need_num": 20

}

我做这个主要是为了采集区域行车数据做训练集。因此需要迭代获取。如果有什么问题欢迎留言和我讨论！