python - DataFrame 在日期范围内重新采样

Question

我有一个包含列的数据框'start_time'(日期时间)、'end_time'(日期时间)、'mode' 和其他一些列。表格中不同行的范围没有重叠。

我想创建一个新的 DataFrame，它对原始 DataFrame 的每一行进行重新采样，如下所示:'current_time'、'mode'、其他列

其中“current_time”是原始“start_time”和“end_time”之间以给定频率进行的重新采样，所有其他列只是原始表中值的副本。

示例:原始数据框:

             start_time                   end_time   mode
2017-06-01 06:38:00.000 2017-06-01    06:39:00.000      x
2017-06-01 17:22:00.000 2017-06-01    17:22:30.000      y

对于给定的“频率”“10S”，我想获得以下数据帧:

           current_time     mode
2017-06-01 06:38:00.000        x
2017-06-01 06:38:10.000        x
2017-06-01 06:38:20.000        x
2017-06-01 06:38:30.000        x
2017-06-01 06:38:40.000        x
2017-06-01 06:38:50.000        x
2017-06-01 17:22:00.000        y
2017-06-01 17:22:10.000        y
2017-06-01 17:22:20.000        y

我正在寻找一种相当高效且优雅的方法来做到这一点。

非常感谢!

Answer 1

您可以使用:

#convert columns to datetimes if necessary
df['start_time']= pd.to_datetime(df['start_time'])
df['end_time']= pd.to_datetime(df['end_time'])
#subtract 10s for no last row from values from end_time column
df['end_time']= df['end_time'] - pd.Timedelta(10, unit='s')

<小时/>

#loop by list comprehension for list of date ranges
#concat to one big DataFrame
df1 = (pd.concat([pd.Series(r.Index, 
                           pd.date_range(r.start_time, r.end_time, freq='10S')) 
                           for r in df.itertuples()])
        .reset_index())
df1.columns = ['current_time','idx']
print (df1)
         current_time  idx
0 2017-06-01 06:38:00    0
1 2017-06-01 06:38:10    0
2 2017-06-01 06:38:20    0
3 2017-06-01 06:38:30    0
4 2017-06-01 06:38:40    0
5 2017-06-01 06:38:50    0
6 2017-06-01 17:22:00    1
7 2017-06-01 17:22:10    1
8 2017-06-01 17:22:20    1

通过OP评论进行编辑:

如果使用参数close=left:

pd.date_range(r.start_time, r.end_time, freq='10S', closed='left')

那么可以省略减法。

<小时/>

#join all another columns by index
df2 = df1.set_index('idx').join(df.drop(['start_time','end_time'], 1)).reset_index(drop=True)
print (df2)
         current_time mode
0 2017-06-01 06:38:00    x
1 2017-06-01 06:38:10    x
2 2017-06-01 06:38:20    x
3 2017-06-01 06:38:30    x
4 2017-06-01 06:38:40    x
5 2017-06-01 06:38:50    x
6 2017-06-01 17:22:00    y
7 2017-06-01 17:22:10    y
8 2017-06-01 17:22:20    y

另一个解决方案:

#create column from index for last join (index values has to be unique)
df = df.reset_index()
#reshape dates to datetimeindex
df1 = (df.melt(df.columns.difference(['start_time','end_time']),
              ['start_time', 'end_time'],
              value_name='current_time')
        .drop('variable', 1)
        .set_index('current_time'))
print (df1)
                     index mode
current_time                   
2017-06-01 06:38:00      0    x
2017-06-01 17:22:00      1    y
2017-06-01 06:38:50      0    x
2017-06-01 17:22:20      1    y

#group by index column and resample, NaNs are replaced by forward filling
df2 = df1.groupby('index').resample('10S').ffill().reset_index(0, drop=True).drop('index', 1)
print (df2)
                    mode
current_time            
2017-06-01 06:38:00    x
2017-06-01 06:38:10    x
2017-06-01 06:38:20    x
2017-06-01 06:38:30    x
2017-06-01 06:38:40    x
2017-06-01 06:38:50    x
2017-06-01 17:22:00    y
2017-06-01 17:22:10    y
2017-06-01 17:22:20    y