it-roy-ru.com

Выберите строки DataFrame между двумя датами

Я создаю DataFrame из CSV следующим образом:

stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)

DataFrame имеет столбец даты. Есть ли способ создать новый DataFrame (или просто перезаписать существующий), который содержит только строки со значениями даты, которые попадают в указанный диапазон дат или между двумя указанными значениями даты?

116
darkpool

Есть два возможных решения:

  • Используйте логическую маску, затем используйте df.loc[mask]
  • Установите столбец даты как DatetimeIndex, затем используйте df[start_date : end_date]

Используя логическую маску:

Убедитесь, что df['date'] является серией с dtype datetime64[ns]:

df['date'] = pd.to_datetime(df['date'])  

Сделайте логическую маску. start_date и end_date могут быть datetime.datetimes, np.datetime64s, pd.Timestamps или даже строки даты и времени:

mask = (df['date'] > start_date) & (df['date'] <= end_date)

Выберите подкадр данных:

df.loc[mask]

или переназначить на df

df = df.loc[mask]

Например,

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])

доходность

            0         1         2       date
153  0.208875  0.727656  0.037787 2000-06-02
154  0.750800  0.776498  0.237716 2000-06-03
155  0.812008  0.127338  0.397240 2000-06-04
156  0.639937  0.207359  0.533527 2000-06-05
157  0.416998  0.845658  0.872826 2000-06-06
158  0.440069  0.338690  0.847545 2000-06-07
159  0.202354  0.624833  0.740254 2000-06-08
160  0.465746  0.080888  0.155452 2000-06-09
161  0.858232  0.190321  0.432574 2000-06-10

Использование DatetimeIndex:

Если вы собираетесь сделать большой выбор по дате, может быть быстрее установить столбец date в качестве индекса первым. Затем вы можете выбрать строки по дате, используя df.loc[start_date:end_date].

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])

доходность

                   0         1         2
date                                    
2000-06-01  0.040457  0.326594  0.492136    # <- includes start_date
2000-06-02  0.279323  0.877446  0.464523
2000-06-03  0.328068  0.837669  0.608559
2000-06-04  0.107959  0.678297  0.517435
2000-06-05  0.131555  0.418380  0.025725
2000-06-06  0.999961  0.619517  0.206108
2000-06-07  0.129270  0.024533  0.154769
2000-06-08  0.441010  0.741781  0.470402
2000-06-09  0.682101  0.375660  0.009916
2000-06-10  0.754488  0.352293  0.339337

При индексации списка Python, например, seq[start:end] включает в себя start, но не end, в отличие от Pandas df.loc[start_date : end_date] включает оба конечные точки в результат, если они находятся в индексе. Однако ни start_date, ни end_date не должны быть в индексе.


Также обратите внимание, что pd.read_csv ИМЕЕТ ПАРАМЕТР parse_dates , который можно использовать для анализа столбца date как datetime64s. Таким образом, если вы используете parse_dates, вам не нужно использовать df['date'] = pd.to_datetime(df['date'])

256
unutbu

Я чувствую, что лучшим вариантом будет использовать прямые проверки, а не использовать функцию loc:

df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]

Меня устраивает.

Основная проблема с функцией loc со срезом заключается в том, что ограничения должны присутствовать в фактических значениях, в противном случае это приведет к KeyError.

32
Christin Jose

Вы можете использовать метод isin в столбце date следующим образом df[df["date"].isin(pd.date_range(start_date, end_date))]

Примечание: Это работает только с датами (как задает вопрос), а не с отметками времени.

Пример:  

import numpy as np   
import pandas as pd

# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]

print(in_range_df)  # print result

который дает

           0         1         2       date
14  0.960974  0.144271  0.839593 2017-01-15
15  0.814376  0.723757  0.047840 2017-01-16
16  0.911854  0.123130  0.120995 2017-01-17
17  0.505804  0.416935  0.928514 2017-01-18
18  0.204869  0.708258  0.170792 2017-01-19
19  0.014389  0.214510  0.045201 2017-01-20
18
Jonny Brooks

Вы также можете использовать between:

df[df.some_date.between(start_date, end_date)]
13
pomber

В случае, если вы собираетесь делать это часто, лучшим решением было бы сначала установить столбец даты в качестве индекса, который преобразует столбец в DateTimeIndex, и использовать следующее условие для нарезки любого диапазона дат.

import pandas as pd

data_frame = data_frame.set_index('date')

df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]
4
Abhinav Anand

Я предпочитаю не изменять df.

Один из вариантов - получить index дат start и end:

import numpy as np   
import pandas as pd

#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]

#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]

что приводит к:

     0   1   2       date
6  0.5 0.8 0.8 2017-01-07
7  0.0 0.7 0.3 2017-01-08
8  0.8 0.9 0.0 2017-01-09
9  0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14
1
Arraval

Благодаря моему тестированию pandas версии 0.22.0 теперь вы можете легче ответить на этот вопрос с помощью более читабельного кода, просто используя between.

# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})

Допустим, вы хотите получить даты между 27 ноября 2018 года и 15 января 2019 года:

# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)

0    False
1    False
2    False
3    False
4    False

# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]

    dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02

Обратите внимание на включающий аргумент. очень полезно, когда вы хотите четко указать свой диапазон. обратите внимание, что при значении True мы вернемся также 27 ноября 2018 года:

df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]

    dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01

Этот метод также быстрее, чем ранее упомянутый метод isin:

%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)


%%timeit -n 5

df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

Однако он не быстрее принятого в настоящее время ответа, предоставленного unutbu, только если маска уже создана. но если маска динамическая и ее нужно переназначать снова и снова, мой метод может быть более эффективным:

# already create the mask THEN time the function

start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)

%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
0
MattR