如果您使用Python作为数据处理的语言,那么pandas很可能是你代码中使用最多的库之一。pandas的关键数据结构是DataFrame,这是一个类似电子表格的数据表,由行和列组成。在处理dataframe时,我们经常需要处理索引,这可能很棘手。在本文中,让我们回顾一些关于用pandas处理索引的技巧。
在读取时指定索引列
在许多情况下,我们的数据源是一个CSV文件。假设我们有一个名为data.csv的文件,它有以下数据。
date,temperature,humidity
07/01/21,95,50
07/02/21,94,55
07/03/21,94,56
默认情况下,pandas将为我们创建一个基于0的索引,如下所示。
>>> pd.read_csv("data.csv", parse_dates=["date"])
date temperature humidity
0 2021-07-01 95 50
1 2021-07-02 94 55
2 2021-07-03 94 56
我们可以在导入过程中通过将index_col参数设置为适用的列来直接指定索引列。
>>> pd.read_csv("data.csv", parse_dates=["date"], index_col="date")
temperature humidity
date
2021-07-01 95 50
2021-07-02 94 55
2021-07-03 94 56
DataFrame中设置索引
读取数据或其他一些数据处理步骤后,您可能希望手动设置索引。我们可以使用set_index方法。
>>> df = pd.read_csv("data.csv", parse_dates=["date"])
>>> df.set_index("date")
temperature humidity
date
2021-07-01 95 50
2021-07-02 94 55
2021-07-03 94 56
在此方法中,将指定哪些列作为新索引。这里有两件事值得注意。
默认情况下,此方法将创建一个新的DataFrame。如果你想改变索引的位置,你运行df.set_index(“date”, inplace=True)。
如果希望设置索引后列还存在,可以运行df.set_index(“date”, drop=False)。
>>> df.set_index("date", drop=False)
date temperature humidity
date
2021-07-01 2021-07-01 95 50
2021-07-02 2021-07-02 94 55
2021-07-03 2021-07-03 94 56
在一些操作后重置索引
在处理DataFrame时,一些操作(如删除行、索引选择)将生成原始索引的子集。要重新生成连续索引,可以使用reset_index方法。
>>> df0 = pd.DataFrame(np.random.rand(5, 3), columns=list("ABC"))
>>> df0
A B C
0 0.548012 0.288583 0.734276
1 0.342895 0.207917 0.995485
2 0.378794 0.160913 0.971951
3 0.039738 0.008414 0.226510
4 0.581093 0.750331 0.133022
>>> df1 = df0[df0.index % 2 == 0]
>>> df1
A B C
0 0.548012 0.288583 0.734276
2 0.378794 0.160913 0.971951
4 0.581093 0.750331 0.133022
>>> df1.reset_index(drop=True)
A B C
0 0.548012 0.288583 0.734276
1 0.378794 0.160913 0.971951
2 0.581093 0.750331 0.133022
通常,我们不需要保留旧索引,因此我们希望将drop参数设置为True,这意味着该操作将删除旧索引。类似地,如果你想重置索引,不要忘记将inplace参数设置为True,否则将创建一个新的DataFrame。
将索引从groupby操作转换为列
分组是最常用的方法,让我们通过添加分组列来继续使用在上一步中创建的df0 。
>>> df0["team"] = ["X", "X", "Y", "Y", "Y"]
>>> df0
A B C team
0 0.548012 0.288583 0.734276 X
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.039738 0.008414 0.226510 Y
4 0.581093 0.750331 0.133022 Y
>>> df0.groupby("team").mean()
A B C
team
X 0.445453 0.248250 0.864881
Y 0.333208 0.306553 0.443828
使用分组变量和列作为索引,分组操作后创建的DataFrame就不是您需要的DataFrame了。但是你可能希望这些索引是列。有两种方法可以完成所需的操作,如下所示。就我个人而言,我更喜欢第二种方法,它只涉及两个步骤。
>>> df0.groupby("team").mean().reset_index()
team A B C
0 X 0.445453 0.248250 0.864881
1 Y 0.333208 0.306553 0.443828
>>> df0.groupby("team", as_index=False).mean()
team A B C
0 X 0.445453 0.248250 0.864881
1 Y 0.333208 0.306553 0.443828
排序后重置索引
排序是数据处理过程中非常常见的操作。当我们对行进行排序时,默认情况下,这些行将保留它们各自的索引。但是,这可能不是所需的行为。如果要在排序后重置索引,只需在 sort_values 方法中设置 ignore_index 参数即可。
>>> df0.sort_values("A")
A B C team
3 0.039738 0.008414 0.226510 Y
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
0 0.548012 0.288583 0.734276 X
4 0.581093 0.750331 0.133022 Y
>>> df0.sort_values("A", ignore_index=True)
A B C team
0 0.039738 0.008414 0.226510 Y
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.548012 0.288583 0.734276 X
4 0.581093 0.750331 0.133022 Y
删除重复项后重置索引
当我们处理现实生活中的数据集时,经常会出现重复记录的情况。因此,我们需要删除这些副本。在删除之后,我们还希望索引按所需的顺序排列。使用类似的方法,我们可以利用drop_duplicates方法中的ignore_index参数。
为了简单起见,让我们假设每个team只有一个df0 记录。
>>> df0
A B C team
0 0.548012 0.288583 0.734276 X
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.039738 0.008414 0.226510 Y
4 0.581093 0.750331 0.133022 Y
>>> df0.drop_duplicates("team", ignore_index=True)
A B C team
0 0.548012 0.288583 0.734276 X
1 0.378794 0.160913 0.971951 Y
如上所示,在“team”列删除重复项之后,每个团队只有第一条记录保存在生成的DataFrame中。重要的是,因为我们将ignore_index设置为True,所以新的DataFrame以基于0的方式使用一组新的索引。
索引的直接赋值
当有一个现有的DataFrame时,可能需要使用不同的数据源或来自单独的操作来分配索引。在这种情况下,可以直接将索引分配给现有的DataFrame。
>>> better_index = ["X1", "X2", "Y1", "Y2", "Y3"]
>>> df0.index = better_index
>>> df0
A B C team
X1 0.548012 0.288583 0.734276 X
X2 0.342895 0.207917 0.995485 X
Y1 0.378794 0.160913 0.971951 Y
Y2 0.039738 0.008414 0.226510 Y
Y3 0.581093 0.750331 0.133022 Y
写入CSV文件时忽略索引
并不是每个人都使用Python或pandas,所以我们经常需要将数据导出到CSV文件。在许多情况下,DataFrame具有基于0的索引。但是,我们不想在导出的CSV文件中包含它。在本例中,我们可以在to_csv方法中设置索引参数。
>>> df0.to_csv("exported_file.csv", index=False)
导出的CSV文件如下所示。文件中没有包含索引列。
总结
在本文中,我们回顾了在pandas中最常见的索引操作。熟悉它们对你处理pandas的数据非常有帮助。当然,我没有讨论MultiIndex,这可以在以后的文章中讨论。
作者:Yong Cui