新闻中心

Pandas教程:高效统计并记录连续相同值的行数

2025-11-24
浏览次数:
返回列表

pandas教程:高效统计并记录连续相同值的行数

本教程详细介绍了如何在Pandas DataFrame中高效地识别并统计连续出现相同值的行数,并将这些计数作为一个新列添加。文章首先分析了常见的错误尝试,如全局计数和简单分组,然后深入讲解了如何通过结合使用`shift()`、`cumsum()`和`groupby().transform('size')`来精确地为每个连续块生成其对应的长度,从而解决这一常见的数据处理挑战。

引言

在数据分析和处理中,我们经常需要处理序列数据。其中一个常见需求是统计某个特定列中连续出现相同值的行数。例如,在一个日志文件中,我们可能想知道某个错误代码连续出现了多少次;或者在一个股票交易数据中,某个股票连续上涨或下跌了多少天。Pandas作为Python数据分析的核心库,提供了强大的工具来解决这类问题。本教程将指导您如何利用Pandas的特性,优雅地实现这一功能。

挑战:统计连续相同值

我们的目标是,给定一个DataFrame,其中包含一列数据(例如class),我们需要创建一个新列(例如consecutive_count),该列的每个值表示其所在行所属的连续相同值块的长度。

以下是我们期望的输出示例:

class    consecutive_count
a         3
a         3
a         3
b         2
b         2
c         1
d         1
e         3
e         3
e         3
f         1
a         1
c         1
d         2
d         2

常见误区与不足

在尝试解决这个问题时,初学者往往会遇到一些常见的误区。理解这些误区有助于我们更好地掌握正确的解决方案。

groupby().transform('count') 的局限性

一种常见的尝试是使用groupby()结合transform('count')。

import pandas as pd

data = {'class': ['a', 'a', 'a', 'b', 'b', 'c', 'd', 'e', 'e', 'e', 'f', 'a', 'c', 'd', 'd']}
df = pd.DataFrame(data)

df['consecutive_count_attempt1'] = df.groupby('class')['class'].transform('count')
print(df)

输出结果:

   class  consecutive_count_attempt1
0      a                           4
1      a                           4
2      a                           4
3      b                           2
4      b                           2
5      c                           2
6      d                           3
7      e                           3
8      e                           3
9      e                           3
10     f                           1
11     a                           4
12     c                           2
13     d                           3
14     d                           3

这种方法的问题在于,transform('count')会计算整个DataFrame中每个类别的总出现次数,而不是仅仅计算连续出现的次数。例如,'a'在整个DataFrame中出现了4次,所以所有'a'都被标记为4,这与我们的需求不符。

shift().cumsum() 的分组作用

另一种尝试是利用shift()和cumsum()来识别连续块。

df['consecutive_group_id'] = (df['class'] != df['class'].shift()).cumsum()
print(df)

输出结果:

   class  consecutive_group_id
0      a                     1
1      a                     1
2      a                     1
3      b                     2
4      b                     2
5      c                     3
6      d                     4
7      e                     5
8      e                     5
9      e                     5
10     f                     6
11     a                     7
12     c                     8
13     d                     9
14     d                     9

这里,(df['class'] != df['class'].shift())会生成一个布尔序列,标记每个值是否与前一个值不同(即是否是新连续块的开始)。cumsum()则将这些布尔值(True为1,False为0)累加起来,从而为每个连续块分配一个唯一的ID。这非常接近我们的目标,因为它成功地将连续块区分开来。然而,它仅仅提供了分组ID,而不是每个组的计数。

核心解决方案

要精确地计算连续块的长度,我们需要结合上述两种思路的优点:首先识别出连续块,然后对这些连续块进行计数。

识别连续块的起始点

第一步是确定每个连续序列的起始位置。这可以通过比较当前行与前一行的数据来实现。如果它们不相同,则表示一个新的连续序列开始了。

PictoGraphic PictoGraphic

AI驱动的矢量插图库和插图生成平台

PictoGraphic 133 查看详情 PictoGraphic
# 标记新序列的开始
is_new_block = (df['class'] != df['class'].shift())
print(is_new_block)

输出(部分):

0      True  # 'a' 是第一个,与None不同
1     False  # 'a' 与 'a' 相同
2     False  # 'a' 与 'a' 相同
3      True  # 'b' 与 'a' 不同
...

为连续块分配唯一标识

接下来,我们将利用cumsum()将这些True(视为1)累加起来,为每个连续块生成一个唯一的标识符。

# 为每个连续块生成唯一ID
block_id = (df['class'] != df['class'].shift()).cumsum()
print(block_id)

输出(部分):

0     1
1     1
2     1
3     2
...

这个block_id是解决问题的关键,因为它将原始数据流中的所有连续相同元素有效地“分组”了。

计算每个连续块的大小

现在我们有了原始的class列以及为每个连续块生成的block_id。我们可以利用这两个信息进行分组,并计算每个组的大小。

我们将同时基于class列和block_id列进行分组。这样可以确保即使两个不连续的'a'块,也会因为它们的block_id不同而被视为不同的组。然后,使用transform('size')来获取每个组的元素数量,并将其广播回原始DataFrame的形状。

完整代码实现

import pandas as pd

# 示例数据
data = {'class': ['a', 'a', 'a', 'b', 'b', 'c', 'd', 'e', 'e', 'e', 'f', 'a', 'c', 'd', 'd']}
df = pd.DataFrame(data)

print("原始DataFrame:")
print(df)
print("-" * 30)

# 核心解决方案:
# 1. (df['class'] != df['class'].shift()) 生成一个布尔序列,标记每个新连续块的开始。
#    第一个元素通常是True(因为NaN != value)。
# 2. .cumsum() 将这些True/False(1/0)累加,为每个连续块分配一个唯一的整数ID。
# 3. df.groupby(['class', block_id]) 根据原始类别和连续块ID进行分组。
#    这确保了即使值相同但位置不连续的元素也会被分到不同的组。
# 4. .transform('size') 计算每个组的大小,并将结果广播回原始DataFrame的索引,
#    使得每个原始行都能得到其所属连续块的计数。
df['consecutive_count'] = df.groupby(['class', (df['class'] != df['class'].shift()).cumsum()]).transform('size')

print("\n结果DataFrame:")
print(df)

输出结果:

原始DataFrame:
   class
0      a
1      a
2      a
3      b
4      b
5      c
6      d
7      e
8      e
9      e
10     f
11     a
12     c
13     d
14     d
------------------------------

结果DataFrame:
   class  consecutive_count
0      a                  3
1      a                  3
2      a                  3
3      b                  2
4      b                  2
5      c                  1
6      d                  1
7      e                  3
8      e                  3
9      e                  3
10     f                  1
11     a                  1
12     c                  1
13     d                  2
14     d                  2

可以看到,最终结果与我们期望的完全一致。

总结与应用

通过结合shift()、cumsum()和groupby().transform('size'),我们能够高效且准确地统计Pandas DataFrame中连续相同值的行数。这种方法不仅适用于字符串类型的数据,也同样适用于数值类型。

关键点回顾:

  • df.shift():用于获取前一行的值,是识别序列变化的基石。
  • df['col'] != df['col'].shift():生成一个布尔序列,标记每个新连续块的起点。
  • .cumsum():将布尔序列转换为唯一的整数ID,从而将连续块逻辑地分组。
  • df.groupby([original_col, block_id_col]):基于原始值和生成的块ID进行分组,确保了组的唯一性。
  • .transform('size'):计算每个组的大小,并将结果“广播”回原始DataFrame的相应位置,保持了DataFrame的原始结构。

掌握这种模式对于处理时间序列数据、日志分析或任何需要识别和量化连续事件的场景都非常有用。它展示了Pandas在复杂数据操作方面的强大灵活性和表达力。

以上就是Pandas教程:高效统计并记录连续相同值的行数的详细内容,更多请关注其它相关文章!


# 命令行  # 官方打击seo  # 站内seo优化领会易.速达  # 网站云推广联系方式  # 苏州网站如何推广产品呢  # 临沂抖音seo排名经营  # 胜芳数字营销推广收费  # 杭州seo站外推广  # 鞍山专业网站建设  # 南皮普通网站建设  # 学校SEO基础知识  # python  # 解决问题  # 适用于  # 第一个  # 也会  # 这一  # 转换为  # 并将  # 布尔  # 行数  # 工具 


相关栏目: 【 科技资讯46185 】 【 网络学院92790


相关推荐: css卡片内容溢出如何处理_使用overflow隐藏或scroll显示内容  微信商城在哪里打开【步骤】  Python字典中优雅地迭代剩余元素的方法  Win11怎么查看显卡显存 Win11显示适配器属性及专用视频内存查询  Go语言中对Map值调用带指针接收者方法:原理与最佳实践  MAC如何安全彻底地删除文件_MAC使用终端命令确保文件无法被恢复  php源码怎么在电脑上测试_电脑测试php源码方法步骤【教程】  响应式图片在网页设计中的正确实现方法  为什么简单的XML文件也会解析失败? 检查隐藏的非打印字符(如BOM)的方法  浏览器打开即用 美图秀秀网页版入口  LINUX下如何进行磁盘分区_fdisk与parted工具在LINUX中的使用对比  押井守高度称赞《辐射4》:玩了八年都停不下来!  漫蛙2漫画入口 漫蛙正版网页漫画直达网址  Excel如何用迷你图显趋势_Excel用迷你图显趋势【趋势小图】  台积电1.4nm工艺A14瞄准2028:10年来性能提升80%  J*a递归快速排序中静态变量的状态管理与陷阱  抖音怎么赚钱_抖音创作者变现方法与途径指南  使用 Pandas 高效处理 .dat 文件:数据清洗与数值计算实战  如何在网页中实现特定地点的随机图片展示  如何在低配置电脑上搭建轻量级J*a环境_占用更小的环境选择技巧  Composer如何在生产环境安全地执行composer update  Golang如何通过reflect操作map_Golang reflect map操作与遍历技巧  蛙漫移动版在线看 蛙漫手机浏览器直达入口  TikTok国际版官网直达_TikTok国际版官网直达进入在线观看  淘宝网网页版登录入口 淘宝官方网页版快捷登录  qq邮箱日历功能怎么用_创建日程与会议邀请的技巧  AWS EC2实例间SQL Server连接超时:安全组配置与故障排除指南  4399免费游戏网址入口 4399小游戏免费入口点开即玩  想当下一个《2077》?《心之眼》Steam评价升至"多半好评"  单射、满射与双射的关系 一文理清所有逻辑  J*a TimerTask中HashMap意外清空的深层原因与解决方案  构建轻量级网站内部消息系统:Formspree 集成指南  163邮箱官方主页登录 直达网易邮箱登录核心页面  qq游戏跨平台入口_qq游戏多设备同步登录  CSS Flexbox如何实现多行排列_flex-wrap wrap自动换行显示  Python Socket多播通信中指定源IP地址的实践指南  Lar*el Excel导入时生成自定义递增ID的策略与实践  VS Code远程开发时如何处理文件权限问题  Windows 11怎么彻底关闭定位_Windows 11服务中禁用Geolocation  React Router v6 教程:构建认证保护的私有路由与重定向策略  夸克浏览器桌面版同步不了书签怎么处理 夸克浏览器跨设备同步异常解决方案  品牌机怎么重装系统 联想/戴尔/惠普笔记本恢复出厂系统教程  高德地图家和公司地址在哪设置 高德地图通勤路线设置方法【超详细】  漫蛙漫画官方主页入口 漫蛙MANWA网页直达访问链接  C++ typeid如何获取类型信息_C++ RTTI运行时类型识别用法  如何提高微信支付的安全性_微信支付安全防护与设置建议  Python vgamepad库按键模拟:正确使用XUSB_BUTTON常量  在J*a中如何使用BigDecimal进行高精度计算_BigDecimal类应用指南  React Router 嵌套组件中 URL 重定向问题的解决方案  AO3官方可用镜像 Archive of Our Own网页版最新入口 

搜索