新闻中心

Python Pandas:基于列名前缀合并与归一化DataFrame数据

2025-12-05
浏览次数:
返回列表

Python Pandas:基于列名前缀合并与归一化DataFrame数据

本文详细介绍了如何使用pandas库处理具有特殊命名规则的dataframe列。针对以'+'或'-'前缀命名的列,教程演示了如何将'-'前缀列的值取反,然后通过正则表达式去除前缀,最终利用`groupby`和`sum`操作将对应列合并,实现数据归一化。此方法能有效整合正负值,生成结构清晰、易于分析的新dataframe。

在数据处理和分析过程中,我们经常会遇到需要对DataFrame中的数据进行归一化或合并的情况。有时,数据集的列名会带有特定的前缀,例如+和-,它们可能分别代表某一指标的正向和负向贡献。本教程将详细讲解如何处理这类特殊结构的DataFrame,通过将负向贡献从正向贡献中减去,并统一列名,从而得到一个规范化的数据集。

1. 理解问题背景与目标

假设我们有一个DataFrame,其列名以+或-开头,例如+Col01和-Col01。我们的目标是实现以下转换:

  1. 将所有以-开头的列的值乘以-1,使其变为负数。
  2. 对于具有相同基础名称(即去除+或-前缀后)的列(如+Col01和-Col01),将它们合并成一列(如Col01)。合并的逻辑是简单求和,由于第二步已将负向列的值取反,求和操作实际上就实现了“正值减去负值”的效果。
  3. 对于只有+或只有-前缀的列,也应正确处理并保留其值(对于-前缀的列,其值将变为负数)。
  4. 最终,所有列名都应去除+或-前缀。

让我们通过一个具体的例子来演示这个过程。

2. 准备示例数据

首先,我们创建一个符合上述描述的Pandas DataFrame作为示例:

import pandas as pd

data = {
    'RepID': [1, 2, 3, 4, 5],
    '+Col01': [5, 1, 9, 3, 0],
    '+Col02': [7, 3, 8, 1, 7],
    '+Col03': [9, 3, 0, 0, 1],
    '-Col01': [8, 3, 9, 5, 2],
    '+Col04': [3, 1, 4, 8, 0],
    '+Col05': [8, 2, 9, 7, 0],
    '-Col03': [1, 2, 5, 1, 2],
    '-Col04': [9, 3, 1, 0, 9],
    '+Col06': [4, 6, 2, 9, 2],
    '-Col07': [6, 0, 0, 2, 1]
}
df = pd.DataFrame(data)

print("原始 DataFrame:")
print(df)

输出的原始 DataFrame 如下:

原始 DataFrame:
   RepID  +Col01  +Col02  +Col03  -Col01  +Col04  +Col05  -Col03  -Col04  +Col06  -Col07
0      1       5       7       9       8       3       8       1       9       4       6
1      2       1       3       3       3       1       2       2       3       6       0
2      3       9       8       0       9       4       9       5       1       2       0
3      4       3       1       0       5       8       7       1       0       9       2
4      5       0       7       1       2       0       0       2       9       2       1

3. 实现数据归一化与列合并

我们将分步实现上述目标。

3.1 识别并反转负向列的值

首先,我们需要识别所有以-开头的列,并将其值乘以-1。这样,当我们将这些列与对应的+列相加时,实际上就实现了减法操作。

# 识别所有以'-'开头的列名
negative_cols = df.columns[df.columns.str.startswith('-')]

# 将这些列的值乘以-1
df[negative_cols] = df[negative_cols].mul(-1)

print("\n反转'-'前缀列值后的 DataFrame:")
print(df)

此时 DataFrame 的变化:

反转'-'前缀列值后的 DataFrame:
   RepID  +Col01  +Col02  +Col03  -Col01  +Col04  +Col05  -Col03  -Col04  +Col06  -Col07
0      1       5       7       9      -8       3       8      -1      -9       4      -6
1      2       1       3       3      -3       1       2      -2      -3       6       0
2      3       9       8       0      -9       4       9      -5      -1       2       0
3      4       3       1       0      -5       8       7      -1       0       9      -2
4      5       0       7       1      -2       0       0      -2      -9       2      -1

可以看到,-Col01、-Col03、-Col04和-Col07列的值已经变成了负数。

3.2 生成用于分组的基础列名

为了将+Col01和-Col01合并为Col01,我们需要一个共同的“键”。这个键就是去除+或-前缀后的列名。我们可以使用字符串替换和正则表达式来完成此操作。

WOC开源网站运营管理系统1.2 WOC开源网站运营管理系统1.2

WOC是基于zend framework1.6框架所开发的一款开源简易网站运营管理系统。它允许进行网站管理、主机管理、域名管理、数据库管理、邮箱管理以及用户管理、角色管理、权限管理等一系列功能,适合中小企业进行网站运营管理。目前版本为V1.2,新版本正在开发中,同时欢迎大家参与到开发中来! WOC升级说明: 1.1在1.0的基础上进行了代码规范并增加了配置数据缓存,以提高访问速度 注意:升级时要重

WOC开源网站运营管理系统1.2 3 查看详情 WOC开源网站运营管理系统1.2
# 使用正则表达式去除列名中的'+'或'-'前缀,生成用于分组的新列名列表
# '[+-]' 匹配 '+' 或 '-' 字符
# regex=True 表示使用正则表达式
group_names = df.columns.str.replace('[+-]', '', regex=True)

print("\n生成的用于分组的列名列表:")
print(group_names)

group_names将是:

Index(['RepID', 'Col01', 'Col02', 'Col03', 'Col01', 'Col04', 'Col05', 'Col03',
       'Col04', 'Col06', 'Col07'],
      dtype='object')

注意,此时Col01、Col03、Col04出现了重复,这正是我们想要分组的依据。

3.3 按基础列名分组并求和

现在,我们可以使用groupby方法,以group_names作为分组依据,并沿着列轴(axis=1)进行求和。

# 按新的列名列表进行分组,并在列轴上求和
# axis=1 表示按列进行分组操作
# sort=False 保持原始列的相对顺序
output_df = df.groupby(group_names, axis=1, sort=False).sum()

print("\n最终归一化后的 DataFrame:")
print(output_df)

最终归一化后的 DataFrame 如下:

最终归一化后的 DataFrame:
   RepID  Col01  Col02  Col03  Col04  Col05  Col06  Col07
0      1     -3      7      8     -6      8      4     -6
1      2     -2      3      1     -2      2      6      0
2      3      0      8     -5      3      9      2      0
3      4     -2      1     -1      8      7      9     -2
4      5     -2      7     -1     -9      0      2     -1

让我们以第一行为例,验证Col01、Col03、Col04和Col07的计算:

  • Col01: 原始 +Col01 是 5,-Col01 是 8。反转后 -Col01 变为 -8。所以 5 + (-8) = -3。
  • Col02: 原始 +Col02 是 7。没有 -Col02。所以 7。
  • Col03: 原始 +Col03 是 9,-Col03 是 1。反转后 -Col03 变为 -1。所以 9 + (-1) = 8。
  • Col04: 原始 +Col04 是 3,-Col04 是 9。反转后 -Col04 变为 -9。所以 3 + (-9) = -6。
  • Col05: 原始 +Col05 是 8。没有 -Col05。所以 8。
  • Col06: 原始 +Col06 是 4。没有 -Col06。所以 4。
  • Col07: 原始 -Col07 是 6。反转后 -Col07 变为 -6。所以 -6。

所有计算结果与预期完全一致。

4. 完整代码示例

将上述步骤整合到一起,得到完整的解决方案代码:

import pandas as pd

# 1. 准备示例数据
data = {
    'RepID': [1, 2, 3, 4, 5],
    '+Col01': [5, 1, 9, 3, 0],
    '+Col02': [7, 3, 8, 1, 7],
    '+Col03': [9, 3, 0, 0, 1],
    '-Col01': [8, 3, 9, 5, 2],
    '+Col04': [3, 1, 4, 8, 0],
    '+Col05': [8, 2, 9, 7, 0],
    '-Col03': [1, 2, 5, 1, 2],
    '-Col04': [9, 3, 1, 0, 9],
    '+Col06': [4, 6, 2, 9, 2],
    '-Col07': [6, 0, 0, 2, 1]
}
df = pd.DataFrame(data)

print("--- 原始 DataFrame ---")
print(df)

# 2. 识别并反转负向列的值
# 提取所有以'-'开头的列名
negative_cols = df.columns[df.columns.str.startswith('-')]
# 将这些列的值乘以-1
df[negative_cols] = df[negative_cols].mul(-1)

# 3. 生成用于分组的基础列名
# 使用正则表达式去除列名中的'+'或'-'前缀
group_names = df.columns.str.replace('[+-]', '', regex=True)

# 4. 按基础列名分组并求和
# 在列轴上按group_names分组,并对每个组求和
# sort=False 保持原始列的相对顺序,对于RepID等非归一化列尤其重要
output_df = df.groupby(group_names, axis=1, sort=False).sum()

print("\n--- 归一化后的 DataFrame ---")
print(output_df)

5. 注意事项与总结

  • axis=1 的重要性:在 groupby 操作中,axis=1 是关键。它告诉 Pandas 沿着列方向进行分组和聚合,而不是默认的行方向。
  • sort=False 的作用:为了保持原始 DataFrame 中列的相对顺序(例如 RepID 应该始终在最前面),我们使用了 sort=False。如果设置为 True(默认值),groupby 会对分组键进行排序,可能改变列的顺序。
  • 正则表达式 [+-]:这个正则表达式匹配单个的 + 或 - 字符。regex=True 参数是必需的,以启用正则表达式匹配。
  • 处理只有+或只有-的列:本方法能够正确处理只有+前缀或只有-前缀的列。例如,+Col02没有对应的-Col02,它会自成一组,其值保持不变。-Col07没有对应的+Col07,其值在第一步被反转后,也会自成一组,最终以负值形式存在。
  • 数据类型:此方法假设相关列包含数值数据。如果列中包含非数值数据,mul(-1)或sum()操作可能会引发错误或产生非预期的结果。

通过上述步骤,我们成功地将带有特殊前缀的 DataFrame 列进行了归一化和合并,生成了一个结构清晰、易于进一步分析的新 DataFrame。这种方法在处理需要整合正负贡献的数据集时非常有效。

以上就是Python Pandas:基于列名前缀合并与归一化DataFrame数据的详细内容,更多请关注其它相关文章!


# 源代码  # 吴中区网站建设论文  # 服装怎么做境外网站推广  # 博乐关键词排名解决方案  # 宁安网站建设  # 营销推广的开场白  # 海外seo新人  # 永城律师网站推广公司  # seo网站页面诊断  # 河北邯郸网络推广seo优化  # 华富网站推广计划  # python  # 数据包  # 转换为  # 可以使用  # 让我们  # 如何将  # 并与  # 开源  # 管理系统  # 正则表达式 


相关栏目: 【 科技资讯46185 】 【 网络学院92790


相关推荐: 蛙漫画网页版全站入口 蛙漫热门作品免费浏览  在Go Martini框架中高效服务动态生成图像的实践指南  J*aScript中管理异步API调用:确保操作顺序与数据一致性  Python getattr() 异常处理深度解析:避免程序意外退出  动漫花园资源网使用步骤_动漫花园资源网下载流程  C++如何生成随机数_C++ random库使用方法与范围设置  Linux如何构建多环境配置管理_Linux多环境配置方案  树莓派传感器触发:通过Twilio API发送WhatsApp消息教程  mc.js游戏直达 mc.js网页免下载版本秒进地址  XML中包含HTML标签导致解析错误? 正确嵌入非XML数据的两种方法  解决macOS Tkinter应用双击启动崩溃:PyInstaller打包指南  AO3最新官网入口公告_2025AO3镜像站实时查询方法  PS5 Pro有点优势但不多! 《燕云十六声》PS5平台与PC性能画面对比  QQ邮箱官方网站登录入口_QQ邮箱网页版在线使用  Fabric Mod开发:在1.19.3+版本中正确添加自定义物品并管理物品组  Python实时数据流中的动态最值查找策略  高德地图总提示网络异常怎么办 高德地图离线导航设置与网络排查方法  2026春节假期票务安排_2026春节放假购票指南  怎样使用“本地安全策略”提升Windows安全性_Secpol.msc配置指南【高手】  Win11怎么关闭触摸屏_Windows 11禁用HID符合标准触摸屏  如何优雅地解决Livewire文件上传难题?SpatieLivewireFilepond让一切变得简单  mysql如何设置表访问权限_mysql表访问权限配置  PDF怎么合并PDF并保持格式_PDF合并文件保持排版教程  如何在更新Composer依赖后自动运行测试_使用post-update-cmd钩子触发PHPUnit  漫蛙Manwa2官网入口地址分享 漫蛙漫画PC版永久访问通道  Lar*el Excel导入时生成自定义递增ID的策略与实践  c++如何使用折叠表达式(Fold Expressions)_c++17可变参数模板新技巧  提升Kafka消费者健壮性:会话超时处理与消息处理语义  动漫共和国防屏蔽稳定域名-动漫共和国官方正版直达通道  双系统安装时,如何设置默认启动系统? msconfig命令了解一下!  离线运行Go语言之旅:本地部署与GOPATH配置指南  蛙漫2台版漫画地址 Manwa2正版网页版链接  微信客户端如何收红包_微信客户端接收红包使用教程  Win11如何开启讲述人功能 Win11屏幕阅读器(讲述人)开启与关闭【教程】  Python自定义类排序:解决lambda键值访问TypeError的实践指南  163邮箱注册官网 免费申请163个人邮箱  yy漫画网页版官方入口_yy漫画官网登录页面链接  J*aScript中在Map循环中检测并处理空数组元素  深入理解J*a编译器的兼容性选项:从-source到--release  可靠CSGO开箱平台解析 CSGO开箱网合集  在J*a中如何使用Stream.map转换元素_Stream映射操作解析  Win11 BitLocker密码忘了怎么办 Win11找回BitLocker恢复密钥方法【解决】  React项目中导航栏Logo自适应布局:避免裁剪与布局溢出  如何将HTML表格多行数据保存到Google Sheet  谷歌google账号注册详细步骤 谷歌账号注册官方教程  淘宝网网页版登录入口 淘宝官方网页版快捷登录  天眼查怎么看公司融资情况 天眼查企业融资历史查询步骤【攻略】  Win11怎么安装Linux子系统 Win11 WSL2安装Ubuntu及环境配置指南  mcjs网页版在线存档 mcjs云存档登录入口  黑鲨3Pro怎样在相册开漫画风滤镜_iPhone黑鲨3Pro相册开漫画风滤镜【趣味滤镜】 

搜索