新闻中心

在Polars LazyFrame中执行除索引列外的多列乘积运算

2025-11-15
浏览次数:
返回列表

在Polars LazyFrame中执行除索引列外的多列乘积运算

本文详细介绍了如何在polars lazyframe中,对两个具有相同结构和时间索引的数据帧进行列式乘法运算,同时排除作为索引的时间列。与pandas的隐式操作不同,polars通过利用`pl.struct`将非索引列打包、执行基于时间列的`join`操作,然后对结构体进行元素级乘法,最后使用`unnest`展开结果,从而实现高效且明确的多列乘积计算,尤其适用于大规模数据集的惰性计算场景。

Polars LazyFrame 多列乘积运算:排除特定列的结构化方法

在数据处理和分析中,经常需要对两个结构相似的数据集执行逐列操作,例如乘法。对于熟悉Pandas的用户来说,直接使用df1 * df2即可实现基于索引的列式乘积。然而,当迁移到Polars,特别是使用其强大的LazyFrame功能时,实现类似操作需要更具Polars特色的方法。本文将详细阐述如何在Polars LazyFrame中,高效地对两个DataFrame(排除作为索引的列)执行列式乘积运算。

1. 问题背景与Pandas对比

在Pandas中,如果两个DataFrame具有相同的索引和列名,可以直接通过乘法运算符进行逐元素相乘:

import pandas as pd
import numpy as np
import polars as pl

n = 5 # 示例数据行数

# 创建示例Pandas DataFrame
df_pd1 = pd.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size=n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size=n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size=n).astype(np.float64)
}).set_index('time')

df_pd2 = pd.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size=n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size=n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size=n).astype(np.float64)
}).set_index('time')

# Pandas中的直接乘法
result_pd = df_pd1 * df_pd2
print("Pandas 乘法结果:")
print(result_pd)

输出结果会是两个DataFrame对应列的乘积,且索引保持不变。

在Polars中,直接对两个LazyFrame执行类似操作(如df1 * df2)并不直接支持,因为Polars的运算符重载和表达式系统设计有所不同。尝试通过concat后group_by并聚合乘积,例如pl.concat([df1, df2]).group_by('time').agg(pl.col("*").mul(pl.col("*"))),通常会导致每个分组返回一个列表,而不是期望的单个乘积值,因为mul操作在聚合上下文中对列表中的每个元素执行,而非聚合整个组的乘积。

2. Polars LazyFrame 的解决方案:结构体与连接

Polars的强大之处在于其表达式系统和对结构化数据的灵活处理。解决此问题的核心思路是:将需要进行乘法运算的列(即除索引列外的所有列)打包成一个结构体(struct),然后通过索引列进行连接(join),最后对连接后的结构体执行乘法,并将结果结构体展开。

首先,创建两个Polars LazyFrame:

# 创建示例Polars LazyFrame
df_pl1 = pl.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size= n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size= n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size= n).astype(np.float64)
}).lazy()

df_pl2 = pl.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size= n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size= n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size= n).astype(np.float64)
}).lazy()

print("\n原始 Polars LazyFrame 1:")
print(df_pl1.collect())
print("\n原始 Polars LazyFrame 2:")
print(df_pl2.collect())

接下来,我们分步实现列式乘法:

步骤 1: 将非索引列打包成结构体

使用pl.struct表达式将除“time”列之外的所有列打包成一个名为“cols”的结构体。这使得我们可以将所有相关列作为一个整体进行处理。

Reachout.ai Reachout.ai

一个AI驱动的视频开发平台,专为忙碌的企业家和销售团队打造

Reachout.ai 142 查看详情 Reachout.ai
# 将df1的非时间列打包成结构体
df_pl1_struct = df_pl1.select("time", cols=pl.struct(pl.exclude("time")))
print("\nLazyFrame 1 结构体化:")
print(df_pl1_struct.collect())

# 将df2的非时间列打包成结构体
df_pl2_struct = df_pl2.select("time", cols=pl.struct(pl.exclude("time")))
print("\nLazyFrame 2 结构体化:")
print(df_pl2_struct.collect())

pl.exclude("time")是一个非常实用的表达式,它会自动选择除“time”列之外的所有列。结果会是一个包含time列和一个名为cols的结构体列的LazyFrame。

步骤 2: 基于索引列进行连接

通过time列对两个结构体化的LazyFrame进行左连接(left join)。这将确保两个DataFrame中对应时间戳的结构体行被对齐。连接后,我们将得到一个包含time、cols(来自df_pl1)和cols_right(来自df_pl2)的LazyFrame。

# 连接两个结构体化的LazyFrame
joined_df = (
    df_pl1_struct
    .join(
       df_pl2_struct,
       on = "time",
       how = "left"
    )
)
print("\n连接后的 LazyFrame:")
print(joined_df.collect())

步骤 3: 对结构体执行元素级乘法

Polars允许直接对结构体列执行元素级运算,前提是结构体中的字段兼容。因此,我们可以直接将cols结构体乘以cols_right结构体。结果将是一个新的结构体,其中包含每个原始字段的乘积。

# 对连接后的结构体执行乘法
multiplied_struct_df = (
    joined_df
    .select("time", pl.col("cols") * pl.col("cols_right"))
)
print("\n结构体乘法后的 LazyFrame:")
print(multiplied_struct_df.collect())

步骤 4: 展开结果结构体

最后一步是使用unnest()方法将乘法结果结构体(这里仍然名为cols,因为它是pl.col("cols") * pl.col("cols_right")的结果,并被赋予了默认名cols)展开回独立的列。这将恢复原始的DataFrame结构,但其中的值已经是乘积结果。

# 展开结构体以获取最终结果
final_result_df = (
    multiplied_struct_df
    .unnest("cols")
)
print("\n最终结果 LazyFrame:")
print(final_result_df.collect())

3. 完整代码示例

将上述步骤整合到一起,形成完整的Polars解决方案:

import pandas as pd
import numpy as np
import polars as pl

n = 5 # 示例数据行数

# 创建示例Polars LazyFrame
df_pl1 = pl.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size= n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size= n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size= n).astype(np.float64)
}).lazy()

df_pl2 = pl.DataFrame(data={
    'time': pd.date_range('2025-01-01', periods=n, freq='1 min'),
    'foo': np.random.uniform(0,127, size= n).astype(np.float64),
    'bar': np.random.uniform(1e3,32767, size= n).astype(np.float64),
    'baz': np.random.uniform(1e6,2147483, size= n).astype(np.float64)
}).lazy()

# Polars 解决方案
result_pl = (
    df_pl1.select("time", cols=pl.struct(pl.exclude("time"))) # 将df1的非时间列打包
    .join(
       df_pl2.select("time", cols=pl.struct(pl.exclude("time"))), # 将df2的非时间列打包并连接
       on = "time",
       how = "left"
    )
    .select("time", pl.col("cols") * pl.col("cols_right")) # 对结构体执行乘法
    .unnest("cols") # 展开结果结构体
    .collect() # 收集结果
)

print("\nPolars LazyFrame 乘法结果:")
print(result_pl)

4. 注意事项与总结

  • 惰性计算的优势: 这种方法充分利用了Polars的惰性计算特性。在.collect()被调用之前,所有的操作都只是构建查询计划,这对于处理大规模数据集非常高效。
  • 明确性与控制: 相比Pandas的隐式行为,Polars要求更明确地定义操作。通过pl.struct和join,我们清晰地表达了“对齐这些数据,然后对特定部分执行操作”的意图。
  • 灵活性: 这种结构体-连接-展开的模式不仅适用于乘法,也适用于其他需要对多列进行并行、元素级操作的场景。
  • 列名冲突: 在join操作中,如果两个DataFrame有除连接键之外的同名列,Polars会自动为右侧DataFrame的列添加后缀(如_right)。本例中,由于我们将非索引列打包成结构体,并分别命名为cols和cols_right,避免了直接的列名冲突。
  • 性能: 对于大型数据集,这种基于表达式和结构体的方法通常比迭代或使用apply函数更具性能优势,因为它允许Polars优化底层的计算。

通过理解和运用pl.struct、join和unnest这些核心概念,Polars用户可以高效且灵活地处理复杂的跨DataFrame操作,充分发挥其在数据处理方面的强大能力。

以上就是在Polars LazyFrame中执行除索引列外的多列乘积运算的详细内容,更多请关注其它相关文章!


# 结构化  # 辽宁正规网站建设包括  # cms淘客网seo设置  # Na2SeO  # seo思维网站精准流量  # 网站推广模板源码  # 视频营销推广怎么推  # seo 难吗  # 外贸网站建设优化营销  # seo跳出率过高  # 吴忠抖音搜索关键词排名  # app  # 如何用  # 这将  # 中对  # 更具  # 数据处理  # 我们可以  # 适用于  # 运算符  # 自定义 


相关栏目: 【 科技资讯46185 】 【 网络学院92790


相关推荐: C#中解析不规范的HTML为XML 常见的坑与解决办法  虫虫漫画精品漫画官网_虫虫漫画精品漫画官网进入精品漫画  MAC的“快捷指令”怎么同步到iPhone_MAC利用iCloud同步所有设备的自动化指令  J*aScript井字棋(Tic-Tac-Toe)核心交互逻辑实现教程  Golang如何实现简单的Web表单_Golang表单提交与验证处理方法  MongoDB聚合管道:正确匹配对象数组中_id的方法  包子漫画官方网站阅读入口-包子漫画在线漫画官网直达链接  UC浏览器官网入口2025最新 UC浏览器网页版正式地址  vivo手机互传视频怎么操作_vivo手机互传视频详细传输方法  word邮件合并后日期格式不对怎么改_Word邮件合并日期格式修改方法  在J*a里如何理解依赖关系的方向_依赖方向在模块结构中的作用  Golang如何测试channel通信行为_Golang channel通信测试与分析方法  Basecamp怎样用留言钉固定重点_Basecamp用留言钉固定重点【重点标记】  C++的std::mdspan是什么_C++23中用于操作多维数组的非拥有视图  Tabulator表格中精确实现日期时间排序的指南  Go语言中JSON数据解码与字段访问指南  优化Django表单:提交验证失败后保留用户输入  小米14应用无法联网原因分析_小米14网络权限修复  Python多版本共存与虚拟环境管理深度指南  从OpenAI API响应中高效提取生成文本  蛙漫漫画官网在线入口 蛙漫全本漫画免费阅读平台  处理动态列数据:J*a ArrayList的正确初始化与字符累加教程  漫蛙manwa官网登录界面_漫蛙漫画网页版主站入口  TikTok搜索不到用户发布内容怎么办 TikTok用户内容搜索优化方法  钉钉视频会议画面卡顿如何解决 钉钉会议画面优化方法  韩剧圈正版入口页面_韩剧圈官网登录链接  C++如何生成随机数_C++ random库使用方法与范围设置  抖音网页版怎么|直播|_抖音网页版开播操作指南  现代化 SciPy 一维插值:interp1d 的替代方案与最佳实践  深入理解J*a编译器的兼容性选项:从-source到--release  地铁跑酷免费秒玩入口链接 地铁跑酷小游戏免费秒玩网站  CSS条件样式无法按设备触发怎么排查_media条件语句正确设置解决触发问题  极兔快递快件信息查询系统 极兔快递官网运单号追踪  铁路12306卧铺选择攻略 铁路12306下铺座位预定技巧  如何使用纯J*aScript判断Input元素是否在特定类容器内  Go语言中动态执行代码字符串的策略与实践  腾讯视频怎么举报不良内容_腾讯视频内容举报流程与违规信息处理方法  微信网页版官方入口直达 微信网页版网页版登录使用方法  优化 Python 函数中的条件逻辑:解决 if-else 嵌套与参数选择问题  steam官方入口大全 steam账号注册及操作指南  优化HTML表单样式:解决输入框焦点跳动与元素间距问题  深入理解J*a链表中的IPosition接口与使用  React列表渲染与独立状态管理:避免全局状态影响局部更新  Golang如何通过reflect操作map_Golang reflect map操作与遍历技巧  windows10怎么关闭系统提示音_windows10彻底静音设置方法  NRF24L01数据传输深度解析:解决大载荷接收异常与分包策略  Node.js CSV 数据处理:基于字段值条件过滤整条记录的策略  Win10双系统截图高效法 截屏快捷键速记【技巧】  快手网页版在线登录 快手网页版官网入口快速访问  AO3最新官网入口公告_2025AO3镜像站实时查询方法 

搜索