0

0

优化Pandas滚动平均:处理序列两端数据

碧海醫心

碧海醫心

发布时间:2025-10-26 12:12:20

|

461人浏览过

|

来源于php中文网

原创

优化Pandas滚动平均:处理序列两端数据

本文旨在解决pandas `rolling().mean()`在处理时间序列两端时产生的`nan`值和数据滞后问题。通过详细阐述`min_periods=1`和`center=true`参数的联合使用,我们将展示如何实现类似matlab `smooth`函数的可变窗口移动平均,从而在不引入`nan`或偏移的情况下,平滑处理整个数据集。

Pandas滚动平均的挑战与默认行为

在数据分析中,移动平均是一种常用的平滑技术,用于消除短期波动并识别长期趋势。Pandas库提供了强大的rolling()方法来实现这一功能。然而,当直接使用df['signal'].rolling(window=N).mean()时,通常会遇到两个主要问题:

  1. 边界NaN值: 默认情况下,rolling()方法需要窗口内有足够的数据点才能计算平均值。这意味着在序列的开始和结束部分,由于数据点不足以填充整个指定窗口,结果会产生NaN(Not a Number)值。例如,对于一个窗口大小为9的移动平均,如果center=True,则前4个和后4个位置将是NaN;如果center=False(默认行为,窗口右对齐),则前8个位置将是NaN。
  2. 数据滞后或偏移: 如果不设置center=True,rolling()方法默认将计算结果分配给窗口的右边缘(即窗口的最后一个元素)。这会导致输出信号相对于原始输入信号产生一个滞后(例如,对于窗口大小为9,会滞后8个位置),使得平滑后的数据与原始数据的时间对齐性变差。

以下是一个默认Pandas滚动平均的示例,以说明这些问题:

import pandas as pd
import numpy as np

# 创建一个示例Series
data = pd.Series(np.sin(np.linspace(0, 10, 50)) + np.random.randn(50) * 0.1)
window_size = 9

# 默认的滚动平均(窗口右对齐,可能产生NaN和滞后)
default_rolling_mean = data.rolling(window=window_size).mean()

print("原始数据前10个点:\n", data.head(10))
print("\n默认滚动平均前10个点(注意NaN和滞后):\n", default_rolling_mean.head(10))
print("\n默认滚动平均后10个点:\n", default_rolling_mean.tail(10))

在上述输出中,可以看到default_rolling_mean的前8个值是NaN,并且结果相对于原始数据是右移的(滞后)。

类似MATLAB smooth函数的需求

在某些应用场景中,我们希望移动平均的行为能够更加“智能”地处理序列两端。例如,MATLAB的smooth函数在处理边界时,会动态调整窗口大小:在序列的起始阶段,窗口会从1开始逐渐增长,直到达到指定的最大窗口大小;在序列的结束阶段,窗口则会逐渐缩小。这种方式的优点是:

  • 避免NaN值: 即使数据点不足,也能计算出有效的平均值。
  • 消除滞后: 通过将计算结果对齐到当前窗口的中心,保持了平滑数据与原始数据的时间同步性。
  • 平滑过渡: 边界处的平均值虽然基于较少的数据点,但仍然提供了有意义的平滑结果。

Pandas解决方案:min_periods与center参数

Pandas的rolling()方法提供了min_periods和center这两个参数,可以完美地模拟上述MATLAB smooth函数的行为,从而解决边界NaN和滞后问题。

Cutout.Pro
Cutout.Pro

AI驱动的视觉设计平台

下载
  1. min_periods=1: 此参数指定了计算滚动统计量所需的最小观测值数量。将其设置为1,意味着只要窗口中至少有一个有效数据点,就可以计算平均值。这样,在序列的起始和结束部分,即使无法填充完整的window_size,也能得到一个非NaN的结果。窗口会从1开始,逐渐增大到window_size。
  2. center=True: 此参数指示是否将滚动窗口的标签设置为窗口的中心。当设置为True时,计算出的平均值将被放置在当前窗口的中间位置,从而确保平滑后的数据与原始数据在时间上对齐,避免了滞后问题。

结合这两个参数,我们可以实现所需的自适应窗口移动平均:

import pandas as pd
import numpy as np

# 创建一个示例Series
data = pd.Series(np.sin(np.linspace(0, 10, 50)) + np.random.randn(50) * 0.1)
window_size = 9

# 优化后的滚动平均(自适应窗口,中心对齐,无NaN)
optimized_rolling_mean = data.rolling(window=window_size, min_periods=1, center=True).mean()

print("原始数据前10个点:\n", data.head(10))
print("\n优化后滚动平均前10个点(无NaN,中心对齐):\n", optimized_rolling_mean.head(10))
print("\n优化后滚动平均后10个点:\n", optimized_rolling_mean.tail(10))

# 绘制对比图
import matplotlib.pyplot as plt

plt.figure(figsize=(12, 6))
plt.plot(data, label='原始数据', alpha=0.7)
plt.plot(default_rolling_mean, label='默认滚动平均 (window=9)', linestyle='--')
plt.plot(optimized_rolling_mean, label='优化滚动平均 (window=9, min_periods=1, center=True)', color='red')
plt.title('Pandas滚动平均对比')
plt.xlabel('索引')
plt.ylabel('值')
plt.legend()
plt.grid(True)
plt.show()

从输出和对比图中可以看出,optimized_rolling_mean在序列的起始和结束部分都没有NaN值,并且平滑后的曲线与原始数据保持了良好的时间对齐性。在边界处,虽然计算是基于较少的数据点,但其行为与MATLAB的smooth函数非常相似,提供了一个更完整的平滑结果。

注意事项与总结

  • 边界值的特殊性: 尽管min_periods=1解决了NaN问题,但需要理解,在序列两端计算出的平均值是基于小于window_size的数据点。这意味着这些边界处的平均值不如中间部分基于完整窗口的平均值“稳定”或“代表性”。然而,对于许多应用而言,这种平滑的过渡比出现NaN或数据滞后更可取。
  • 性能考量: 对于非常大的数据集,rolling()方法通常是高效的,因为它是用C语言实现的。
  • 适用性: 这种方法非常适用于需要对整个时间序列进行平滑处理,且不希望因边界效应而丢失数据或引入偏移的场景,例如信号处理、金融数据分析等。

通过巧妙地结合min_periods=1和center=True这两个参数,Pandas的rolling()方法能够提供一个强大且灵活的移动平均解决方案,有效地克服了传统固定窗口移动平均在序列边界处的问题,实现了更平滑、更完整的数据处理体验。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

401

2023.06.20

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

620

2023.07.25

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

354

2023.08.02

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

259

2023.08.09

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

606

2023.09.05

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

531

2023.09.20

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

647

2023.09.20

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

604

2023.09.22

C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

14

2026.01.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Rust 教程
Rust 教程

共28课时 | 5.1万人学习

Kotlin 教程
Kotlin 教程

共23课时 | 3万人学习

Go 教程
Go 教程

共32课时 | 4.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号