0

0

高效计算带去重逻辑的滚动均值(面试题解析与实现)

霞舞

霞舞

发布时间:2026-03-04 10:45:01

|

266人浏览过

|

来源于php中文网

原创

高效计算带去重逻辑的滚动均值(面试题解析与实现)

本文详解如何在时间序列数据中高效计算滚动均值,要求对重复姓名仅保留最新记录(按时间升序),避免重复计算,适用于面试场景与实际数据分析任务。

本文详解如何在时间序列数据中高效计算滚动均值,要求对重复姓名仅保留最新记录(按时间升序),避免重复计算,适用于面试场景与实际数据分析任务。

在数据分析与算法面试中,常遇到一类“带条件的滚动统计”问题:不仅需按时间维度累积计算(如滚动均值),还需动态维护业务逻辑约束(例如:同一用户只计最新值)。本题即典型代表——给定按时间分组的观测数据,要求对每个时间点 t,计算所有 time ≤ t 的记录中、每个 name 仅保留最后出现的一条(即按时间顺序的最新值)后的 val 均值。

关键难点在于:
去重逻辑非全局静态,而是随窗口扩展动态变化(时间 2 的窗口包含时间 1 和 2 的数据,但 Andy 在时间 1 和 2 均出现,只取时间 2 的 val=5);
性能敏感,不可对每个时间点全量重扫历史数据(如嵌套循环遍历所有先前行);
结果需可扩展,支持任意长度的时间序列,而非仅限两步示例。

✅ 推荐解法:基于 sort + groupby + expanding 的向量化方案

最简洁、高效且符合 pandas 设计哲学的方式是:先按时间升序排序,再对 names 做 last 去重,最后对去重后数据按 time 做累积聚合。该方案时间复杂度为 O(n log n),空间可控,且完全向量化,无显式 Python 循环:

import pandas as pd

data = pd.DataFrame({
    'time': [1, 1, 1, 2, 2, 2],
    'names': ["Andy", "Bob", "Karen", "Andy", "Matt", "Sim"],
    'val': [1, 2, 3, 5, 6, 8]
})

# 步骤 1:确保时间有序(关键!去重逻辑依赖顺序)
data_sorted = data.sort_values('time').reset_index(drop=True)

# 步骤 2:对每个 name 取其在当前已处理时间范围内的最新值
# 方法:按 names 分组,取每组最后一条(即时间最大的那条)
# 注意:因已排序,groupby(...).last() 天然满足“最新”
deduped = data_sorted.groupby('names', as_index=False).last()

# 步骤 3:按 time 分组求均值 → 得到每个 time 点的独立均值(非滚动)
# 但题目要求的是「截至 time t 的所有记录中去重后的均值」→ 即 expanding window
# 因此需构建累计数据集:
cumulative_deduped = []
for t in sorted(data['time'].unique()):
    # 取 time <= t 的所有行
    window_df = data_sorted[data_sorted['time'] <= t]
    # 对该窗口内 names 去重(取 last)
    latest_in_window = window_df.groupby('names', as_index=False).last()
    cumulative_deduped.append({
        'time': t,
        'mean_val': latest_in_window['val'].mean()
    })

result_df = pd.DataFrame(cumulative_deduped)
print(result_df)

输出:

HaiSnap
HaiSnap

一站式AI应用开发和部署工具

下载
   time  mean_val
0     1       2.0
1     2       4.8

✅ 验证:

  • time=1:窗口含 [Andy:1, Bob:2, Karen:3] → 均值 = (1+2+3)/3 = 2.0
  • time=2:窗口含全部 6 行;Andy 出现两次(time1=1, time2=5)→ 取 val=5;其余 Bob:2, Karen:3, Matt:6, Sim:8 无重复 → 共 5 个值:(2+3+5+6+8)/5 = 24/5 = 4.8

⚠️ 注意事项与进阶优化

  • 排序不可省略:groupby(...).last() 依赖于数据在内存中的物理顺序。若原始数据未按 time 排序,last 可能返回错误记录(如 time=1 的 Andy 被误留)。务必先 sort_values('time')。
  • 避免低效循环:面试中若用双重 for 循环(对每个 t 扫描所有行再手动去重),时间复杂度达 O(n²),会被判定为不通过。上述方案将核心去重逻辑交给 pandas C 实现,显著提速。
  • 扩展性提示:若数据量极大(千万级),可考虑使用 dask.dataframe 或 polars 替代 pandas;后者语法更简洁:
    import polars as pl
    df = pl.from_pandas(data)
    result = (df.sort("time")
              .group_by_rolling("time", period="1i")  # 伪滚动(需适配)
              .agg(pl.col("val").filter(~pl.col("names").is_duplicated().over("names")).mean())
             )
  • 边界情况处理:实际代码中应增加空值检查(如某 time 点无数据)、val 非数值类型校验等鲁棒性逻辑。

✅ 总结

解决此类“带状态滚动统计”问题的核心思路是:将动态去重转化为按时间窗口的局部 groupby(...).last() 操作,再结合累积窗口迭代。它平衡了可读性、性能与工程可维护性,是面试与生产环境的优选策略。掌握此模式,可快速迁移至类似场景(如滚动去重计数、滚动最新价格、用户生命周期价值滚动更新等)。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

76

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

sort排序函数用法
sort排序函数用法

sort排序函数的用法:1、对列表进行排序,默认情况下,sort函数按升序排序,因此最终输出的结果是按从小到大的顺序排列的;2、对元组进行排序,默认情况下,sort函数按元素的大小进行排序,因此最终输出的结果是按从小到大的顺序排列的;3、对字典进行排序,由于字典是无序的,因此排序后的结果仍然是原来的字典,使用一个lambda表达式作为key参数的值,用于指定排序的依据。

408

2023.09.04

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

486

2023.08.14

数据分析的方法
数据分析的方法

数据分析的方法有:对比分析法,分组分析法,预测分析法,漏斗分析法,AB测试分析法,象限分析法,公式拆解法,可行域分析法,二八分析法,假设性分析法。php中文网为大家带来了数据分析的相关知识、以及相关文章等内容。

500

2023.07.04

数据分析方法有哪几种
数据分析方法有哪几种

数据分析方法有:1、描述性统计分析;2、探索性数据分析;3、假设检验;4、回归分析;5、聚类分析。本专题为大家提供数据分析方法的相关的文章、下载、课程内容,供大家免费下载体验。

290

2023.08.07

网站建设功能有哪些
网站建设功能有哪些

网站建设功能包括信息发布、内容管理、用户管理、搜索引擎优化、网站安全、数据分析、网站推广、响应式设计、社交媒体整合和电子商务等功能。这些功能可以帮助网站管理员创建一个具有吸引力、可用性和商业价值的网站,实现网站的目标。

756

2023.10.16

数据分析网站推荐
数据分析网站推荐

数据分析网站推荐:1、商业数据分析论坛;2、人大经济论坛-计量经济学与统计区;3、中国统计论坛;4、数据挖掘学习交流论坛;5、数据分析论坛;6、网站数据分析;7、数据分析;8、数据挖掘研究院;9、S-PLUS、R统计论坛。想了解更多数据分析的相关内容,可以阅读本专题下面的文章。

531

2024.03.13

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

23

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号