Pandas案例精进 | 续集:自动分割汇总表写入到子表

Aidan075
• 阅读 1366

Pandas案例精进 | 续集:自动分割汇总表写入到子表

大家好!

欢迎来到「Pandas案例精进」专栏,点击橙字查看全部

前文回顾:Pandas案例精进 | 自动分割汇总表写入到子表中

本文是承接上一篇的实战案例,没看过的小伙伴建议先点击👆上方链接查看前文

Pandas案例需求

Pandas案例精进 | 续集:自动分割汇总表写入到子表

现在的新需求跟之前的区别有:

汇总表多了级别字段,需要根据不同的级别对应不同的文件夹:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

所属区的xlsx文件有时可能是xls,并不一定是xlsx的。

各级别文件夹中存在一些不能匹配汇总表的垃圾文件需要删除。

汇总表中所有的对应项目并不是都在级别文件夹中存在,不存在的只提示哪些不存在,无需额外处理。

下面是我的实现过程:

数据加载

import os  
import pandas as pd  

excel_dir = os.getcwd()  

data = pd.read_excel(f"{excel_dir}/汇总.xlsx", sheet_name='明细')  
data  

本文直接设置excel_dir为工作目录,大家如果代码和数据不在同一文件夹,可以根据自己的情况更改设置文件路径。

Pandas案例精进 | 续集:自动分割汇总表写入到子表

遍历计算出每级别所涉及的区

level_areas = {}  
for i, row in data.iterrows():  
    areas = level_areas.setdefault(row['级别'], set())  
    areas.add(row['所属区'])  
level_areas  

执行结果

{'一级': {'B区'}, '二级': {'A区', 'C区'}, '三级': {'D区', 'E区'}}  

删除多余文件+转换xls

这里会用到win32com.client库,需要额外安装。

pip install pywin32  

也可使用国内清华源来加快Python库的安装速度。

pip install pywin32 -i https://pypi.tuna.tsinghua.edu.cn/simple  

安装后使用

import win32com.client as win32  

for level in data['级别'].unique():  
    areas = level_areas[level]  
    files = os.listdir(f"{excel_dir}/{level}")  
    for file in files:  
        tag = file.replace(".xlsx", "").replace(".xls", "")  
        filename = f"{excel_dir}/{level}/{file}"  
        if not tag in areas:  
            print(f"删除文件:{filename}")  
            os.remove(filename)  
        elif file.endswith(".xls"):  
            print(f"将 {filename} 转换为 {filename}x")  
            excel = win32.gencache.EnsureDispatch('Excel.Application')  
            try:  
                wb = excel.Workbooks.Open(filename)  
                wb.SaveAs(f"{filename}x", FileFormat=51)  #FileFormat = 51 is for .xlsx extension  
                print("转换成功")  
            finally:  
                wb.Close()  #FileFormat = 56 is for .xls extension  
            excel.Application.Quit()  
            os.remove(filename)  

上述代码可以实现删除级别文件夹多余的文件并将xls转换为xlsx。

比如将 一级/B区.xls 转换为 一级/B区.xlsx

注意:使用pywin32转换excel文件格式时,绝对路径的盘符后面的分隔符必须是反斜杠\,后面的路径分隔符用正斜杠或反斜杠都可以。

遍历出级别和区域

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    display(df)  

执行结果

Pandas案例精进 | 续集:自动分割汇总表写入到子表

写出结果

最后,利用openpyxl库将结果分别写入各级别、各Excel文件中。

from openpyxl import load_workbook  

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    out_file_name = f"{excel_dir}/{level}/{area}.xlsx"  
    if not os.path.exists(out_file_name):  
        print(out_file_name, "文件不存在,跳过")  
        continue  
    print("准备写出到:", out_file_name)  
    workbook = load_workbook(filename=out_file_name)  
    sheet = workbook.active  
    # 先删除第4行之后的旧数据,预计1000行完全够用  
    sheet.delete_rows(idx=4, amount=1000)  
    # 然后再进行添加数据  
    for row in df.values.tolist():  
        sheet.append(row)  
        print(row)  
    print(f"保存到{out_file_name}文件中")  
    workbook.save(filename=out_file_name)  
    workbook.close()  

Pandas案例精进 | 续集:自动分割汇总表写入到子表

小结

估计有朋友觉得本文为了处理几个Excel写了这么多行代码,也没看出来有啥效果。

但是上面只是示例数据,而群友真正工作要处理的数据有几百个文件夹,用代码处理的优势一下子就体现出来了。

不如看看反馈吧:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

如果大家喜欢我们的文章,就给右下角点个赞👍吧~

本文代码和案例数据

如果大家想自己练手,可以通过以下步骤获取代码及案例数据👇

Pandas案例精进 | 续集:自动分割汇总表写入到子表

Pandas案例精进 | 续集:自动分割汇总表写入到子表

最后,还有「凹凸数据」的荐书环节!

本文转转自微信公众号凹凸数据原创https://mp.weixin.qq.com/s/WxWOt6SRJnXDbvX7Lz_rCA,可扫描二维码进行关注: Pandas案例精进 | 续集:自动分割汇总表写入到子表 如有侵权,请联系删除。

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Aidan075 Aidan075
3年前
Pandas案例精进 | 结构化数据非等值范围查找 ②
(https://imghelloworld.osscnbeijing.aliyuncs.com/4971fbce1ecb759123ecc666f3af2c31.png)大家好,我是小五🐶欢迎来到「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg
Aidan075 Aidan075
3年前
Pandas案例精进 | 结构化数据非等值范围查找 ①
(https://imghelloworld.osscnbeijing.aliyuncs.com/dac5483b3517ff8a0968fc75987d12ad.png)大家好,我是小五🐶欢迎来到「Pandas案例精进(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg5
Aidan075 Aidan075
3年前
Pandas案例精进 | 结构化数据非等值范围查找 ③
(https://imghelloworld.osscnbeijing.aliyuncs.com/e6c2856ad5883bc1c88c2f0737ef232e.png)大家好,我是小五🐶欢迎来到👉「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMz
Wesley13 Wesley13
3年前
4cast
4castpackageloadcsv.KumarAwanish发布:2020122117:43:04.501348作者:KumarAwanish作者邮箱:awanish00@gmail.com首页:
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
11个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这