用Python将数据自动转成Execl实现自动化办公
2022/2/10 20:22:44
本文主要是介绍用Python将数据自动转成Execl实现自动化办公,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
背景
公司项目的广告展示率太低,需要查找原因,之前做了统计埋点,运维给出过滤后的数据,一个 txt 文件 500M 以上,文件打开非常乱。
在这里还是提醒下,很多人学Python过程中会遇到各种烦恼问题,没有人解答容易放弃。为此我建了个python学习资源圈里面有最新学习资料,如果你想学或者正在学python,可以关注我,后台私信我 ‘p’ 免费获取!还有老司机解答哦
代码
询问运维是否有工具转换,回复说没有,然后想到之前重学 Python3 的初衷,就是为了能写一些脚本方便处理一些事情。
这个数据主要是 HTTP 的 GET 请求,需要转码,然后把参数拿到,目标是写到 Execl 文件中。
因为一直没用,语法也记不清楚,只能不停回看笔记,关于 Execl 这块也没用过,临时网上查找。
读文件
由于原文件太大,所以先复制了一部分存入当前目录的 test.txt 文件中。
import osfile = open('./test.txt') # 打开文件for line in file: # 按行遍历文件 ... file.close() # 最后要关闭
遍历每一行数据后,转码,分割,转成字典结构
import urllib.parse # 定义个方法将一行数据转成字典def getOneDict(line): params = dict() # 创建字典保存数据 pre = 'timeAnalysis?' index = line.find(pre) # 找到这个位置,后面的数据是需要的参数 if index > -1: line = line[index+len(pre):].split()[0] # 先截子串然后选空格之前的 line = urllib.parse.unquote(line) # 网上搜到的用于将 HTTP 编码后的文字解码 paramList = line.split('&') # 得到类似 s=android 的内若 for item in paramList: param = item.split('=') if (len(param) > 1): # 如果等于号后面有值 params[param[0]] = param[1] # 字典加个数据 return params
创建 Execl 文件
有了每一行对应的字典,就想把这内容写到 Execl 文档里。要先切换到 pip3 目录,执行 sudo pip3 install openpyxl 安装 openpyxl 模块,最新的语法参考 http://openpyxl.readthedocs.io/en/stable/
import openpyxldef createExcel(): if 'time.xlsx' in os.listdir('./'): # 如果有了这个文件,就不要再创建了 return wb = openpyxl.Workbook() # 创建 Execl wb.active.title = 'Splash' # 默认有一个活动的 Sheet,把名字改成 Splash wb.create_sheet(title='Home') # 再创建一个 Sheet wb.save('time.xlsx') # 最后一定不能忘了这句
结果本地生成了文件 time.xlsx,打开后有两个 Sheet。
表格
向 Execl 中插入数据
看 Execl,横向是 A、B、C… 这样编号,纵向是 1、2、3… 这样编号,看文档可以通过两个编号组合来定位。我这里没用这个函数。
我需要把字典里的 key 作为第一行用作标题,然后每来一个字典里的数据,先寻找是否有了这个 key,有了就往下一行添加对应的 value,没有的话先添加一列,行数是第一行,值是字典里的这个 key,然后再添加 value。
def writeToExecl(params): wb = openpyxl.load_workbook('time.xlsx') # 打开 Execl 文件 splashSheet = wb['Splash'] # 找到两个 Sheet homeSheet = wb['Home'] if params['pid'] == '04': # 如果字典里有一个 pid=04 的,要放到 Splash 表里 writeToSheet(splashSheet, wb, params) elif params['pid'] == '00': writeToSheet(homeSheet, wb, params)
def getValue(t): return t.valuedef writeToSheet(sheet, wb, params): rows = tuple(sheet.rows) # 拿到所有行转成元组 index = len(rows) + 1 # 在原有的行数的下一行插入数据 print('rows ' + str(index)) titles = list(map(getValue, rows[0])) # 用高阶函数 map 转换第一行,拿到里面的 value,然后要转成 list if titles == [None]: # 测试发现列表不是空的,长度是 1,里面是 None,所以判断一下 titles = [] for k,v in params.items(): # 遍历字典 if k in titles: # 如果第一行有这个标题,直接插值 sheet.cell(row = index, column = titles.index(k) + 1).value = v # 行数为 index,列为这个 key 在的行,cell 里的索引从 1 开始 else: sheet.cell(row = 1, column = len(titles) + 1).value = k # 先插标题,先插了一列 sheet.cell(row = index, column = len(titles) + 1).value = v # 再插字典的 value titles.append(k) # 标题多了一个,要更新 wb.save('time.xlsx') # 保存以生效
遍历文件
将要分析的文件放入当前目录的 web 文件夹下,然后遍历,对每一个文件进行读取。
for file in os.listdir('./web'): print('read file ' + os.path.basename(file)) readAFile('./web/' + file) def readAFile(filename): file = open(filename) for line in file: params = getOneDict(line) if (len(params) == 0): # 如果字典为空,继续下一行 continue writeToExecl(params) file.close()
其它
运行时报出了一个错误
...self._buffer_decode(data, self.errors, final)UnicodeDecodeError: 'utf-8' codec can't decode byte 0x80 in position 3131: invalid start byte ...
网上搜了下,是编码的问题,没去特地解决,一两行数据不影响统计比例,找到一种方法,打开文件时忽略错误。
file = open(filename, errors='ignore')
还有生成的文件名,要分析文件的路径等可以通过命令行参数传入,这样可用性高些,就不搞了。
整体做下来,其实功能很简单,但是由于对语言的不熟悉,花了不少时间,map 这个高级函数还是因为 Kotlin,Rx 里都有类似的,所以搜了下才知道,有些不知道的可能就写繁琐了。最后,如果你的时间不是很紧张,并且又想快速的python提高,最重要的是不怕吃苦,建议你可以架尉♥信(同音):276 3177 065 ,那个真的很不错,很多人进步都很快,需要你不怕吃苦哦!大家可以去添加上看一下~,包括小编自己整理的一份2022最新的Python资料和0基础入门教程,欢迎初学和进阶中的小伙伴。在不忙的时间我会给大家解惑
文件太大,写入时间太长,只运行了一会看了一些数据,分析出大概的原因,最终还是让运营再去过滤分析比例的。
结果
源代码
import osimport urllib.parseimport openpyxlimport sys # 将一行数据转成字典def getOneDict(line): params = dict() # 创建字典保存数据 pre = 'timeAnalysis?' index = line.find(pre) if index > -1: line = line[index+len(pre):].split()[0] line = urllib.parse.unquote(line) paramList = line.split('&') for item in paramList: param = item.split('=') if (len(param) > 1): params[param[0]] = param[1] return paramsdef createExcel(): if 'time.xlsx' in os.listdir('./'): return wb = openpyxl.Workbook() # 创建Execl wb.active.title = 'Splash' wb.create_sheet(title='Home') wb.save('time.xlsx')def writeToExecl(params): wb = openpyxl.load_workbook('time.xlsx') splashSheet = wb['Splash'] homeSheet = wb['Home'] if params['pid'] == '04': # 开屏 writeToSheet(splashSheet, wb, params) elif params['pid'] == '00': # 首页 writeToSheet(homeSheet, wb, params)def getValue(t): return t.valuedef writeToSheet(sheet, wb, params): rows = tuple(sheet.rows) index = len(rows) + 1 # 从这一行开始插入数据 titles = list(map(getValue, rows[0])) # 拿到第1行的内容,做标题用 if titles == [None]: titles = [] for k,v in params.items(): if k in titles: sheet.cell(row = index, column = titles.index(k) + 1).value = v else: sheet.cell(row = 1, column = len(titles) + 1).value = k # 先插标题 sheet.cell(row = index, column = len(titles) + 1).value = v titles.append(k) # 更新标题 wb.save('time.xlsx')def readAFile(filename): file = open(filename, errors='ignore') for line in file: params = getOneDict(line) if (len(params) == 0): continue writeToExecl(params) file.close()createExcel()for file in os.listdir('./web'): print('read file ' + os.path.basename(file)) readAFile('./web/' + file)
生成 Execl 如下
表格数据
最后在这里还是提醒下,很多人学Python过程中会遇到各种烦恼问题,没有人解答容易放弃。为此我建了个python学习资源圈里面有最新学习资料,如果你想学或者正在学python,可以关注我,后台私信我 ‘p’ 免费获取!还有老司机解答哦!
本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。
这篇关于用Python将数据自动转成Execl实现自动化办公的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-21Python编程基础教程
- 2024-11-20Python编程基础与实践
- 2024-11-20Python编程基础与高级应用
- 2024-11-19Python 基础编程教程
- 2024-11-19Python基础入门教程
- 2024-11-17在FastAPI项目中添加一个生产级别的数据库——本地环境搭建指南
- 2024-11-16`PyMuPDF4LLM`:提取PDF数据的神器
- 2024-11-16四种数据科学Web界面框架快速对比:Rio、Reflex、Streamlit和Plotly Dash
- 2024-11-14获取参数学习:Python编程入门教程
- 2024-11-14Python编程基础入门