用Python读取几十万行文本数据
2019/7/14 23:49:22
本文主要是介绍用Python读取几十万行文本数据,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
我在使用python读取几十万行的文件中的数据,并构造字典,列表等数据结构时,再访问字典,列表时,一般都会出现内存不够的问题,然后只能循环读取几百行或者一定数量的行数来循环操作。
keyword_list=[line.strip() for line in open("keywords.txt",'r')] #f1=open("part_wiki_vec.txt",'r') f1=open("wiki_vectors.txt") f2=open("result.txt",'w') i=0 content=f1.readlines() while i<1150: for line in content[300*i:300*(i+1)]: line=line.strip().split(' ') if line[0] in keyword_list: wordvec=' '.join(line) print wordvec f2.write(wordvec) #print line i+=1
我是这样读取的
应该还有很多好的方法,比如多线程等等。
做此记录只为了学习
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对找一找教程网的支持。如果你想了解更多相关内容请查看下面相关链接
这篇关于用Python读取几十万行文本数据的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-12-28Python编程基础教程
- 2024-12-27Python编程入门指南
- 2024-12-27Python编程基础
- 2024-12-27Python编程基础教程
- 2024-12-27Python编程基础指南
- 2024-12-24Python编程入门指南
- 2024-12-24Python编程基础入门
- 2024-12-24Python编程基础:变量与数据类型
- 2024-12-23使用python部署一个usdt合约,部署自己的usdt稳定币
- 2024-12-20Python编程入门指南