导语:
本文主要介绍了关于python3过大数据如何读取?的相关知识,包括python读取千万级数据库数据,以及python大数据处理这些编程知识,希望对大家有参考作用。
python中读取大文件的方法:
1、利用yield生成器读取
def readPart(filePath, size=1024, encoding="utf-8"):
with open(filePath,"r",encoding=encoding) as f:
while True:
part = f.read(size)
if part:
yield part
else:
return None
filePath = r"filePath"
size = 2048 # 每次读取指定大小的内容到内存
encoding = 'utf-8'
for part in readPart(filePath,size,encoding):
print(part)
# Processing data
2.使用open()自带方法生成迭代对象,逐行读取
with open(filePath) as f:
for line in f:
print(line)
# Processing data
本文为原创文章,版权归知行编程网所有,欢迎分享本文,转载请保留出处!
你可能也喜欢
- ♥ 如何使用pycharm运行Python程序09/21
- ♥ python命令行模式的使用过程09/28
- ♥ python的内存是如何管理的?11/07
- ♥ Python findall函数如何匹配字符串11/22
- ♥ python填充压缩函数总结12/10
- ♥ 如何在python中查看函数文档10/06
内容反馈