Я кодирую python script, который анализирует текстовый файл. Формат этого текстового файла таков, что каждый элемент в файле использует две строки, и для удобства я хотел бы прочитать обе строки перед разбором. Это можно сделать в Python?
Я хотел бы кое-что вроде:
f = open(filename, "r")
for line in f:
line1 = line
line2 = f.readline()
f.close
Но это ломается, говоря, что:
ValueError: смешивание итераций и методов чтения потеряют данные
Аналогичный вопрос здесь. Вы не можете смешивать итерацию и readline, поэтому вам нужно использовать один или другой.
while True:
line1 = f.readline()
line2 = f.readline()
if not line2: break # EOF
...
import itertools
with open('a') as f:
for line1,line2 in itertools.zip_longest(*[f]*2):
print(line1,line2)
itertools.zip_longest() возвращает итератор, поэтому он будет хорошо работать, даже если файл имеет длину в миллиарды строк.
Если существует нечетное количество строк, то для line2 в последней итерации устанавливается значение None.
На Python2 вам нужно использовать вместо izip_longest.
В комментариях спрашивалось, читает ли это решение сначала весь файл, а затем повторяет файл во второй раз. Я считаю, что это не так. Строка with open('a') as f открывает дескриптор файла, но не читает файл. f является итератором, поэтому его содержимое не читается, пока не будет запрошено. zip_longest принимает итераторы в качестве аргументов и возвращает итератор.
zip_longest действительно получает один и тот же итератор f дважды. Но в итоге происходит то, что next(f) вызывается для первого аргумента, а затем для второго аргумента. Поскольку next() вызывается на том же базовом итераторе, получаются последовательные строки. Это сильно отличается от чтения во всем файле. На самом деле цель использования итераторов состоит в том, чтобы избежать чтения всего файла.
Поэтому я считаю, что решение работает так, как нужно - файл читается только один раз циклом for.
Чтобы подтвердить это, я запустил решение zip_longest вместо решения, использующего f.readlines(). Я поставил input() в конце, чтобы приостановить выполнение сценариев, и запустил ps axuw для каждого:
% ps axuw | grep zip_longest_method.py
unutbu 11119 2.2 0.2 4520 2712 pts/0 S+ 21:14 0:00 python/home/unutbu/pybin/zip_longest_method.py bigfile
% ps axuw | grep readlines_method.py
unutbu 11317 6.5 8.8 93908 91680 баллов pts/0 S+ 21:16 0:00 python/home/unutbu/pybin/readlines_method.py bigfile
readlines четко читает сразу весь файл. Поскольку zip_longest_method использует гораздо меньше памяти, я думаю, можно с уверенностью заключить, что он не читает сразу весь файл.
используйте строку .next(), например
f=open("file")
for line in f:
print line
nextline=f.next()
print "next line", nextline
....
f.close()
Я бы продолжил так же, как ghostdog74, только при попытке снаружи и нескольких модификациях:
try:
with open(filename) as f:
for line1 in f:
line2 = f.next()
# process line1 and line2 here
except StopIteration:
print "(End)" # do whatever you need to do with line1 alone
Это делает код простым и надежным. Использование with закрывает файл, если что-то еще происходит, или просто закрывает ресурсы, как только вы его исчерпали, и выйдите из цикла.
Обратите внимание, что для with требуется 2.6 или 2.5 с включенной функцией with_statement.
как об этом, кто-нибудь видит проблему с ним
f=open('file_name')
for line,line2 in zip(f,f):
print line,line2
Работает для файлов четной и нечетной длины. Он просто игнорирует непревзойденную последнюю строку.
f=file("file")
lines = f.readlines()
for even, odd in zip(lines[0::2], lines[1::2]):
print "even : ", even
print "odd : ", odd
print "end cycle"
f.close()
Если у вас большие файлы, это неправильный подход. Вы загружаете весь файл в память с помощью readlines(). Однажды я написал класс, который читал файл, сохраняя позицию fseek каждого начала строки. Это позволяет вам получать определенные строки, не имея всего файла в памяти, и вы также можете идти вперед и назад.
Я вставляю его здесь. Лицензия является общедоступной, то есть делать то, что вы хотите с ней. Обратите внимание, что этот класс был написан 6 лет назад, и с тех пор я его не трогал и не проверял. Я думаю, что он даже не совместим с файлами. Пусть покупатель будет бдителен. Кроме того, обратите внимание, что это слишком сложно для вашей проблемы. Я не утверждаю, что вам обязательно нужно идти этим путем, но у меня был этот код, и мне нравится делиться им, если вам нужен более сложный доступ.
import string
import re
class FileReader:
"""
Similar to file class, but allows to access smoothly the lines
as when using readlines(), with no memory payload, going back and forth,
finding regexps and so on.
"""
def __init__(self,filename): # fold>>
self.__file=file(filename,"r")
self.__currentPos=-1
# get file length
self.__file.seek(0,0)
counter=0
line=self.__file.readline()
while line != '':
counter = counter + 1
line=self.__file.readline()
self.__length = counter
# collect an index of filedescriptor positions against
# the line number, to enhance search
self.__file.seek(0,0)
self.__lineToFseek = []
while True:
cur=self.__file.tell()
line=self.__file.readline()
# if it not null the cur is valid for
# identifying a line, so store
self.__lineToFseek.append(cur)
if line == '':
break
# <<fold
def __len__(self): # fold>>
"""
member function for the operator len()
returns the file length
FIXME: better get it once when opening file
"""
return self.__length
# <<fold
def __getitem__(self,key): # fold>>
"""
gives the "key" line. The syntax is
import FileReader
f=FileReader.FileReader("a_file")
line=f[2]
to get the second line from the file. The internal
pointer is set to the key line
"""
mylen = self.__len__()
if key < 0:
self.__currentPos = -1
return ''
elif key > mylen:
self.__currentPos = mylen
return ''
self.__file.seek(self.__lineToFseek[key],0)
counter=0
line = self.__file.readline()
self.__currentPos = key
return line
# <<fold
def next(self): # fold>>
if self.isAtEOF():
raise StopIteration
return self.readline()
# <<fold
def __iter__(self): # fold>>
return self
# <<fold
def readline(self): # fold>>
"""
read a line forward from the current cursor position.
returns the line or an empty string when at EOF
"""
return self.__getitem__(self.__currentPos+1)
# <<fold
def readbackline(self): # fold>>
"""
read a line backward from the current cursor position.
returns the line or an empty string when at Beginning of
file.
"""
return self.__getitem__(self.__currentPos-1)
# <<fold
def currentLine(self): # fold>>
"""
gives the line at the current cursor position
"""
return self.__getitem__(self.__currentPos)
# <<fold
def currentPos(self): # fold>>
"""
return the current position (line) in the file
or -1 if the cursor is at the beginning of the file
or len(self) if it at the end of file
"""
return self.__currentPos
# <<fold
def toBOF(self): # fold>>
"""
go to beginning of file
"""
self.__getitem__(-1)
# <<fold
def toEOF(self): # fold>>
"""
go to end of file
"""
self.__getitem__(self.__len__())
# <<fold
def toPos(self,key): # fold>>
"""
go to the specified line
"""
self.__getitem__(key)
# <<fold
def isAtEOF(self): # fold>>
return self.__currentPos == self.__len__()
# <<fold
def isAtBOF(self): # fold>>
return self.__currentPos == -1
# <<fold
def isAtPos(self,key): # fold>>
return self.__currentPos == key
# <<fold
def findString(self, thestring, count=1, backward=0): # fold>>
"""
find the count occurrence of the string str in the file
and return the line catched. The internal cursor is placed
at the same line.
backward is the searching flow.
For example, to search for the first occurrence of "hello
starting from the beginning of the file do:
import FileReader
f=FileReader.FileReader("a_file")
f.toBOF()
f.findString("hello",1,0)
To search the second occurrence string from the end of the
file in backward movement do:
f.toEOF()
f.findString("hello",2,1)
to search the first occurrence from a given (or current) position
say line 150, going forward in the file
f.toPos(150)
f.findString("hello",1,0)
return the string where the occurrence is found, or an empty string
if nothing is found. The internal counter is placed at the corresponding
line number, if the string was found. In other case, it set at BOF
if the search was backward, and at EOF if the search was forward.
NB: the current line is never evaluated. This is a feature, since
we can so traverse occurrences with a
line=f.findString("hello")
while line == '':
line.findString("hello")
instead of playing with a readline every time to skip the current
line.
"""
internalcounter=1
if count < 1:
count = 1
while 1:
if backward == 0:
line=self.readline()
else:
line=self.readbackline()
if line == '':
return ''
if string.find(line,thestring) != -1 :
if count == internalcounter:
return line
else:
internalcounter = internalcounter + 1
# <<fold
def findRegexp(self, theregexp, count=1, backward=0): # fold>>
"""
find the count occurrence of the regexp in the file
and return the line catched. The internal cursor is placed
at the same line.
backward is the searching flow.
You need to pass a regexp string as theregexp.
returns a tuple. The fist element is the matched line. The subsequent elements
contains the matched groups, if any.
If no match returns None
"""
rx=re.compile(theregexp)
internalcounter=1
if count < 1:
count = 1
while 1:
if backward == 0:
line=self.readline()
else:
line=self.readbackline()
if line == '':
return None
m=rx.search(line)
if m != None :
if count == internalcounter:
return (line,)+m.groups()
else:
internalcounter = internalcounter + 1
# <<fold
def skipLines(self,key): # fold>>
"""
skip a given number of lines. Key can be negative to skip
backward. Return the last line read.
Please note that skipLines(1) is equivalent to readline()
skipLines(-1) is equivalent to readbackline() and skipLines(0)
is equivalent to currentLine()
"""
return self.__getitem__(self.__currentPos+key)
# <<fold
def occurrences(self,thestring,backward=0): # fold>>
"""
count how many occurrences of str are found from the current
position (current line excluded... see skipLines()) to the
begin (or end) of file.
returns a list of positions where each occurrence is found,
in the same order found reading the file.
Leaves unaltered the cursor position.
"""
curpos=self.currentPos()
list = []
line = self.findString(thestring,1,backward)
while line != '':
list.append(self.currentPos())
line = self.findString(thestring,1,backward)
self.toPos(curpos)
return list
# <<fold
def close(self): # fold>>
self.__file.close()
# <<fold
file_name = 'your_file_name'
file_open = open(file_name, 'r')
def handler(line_one, line_two):
print(line_one, line_two)
while file_open:
try:
one = file_open.next()
two = file_open.next()
handler(one, two)
except(StopIteration):
file_open.close()
break
def readnumlines(file, num=2):
f = iter(file)
while True:
lines = [None] * num
for i in range(num):
try:
lines[i] = f.next()
except StopIteration: # EOF or not enough lines available
return
yield lines
# use like this
f = open("thefile.txt", "r")
for line1, line2 in readnumlines(f):
# do something with line1 and line2
# or
for line1, line2, line3, ..., lineN in readnumlines(f, N):
# do something with N lines
f = open(filename, "r")
for line in f:
line1 = line
f.next()
f.close
Прямо сейчас вы можете читать файл каждые две строки. Если вам нравится, вы также можете проверить статус f до f.next()
Моя идея - создать генератор, который читает две строки из файла за раз, и возвращает это как 2-кортеж. Это значит, что вы можете перебирать результаты.
from cStringIO import StringIO
def read_2_lines(src):
while True:
line1 = src.readline()
if not line1: break
line2 = src.readline()
if not line2: break
yield (line1, line2)
data = StringIO("line1\nline2\nline3\nline4\n")
for read in read_2_lines(data):
print read
Если у вас есть нечетное число строк, это не будет работать отлично, но это должно дать вам хорошую схему.
В прошлом месяце я работал над аналогичной проблемой. Я пробовал цикл while с f.readline(), а также f.readlines(). Мой файл данных не является огромным, поэтому я, наконец, выбрал f.readlines(), что дает мне больше контроля над индексом, иначе Мне нужно использовать f.seek() для перемещения вперед и назад указателя файла.
Мой случай более сложный, чем OP. Поскольку мой файл данных более гибкий, сколько строк нужно анализировать каждый раз, поэтому Я должен проверить несколько условий, прежде чем я смогу проанализировать данные.
Другая проблема, о которой я узнал о f.seek(), заключается в том, что она не очень хорошо обрабатывает utf-8, когда я использую codecs.open('', 'r', 'utf-8'), (не совсем конечно, о виновнике, в конце концов я отказался от этого подхода.)
Простой маленький читатель. Он будет вытягивать линии парами из двух и возвращать их как кортеж, когда вы перебираете объект. Вы можете закрыть его вручную или закрыть его, когда он выпадет из области.
class doublereader:
def __init__(self,filename):
self.f = open(filename, 'r')
def __iter__(self):
return self
def next(self):
return self.f.next(), self.f.next()
def close(self):
if not self.f.closed:
self.f.close()
def __del__(self):
self.close()
#example usage one
r = doublereader(r"C:\file.txt")
for a, h in r:
print "x:%s\ny:%s" % (a,h)
r.close()
#example usage two
for x,y in doublereader(r"C:\file.txt"):
print "x:%s\ny:%s" % (x,y)
#closes itself as soon as the loop goes out of scope
Если файл имеет разумный размер, другой подход, который использует list-comprehension для чтения всего файла в список из 2-х кортежей, заключается в следующем:
filaname = '/path/to/file/name'
with open(filename, 'r') as f:
list_of_2tuples = [ (line,f.readline()) for line in f ]
for (line1,line2) in list_of_2tuples: # Work with them in pairs.
print('%s :: %s', (line1,line2))
Этот код Python будет печатать первые две строки:
import linecache
filename = "ooxx.txt"
print(linecache.getline(filename,2))