python - Pandas :忽略新行作为 read_csv 中的分隔符

Question

我有一个包含分隔符 $$$Field$$$ 的输入字符串。该字符串有一些行。我需要返回字符串中所有项目的列表，仅由 $$$Field$$$ 分隔。

在下面的示例中，我应该接收作为输出的 ['Food', 'Fried\nChicken', 'Banana']。但是，它似乎也将新行解释为分隔符，所以我得到的不是列表而是表格。我怎样才能忽略这些新行，以便只返回一个列表？

import pandas as pd
from pandas.compat import StringIO

temp=u"""Food$$$Field$$$Fried
Chicken$$$Field$$$Banana"""
df = pd.read_csv(StringIO(temp), sep='\$\$\$Field\$\$\$',engine='python')
print (df)

我使用 pandas 的唯一原因是因为这个字符串实际上是一个巨大的 .csv 文件，我不能一次在内存中读取所有这些，但是流式处理是可以接受的。

Answer 1

由于您不希望以表格格式存储信息，因此我认为不需要 DataFrame。相反，每次遇到 '$$$Field$$$' 时，分块读取您的字符串并产生缓冲区。

改编自https://stackoverflow.com/a/16260159/4410590 :

def myreadlines(f, newline):
    buf = ""
    while True:
        while newline in buf:
            pos = buf.index(newline)
            yield buf[:pos]
            buf = buf[pos + len(newline):]
        chunk = f.read(4096)
        if not chunk:
            yield buf
            break
        buf += chunk

然后调用函数:

> for x in myreadlines(StringIO(temp), '$$$Field$$$'):
      print repr(x)

u'Food'
u'Fried\nChicken'
u'Banana'