Python - 计算来自 txt 文件的标签的行之间的时间差

标签 python python-3.x pandas sorting datetime

enter image description here我正在从一个带有时间戳的 txt 文件中读取数据。我需要从一个 txt 文件中读取数据并将结果写入另一个 txt 文件。因此,我需要对数据进行排序。

比如我需要计算2020-08-28T11:46:24.8419656Z和2020-08-28T11:48:11.8418281Z之间XXXXXX的时间差,即总时间差。要计算“执行”时间,我需要在 2020-08-28T11:48:11.8418281Z 和 2020-08-28T11:46:39.9417366Z 之间减去。这些只是计算时间差异的示例。如果有错误,我需要在“测试状态”中打印为 1。YYYYYY 中有错误,所以如果它们不存在,我只需要分配时间状态为 0。在输出中,我给出了显示它们的值举个例子。

因为时间戳中间有T,我如何计算时间差异?另一个挑战是我需要在两行之间计算关于它们在列中的标签。要找出时间戳的名称(例如 XXXXXXX),我需要检查“#########”,然后我可以对其进行排序,否则我不知道 txt 文件中的名称是什么。

from datetime import datetime

def time_diff(start, end):
    start_dt = datetime.strptime(start, '%H:%M:%S')
    end_dt = datetime.strptime(end, '%H:%M:%S')
    diff = (end_dt - start_dt)
    return diff.seconds

scores = {}
with open('input.txt') as fin:
    for line in fin.readlines():
        values = line.split(',')
        scores[values[0]] = time_diff(values[0],values[0])

with open('result.txt', 'w') as fout:
    for key, value in sorted(scores.iteritems(), key=lambda (k,v): (v,k)):
        fout.write('%s,%s\n' % (key, value))

INPUT:

2020-08-28T11:46:24.8419656Z ################################################################################
2020-08-28T11:46:24.8419656Z XXXXXX
2020-08-28T11:46:39.9397372Z Execution 0
2020-08-28T11:46:39.9417366Z Creation 0
2020-08-28T11:46:41.4877509Z Build 0
2020-08-28T11:48:02.6957708Z Level 0 
2020-08-28T11:48:02.7227683Z Converting file start
2020-08-28T11:48:11.7408315Z Converting done 0
2020-08-28T11:48:11.8148285Z Checking results
2020-08-28T11:48:11.8418281Z Test Status XXXXXX: Success
2020-08-28T11:48:11.8498273Z ################################################################################
2020-08-28T11:48:11.8498273Z YYYYYY
2020-08-28T11:48:27.1533026Z Execution 0
2020-08-28T11:48:27.1583035Z Creation 0
2020-08-28T11:48:28.6763028Z Build 0
2020-08-28T11:49:31.9180832Z Level 0 
2020-08-28T11:49:31.9440848Z ##[error]
2020-08-28T11:49:31.9530839Z ################################################################################
2020-08-28T11:50:24.8419656Z ZZZZZZ
2020-08-28T11:50:39.9397372Z Execution 0
2020-08-28T11:50:39.9417366Z Creation 0
2020-08-28T11:50:41.4877509Z Build 0
2020-08-28T11:51:02.6957708Z Level 0 
2020-08-28T11:51:02.7227683Z Converting file start
2020-08-28T11:51:11.7408315Z Converting done 0
2020-08-28T11:51:11.8148285Z Checking results
2020-08-28T11:51:11.8418281Z Test Status ZZZZZZ: Success
2020-08-28T11:51:31.9530839Z ################################################################################



OUTPUT:

Name       Total    Execution Creation Build Level Converting  Checking results   Test Status      
XXXXXX      10          2        2       2     2        2          2       2          0
YYYYYY      10          2        2       2     2        0          0       0          1
ZZZZZZ      10          2        2       2     2        2          2       2          0

最佳答案

import re
from dateutil import parser
import pandas as pd

with open('input.txt') as file:
    data = file.read()

timestamps = re.findall(r'(\d{4}-\d{2}-\d{2}T\d{2}:\d{2}.+Z)\s#{3,}', data)
text = []
dict_list = []
for i in range(len(timestamps)-1):
    text.append(data[data.index(timestamps[i]):data.index(timestamps[i+1])])
    time_diff = parser.isoparse(timestamps[i+1]) - parser.isoparse(timestamps[i])
    # print(text[-1])
    lines = text[-1].split('\n')
    dict = {}
    dict['name'] = lines[1].split(' ')[1]
    dict['execution'] = (parser.isoparse(lines[3].split(' ')[0]) - parser.isoparse(lines[2].split(' ')[0])).seconds
    dict['creation'] = (parser.isoparse(lines[4].split(' ')[0]) - parser.isoparse(lines[3].split(' ')[0])).seconds
    dict['build'] = (parser.isoparse(lines[5].split(' ')[0]) - parser.isoparse(lines[4].split(' ')[0])).seconds
    dict['level'] = (parser.isoparse(lines[6].split(' ')[0]) - parser.isoparse(lines[5].split(' ')[0])).seconds
    if "error" in lines[-2]:
        dict['test_status'] = 1
        dict_list.append(dict)
        continue
    elif "Success" in lines[-2]:
        dict['test_status'] = 0
        dict['converting'] = (parser.isoparse(lines[7].split(' ')[0]) - parser.isoparse(lines[6].split(' ')[0])).seconds
        dict['checking'] = (parser.isoparse(lines[8].split(' ')[0]) - parser.isoparse(lines[7].split(' ')[0])).seconds
    dict_list.append(dict)


df = pd.DataFrame(dict_list)
df.to_csv('output.csv')

这样就可以得到所有的时间戳,然后通过切片的方式得到两个时间戳之间的数据。如果有任何问题,请告诉我。

关于Python - 计算来自 txt 文件的标签的行之间的时间差,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63650003/

相关文章:

python - 预期 Python 中的预期 block

python - 根据 Pandas 数据框中的特定条件更快地计算滚动发生次数

python - 将嵌套数据存储实体转换为 Python 字典的最简单方法是什么?

python - 在 Python 中传递 "reference"

python - 如何打印出 JSON 输出的确切字段/字符串?

python - 高效地找到对象中的最高值,并识别对象

python - pandas groupby 适用于系列,但不适用于选择整个数据框

python - 基于另一列的 str.contains 返回空字符串的值

python - __init__() 采用 1 个位置参数,但给出了 2 个

python - Matplotlib 使用分层直方图