我正在尝试编写一个 python 脚本来查找 USB 闪存驱动器中的重复文件。
我遵循的过程是创建文件名列表,对每个文件进行哈希处理,然后创建一个逆字典。然而,在这个过程中的某个地方,我收到了 UnicodeDecodeError
。有人可以帮助我了解发生了什么事吗?
from os import listdir
from os.path import isfile, join
from collections import defaultdict
import hashlib
my_path = r"F:/"
files_in_dir = [ file for file in listdir(my_path) if isfile(join(my_path, file)) ]
file_hashes = dict()
for file in files_in_dir:
file_hashes[file] = hashlib.md5(open(join(my_path, file), 'r').read()).digest()
inverse_dict = defaultdict(list)
for file, file_hash in file_hashes.iteritems():
inverse_dict[file_hash].append(file)
inverse_dict.items()
我遇到的错误是:
Traceback (most recent call last):
File "C:\Users\Fotis\Desktop\check_dup.py", line 12, in <module>
file_hashes[file] = hashlib.md5(open(join(my_path, file), 'r').read()).digest()
File "C:\Python33\lib\encodings\cp1253.py", line 23, in decode
return codecs.charmap_decode(input,self.errors,decoding_table)[0]
UnicodeDecodeError: 'charmap' codec can't decode byte 0xff in position 2227: character maps to <undefined>
最佳答案
您正在尝试读取未使用默认平台编码 (cp1253
) 进行编码的文件。通过以文本模式 (r
) 打开文件,Python 3 将尝试将文件内容解码为 unicode。您没有指定编码,因此使用平台首选编码。
改为以二进制模式打开文件,使用 rb
作为模式。由于您仅计算 MD5 哈希值(需要字节的函数),因此您无论如何都不应该使用文本模式。
关于python - 为什么我在这里收到 UnicodeDecodeError ?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13689166/