windows - 为什么我的 Perl 程序不能在 Windows 上创建超过 4 GB 的文件?

标签 windows perl large-files

为什么输出到文件时文件大小上限为 4 GB 使用打印文件?我希望流式输出 应该可以生成任意大小的文件。

更新:ijwChas. Owens是正确的。我以为 F: 盘是 NTFS 格式的,但实际上它使用的是 FAT32 文件系统。我 在另一个驱动器上试过,我可以生成 20 GB 的文本 文件。在这种情况下没有限制。向所有人道歉。


详细信息:在研究以回答此处的问题时 Stack Overflow 我需要衡量的性能 使用 Perl 读取一个非常大的文本文件。为了测试 阅读时我需要一个大文本文件,而我写了一个小文件 生成文本文件的 Perl 脚本遇到了一个 意想不到的问题。输出文件增长直到达到 4 国标。根据 Windows 资源管理器,一次运行的大小 脚本为 4294967269 字节(磁盘上为 4294967296 字节)。 脚本继续运行,但文件不再增长。

重要的只是一些:

print NUMBERS_OUTFILE $line;

其中 $line 是一个以“\n”结尾的长字符串。这 线的长度可以配置,并不重要 这个问题;例如250 个字符或 34000 个字符。 NUMBERS_OUTFILE 是用以下方法创建的文件句柄:

open ( NUMBERS_OUTFILE,">F:\temp2\out1.txt")

驱动器 F: 为 NTFS 格式并且位于单独的物理磁盘上 硬盘从装有操作系统的磁盘。

是什么原因,是否有解决方法?


完整 Perl scriptBAT driver script (HTML 格式为 前置标签)。如果两个环境变量 MBSIZE 和 OUTFILE 已设置,那么 Perl 脚本应该能够运行 在 Windows 以外的其他平台上保持不变。

平台:来自 ActiveState 的 Perl 5.10.0; 32 位; build 1004。 Windows XP x64 SP2、8 GB 内存、500 GB 绿色鱼子酱 硬盘。

perl -V 说:

Summary of my perl5 (revision 5 version 10 subversion 0) configuration:
  Platform:
    osname=MSWin32, osvers=5.00, archname=MSWin32-x86-multi-thread
    uname=''
    config_args='undef'
    hint=recommended, useposix=true, d_sigaction=undef
    useithreads=define, usemultiplicity=define
    useperlio=define, d_sfio=undef, uselargefiles=define, usesocks=undef
    use64bitint=undef, use64bitall=undef, uselongdouble=undef
    usemymalloc=n, bincompat5005=undef
  Compiler:
    cc='cl', ccflags ='-nologo -GF -W3 -MD -Zi -DNDEBUG -O1 -DWIN32 -D_CONSOLE -DNO_ST
RICT -DHAVE_DES_FCRYPT -DUSE_SITECUSTOMIZE -DPRIVLIB_LAST_IN_INC -DPERL_IMPLICIT_CONTE
XT -DPERL_IMPLICIT_SYS -DUSE_PERLIO -DPERL_MSVCRT_READFIX',
    optimize='-MD -Zi -DNDEBUG -O1',
    cppflags='-DWIN32'
    ccversion='12.00.8804', gccversion='', gccosandvers=''
    intsize=4, longsize=4, ptrsize=4, doublesize=8, byteorder=1234
    d_longlong=undef, longlongsize=8, d_longdbl=define, longdblsize=10
    ivtype='long', ivsize=4, nvtype='double', nvsize=8, Off_t='__int64', lseeksize=8
    alignbytes=8, prototype=define
  Linker and Libraries:
    ld='link', ldflags ='-nologo -nodefaultlib -debug -opt:ref,icf  -libpath:"D:\Perl\
lib\CORE"  -machine:x86'
    libpth=\lib
    libs=  oldnames.lib kernel32.lib user32.lib gdi32.lib winspool.lib  comdlg32.lib a
dvapi32.lib shell32.lib ole32.lib oleaut32.lib  netapi32.lib uuid.lib ws2_32.lib mpr.l
ib winmm.lib  version.lib odbc32.lib odbccp32.lib msvcrt.lib
    perllibs=  oldnames.lib kernel32.lib user32.lib gdi32.lib winspool.lib  comdlg32.l
ib advapi32.lib shell32.lib ole32.lib oleaut32.lib  netapi32.lib uuid.lib ws2_32.lib m
pr.lib winmm.lib  version.lib odbc32.lib odbccp32.lib msvcrt.lib
    libc=msvcrt.lib, so=dll, useshrplib=true, libperl=perl510.lib
    gnulibc_version=''
  Dynamic Linking:
    dlsrc=dl_win32.xs, dlext=dll, d_dlsymun=undef, ccdlflags=' '
    cccdlflags=' ', lddlflags='-dll -nologo -nodefaultlib -debug -opt:ref,icf  -libpat
h:"D:\Perl\lib\CORE"  -machine:x86'


Characteristics of this binary (from libperl):
  Compile-time options: MULTIPLICITY PERL_DONT_CREATE_GVSV
                        PERL_IMPLICIT_CONTEXT PERL_IMPLICIT_SYS
                        PERL_MALLOC_WRAP PL_OP_SLAB_ALLOC USE_ITHREADS
                        USE_LARGE_FILES USE_PERLIO USE_SITECUSTOMIZE
  Locally applied patches:
        ActivePerl Build 1004 [287188]
        33741 avoids segfaults invoking S_raise_signal() (on Linux)
        33763 Win32 process ids can have more than 16 bits
        32809 Load 'loadable object' with non-default file extension
        32728 64-bit fix for Time::Local
  Built under MSWin32
  Compiled at Sep  3 2008 13:16:37
  @INC:
    D:/Perl/site/lib
    D:/Perl/lib
.

最佳答案

嗯,这很奇怪。至少在 OS X 和 Linux 上,限制是由文件系统强加的。也许 Win32 上的 Activestate Perl 没有编译大文件支持?你能发布运行 perl -V 的结果吗?

我们关心的输出部分是

Platform:
osname=MSWin32, osvers=5.00, archname=MSWin32-x86-multi-thread
uname=''
config_args='undef'
hint=recommended, useposix=true, d_sigaction=undef
useithreads=define, usemultiplicity=define
useperlio=define, d_sfio=undef, uselargefiles=define, usesocks=undef
use64bitint=undef, use64bitall=undef, uselongdouble=undef
usemymalloc=n, bincompat5005=undef

具体来说,uselargefiles=define。这个特性被定义(即打开)的事实意味着 Perl 将使用一个无符号的 64 位整数作为文件偏移量。从理论上讲,这可以使文件达到 16 艾字节(17,179,869,184 千兆字节);但是,文件系统限制通常会在您达到该限制之前发挥作用。

关于windows - 为什么我的 Perl 程序不能在 Windows 上创建超过 4 GB 的文件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/1373372/

相关文章:

c++ - 预加载音频缓冲区 - 什么是合理可靠的?

perl - 帮助 perl 中的正则表达式

Perl:集成时 Net/Braintree HTTP 模块的服务器错误

xml - 如何使用 Twig 模块从 XML 中删除注释

java - 在大文本文件中搜索(java)

c++ - 制作一个指向已分配内存的 C++ vector

windows - 如何将 alt + f1 键分配给打开的 Windows 应用程序

regex - 用于重命名文件的批处理 .BAT 脚本

sql-server - 将包含超过 1024 列的 csv 文件导入到新的 SQL Server 表中

ruby - IO.popen 不工作蹩脚的标准输入和标准输出编码