xml - 在 Perl 中从 XML 文件中提取一些元素值的最快方法是什么?

标签 xml perl performance

我有一堆大小约为 1-2 兆字节的 XML 文件。实际上,不止一堆,还有数百万。它们都是格式正确的,许多甚至针对它们的模式进行了验证(使用 libxml2 确认)。

所有这些都是由同一个应用程序创建的,因此它们的格式一致(尽管这在理论上可能会在未来发生变化)。

我想从 Perl 脚本中检查每个文件中一个元素的值。速度很重要(我希望每个文件花费的时间少于一秒)并且如前所述,我已经知道文件格式正确。

我非常想简单地在 Perl 中“打开”文件并扫描直到我看到我正在寻找的元素,获取值(接近文件开头),然后关闭文件。

另一方面,我可以使用 XML 解析器(这可能会保护我免受 future XML 格式更改的影响),但我怀疑它会比我想要的慢。

谁能推荐合适的方法和/或解析器?

提前致谢。

更新

这是我试图提取的数据的结构/复杂性:

<doc>
  ...
  <someparentnode attrib="notme" attrib2="5">
    <node>Not this one</node>
  </someparentnode>
  <someparentnode attrib="pickme" attrib2="5">
    <node>This is the data I want</node>
  </someparentnode>
  <someparentnode attrib="notme" 
     attrib2="reallyreallylonglineslikethisonearewrapped">
    <node>Not this one either and it may be 
      wrapped too.</node>
  </someparentnode>
  ...    
</doc>

层次结构比这更深几层,但我认为这涵盖了我正在尝试做的各种事情。

最佳答案

2 个独立的 XML 感知选项(我写的,所以我可能有偏见;--)是 xml_grep(包含在 XML::Twig 中)和 xml_grep2 (在 App::xml_grep2 中)。

您可以编写 xml_grep -t '*[@attrib="pickme"]' *.xmlxml_grep2 -t '//*[@attrib="pickme"]' *.xml(-t 选项将结果作为文本而不是 XML)。 同样,在这两种情况下,所有文档都将被解析,但 xml_grep 的下一版本将添加一个选项来限制每个文件的结果数量,并在达到此数量时立即停止解析每个文件达到。

否则,如果您需要速度并且需要集成代码,您可以使用 XML::Twig,在您想要的元素上触发处理程序,并调用 finish_now 当您找到它时,它将中止解析并继续处理下一个文件。

XML::LibXML 也是一个选项,尽管您随后必须完全解析每个文档并使用 XPath(简单但可能更慢)、使用 SAX(可能更快但编码起来很痛苦)或使用 pull-解析器(可能是最好的选择,但我从未使用过)。

更新 更新后:带有 XML::Twig 的代码如下所示:

#!/usr/bin/perl
use strict;
use warnings;

use XML::Twig;

my $twig= XML::Twig->new( twig_handlers => { '*[@attrib="pickme"]' => \&pickme });

foreach my $file (@ARGV)
  { $twig->parsefile( $file); }

sub pickme
  { my( $twig, $node)= @_;
    print $node->text, "\n";
    $twig->finish_now;
  }

关于xml - 在 Perl 中从 XML 文件中提取一些元素值的最快方法是什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2441637/

相关文章:

xml - 隐式 append Scala XML 文字

json - 如何将变量作为方法传递给 Perl 哈希引用?

perl - Linux 排序与 Perl 字符串比较

sql - SQL Server中的BCP导致错误

javascript - 我应该使用 JSON 还是 AJAX 作为响应数据?

.net - 最佳 JIT 优化

ruby-on-rails - 批量运行 Rails 查询

java - java 的 native 内存跟踪输出的 "other"部分有什么内容?

android - 以编程方式添加布局android

regex - Perl 预编译正则表达式 - utf8