java - 使用 htmlparser 解析网站时无法获取所有匹配的节点

Question

我正在使用 htmlparser 来解析网站，但我遇到了一个非常奇怪的问题。我正在尝试获取所有 <li>网页上的节点，我的代码如下:

String url = "http://s.1688.com/selloffer/offer_search.htm?keywords=%BD%A8%B2%C4&n=y&categoryId=";
Parser parser = new Parser(url);
parser.setEncoding("gb2312");

NodeList list = parser.extractAllNodesThatMatch(new TagNameFilter("li"));
// NodeList list = parser.parse(new CssSelectorNodeFilter("li[class=\"sm-offerShopwindow\"]"));
System.out.print(list.size() + "\n");
for (int i = 0; i < list.size(); i++) {
Node li = list.elementAt(i);
System.out.print("text:" + li.getText() + "\n");
}

但是list size的输出总是20，好像并没有遍历那个页面的所有节点。为什么？感谢您的任何建议。

Answer 1

即使是周围的顶级浏览器也不总是同意如何解析所有那些假装是 HTML 的奇怪东西，而且网络自 2006 年以来得到了很大的发展。所以如果这样一个老软件不能解析，我不会感到惊讶应对现代 HTML。