我目前想知道如何处理片段身份,我想从中获取信息的链接包含片段身份。似乎 HtmlUnit 丢弃了我的 url 的“#/db4mj”,因此加载了原始 url。
有谁知道处理片段身份的方法? (如果需要,我可以发布示例代码以进一步解释)
编辑
由于我没有得到很多观点(也没有答案),我将增加悬赏。抱歉它只有 50 个,但我只有 79 个开始
编辑
这是请求的示例代码。
我们的 URL 将是:http://browse.deviantart.com/resources/applications/psbrushes/?order=9&offset=0
因此,如果您查看链接中的内容,您会看到多个包含 URL 的画笔。所以我的脚本抓取了 URL:http://browse.deviantart.com/resources/applications/psbrushes/?order=9&offset=0#/dbwam4
如您所见,有片段标识符 #/dbwam4 现在我尝试抓取此页面上的内容,但 HtmlUnit 仍认为它位于原始 URL 上。
这是我的脚本中的示例代码,它在片段标识符 URL 上失败,但原始 URL 没有问题。
client = new WebClient(BrowserVersion.FIREFOX_3)
client.javaScriptEnabled = false
page = client.getPage(url) //url with fragment identifier
//this is on the url with the fragment identifier only, not the original url
img = page.getByXPath("*[@id="gmi-ResViewSizer_img"]")
我希望能够从带有片段标识符的 URL 中获取某些信息,但无论如何都无法访问它。
最佳答案
有好消息和 坏消息 .
首先,好消息是 HtmlUnit 似乎工作得很好。
如果您访问 the page with the fragment identier URL在关闭 JavaScript 的浏览器中(可能使用 Firefox's QuickJava plugin ),您将看不到您想要的“单刷 View ”。
因此,为了获取此页面,您需要使用 WebClient 并将 setJavaScriptEnabled 设置为 true。
现在坏消息是:
我一直无法在启用 JavaScript 的情况下使用 HtmlUnit 获取“单刷 View ”页面(我不知道为什么)。虽然,我已经能够获得完整的页面。
真正的问题是返回的 HTML 的状态如此糟糕,以至于我无法解析它(我尝试过 TagSoup 、 jsoup 、 Jaxen 等)。因此,我怀疑尝试使用 XPath 解析页面可能对您不起作用。
因此,我认为您需要使用正则表达式(这远非理想),甚至使用 String.indexOf("gmi-ResViewSizer_img") 的某些变体。
我希望这有帮助。
编辑
我设法得到了一些偶尔有效的东西。恐怕我还没有转换为 Groovy,所以它将使用普通的旧 Java。
我没有看过 HtmlUnit 的源代码,但它几乎好像运行保存过程中的某些东西有助于使解析工作?如果没有保存,我似乎会得到 NullPointerExceptions。
import com.gargoylesoftware.htmlunit.BrowserVersion;
import com.gargoylesoftware.htmlunit.WebClient;
import com.gargoylesoftware.htmlunit.WebRequest;
import com.gargoylesoftware.htmlunit.WebResponse;
import com.gargoylesoftware.htmlunit.html.HtmlElement;
import com.gargoylesoftware.htmlunit.html.HtmlPage;
import com.gargoylesoftware.htmlunit.util.FalsifyingWebConnection;
import java.io.File;
import java.io.IOException;
public class TestProblem {
public static void main(String[] args) throws IOException {
WebClient client = new WebClient(BrowserVersion.FIREFOX_3_6);
client.setJavaScriptEnabled(true);
client.setCssEnabled(false);
String url = "http://browse.deviantart.com/resources/applications/psbrushes/?order=9&offset=0#/dbwam4";
client.setThrowExceptionOnScriptError(false);
client.setThrowExceptionOnFailingStatusCode(false);
client.setWebConnection(new FalsifyingWebConnection(client) {
@Override
public WebResponse getResponse(final WebRequest request) throws IOException {
if ("www.google-analytics.com".equals(request.getUrl().getHost())) {
return createWebResponse(request, "", "application/javascript"); // -> empty script
}
if ("d.unanimis.co.uk".equals(request.getUrl().getHost())) {
return createWebResponse(request, "", "application/javascript"); // -> empty script
}
if ("edge.quantserve.com".equals(request.getUrl().getHost())) {
return createWebResponse(request, "", "application/javascript"); // -> empty script
}
if ("b.scorecardresearch.com".equals(request.getUrl().getHost())) {
return createWebResponse(request, "", "application/javascript"); // -> empty script
}
//
if (request.getUrl().toString().startsWith("http://st.deviantart.net/css/v6core_jc.js")) {
WebResponse wr = super.getResponse(request);
return createWebResponse(request, wr.getContentAsString(), "application/javascript");
}
if (request.getUrl().toString().startsWith("http://st.deviantart.net/css/v6loggedin_jc.js")) {
WebResponse wr = super.getResponse(request);
return createWebResponse(request, wr.getContentAsString(), "application/javascript");
}
return super.getResponse(request);
}
});
HtmlPage page = client.getPage(url); //url with fragment identifier
File saveFile = new File("saved.html");
if(saveFile.exists()){
saveFile.delete();
saveFile = new File("saved.html");
}
page.save(saveFile);
HtmlElement img = page.getElementById("gmi-ResViewSizer_img");
System.out.println(img.toString());
}
}
关于url - HtmlUnit 和片段标识,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/4588199/