我想抓取以下网页:
http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/
但是编码存在一些问题:
library(rvest)
URL = 'http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/'
read_html(URL)
Error in
eval(substitute(expr), envir, enclos): input conversion failed due to input error, bytes 0xFA 0xB1 0x90 0xE7 [6003]
该页面清楚地是日文；前三页不需要编码，例如:
read_html('http://www.oricon.co.jp/rank/js/w/2017-01-16/p/2/')
# {xml_document}
# <html>
# [1] <head prefix="og: http://ogp.me/ns# fb: http://ogp.me/ns/fb#">\n <meta charset="shi ...
# [2] <body id="container"> \n<script src="//ajax.googleapis.com/ajax/libs/jquery/1.11 ...
此页面按预期运行，我可以毫无问题地提取我想要的内容。
我尝试使用 Hadley 在
rvest 上建议的方法对编码进行更明确的处理。问题跟踪器 here :library(httr)
guess_encoding(content(GET(URL), 'raw'))
# encoding language confidence
# 1 ISO-8859-1 pt 0.72
# 2 ISO-8859-2 ro 0.44
# 3 UTF-8 0.10
# 4 Shift_JIS ja 0.10
# 5 GB18030 zh 0.10
# 6 EUC-JP ja 0.10
# 7 EUC-KR ko 0.10
# 8 Big5 zh 0.10
# 9 ISO-8859-9 tr 0.01
这些都不对。除了
Shift_JIS 之外的所有语言都是错误的和 EUC-JP ，但两者都会产生类似的错误(麻烦的字节码不同):read_html(URL, encoding = 'Shift_JIS')
Error in
eval(substitute(expr), envir, enclos): input conversion failed due to input error, bytes 0xFA 0xB1 0x90 0xE7 [6003]
read_html(URL, encoding = 'EUC-JP')
Error in
eval(substitute(expr), envir, enclos): input conversion failed due to input error, bytes 0x8F 0x54 0x8A 0xD4 [6003]
使用其他一些建议的编码本身不会产生错误，但输出是 gobbledygook:
cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
read_html(URL, encoding = 'ISO-8859-1') %>%
html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>%
html_text %>% tail(6)
# [1] "\u0082æ\u0082Ñ\u0082·\u0082Ä"
# [2] "\u0083n\u0083b\u0083s\u0081[\u0083G\u0083\u0093\u0083h"
# [3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 \u0083T\u0083}\u0083J\u0083j!!"
# [4] "Dear Bride"
# [5] "Fantastic Time"
# [6] "Hey Ho"
罗马字母字符看起来很好，但平假名/汉字/片假名已丢失/损坏。
是否有
guess_encoding 的编码没有提到可能会解决我的问题？有什么方法可以找出页面上的哪些字符导致问题并希望排除它们？错误消息中的 6003 是什么意思？sessionInfo包版本引用:# R version 3.3.1 (2016-06-21)
# Platform: x86_64-pc-linux-gnu (64-bit)
# Running under: Ubuntu 14.04.3 LTS
#
# locale:
# [1] LC_CTYPE=en_US.UTF-8 LC_NUMERIC=C LC_TIME=en_US.UTF-8
# [4] LC_COLLATE=en_US.UTF-8 LC_MONETARY=en_US.UTF-8 LC_MESSAGES=en_US.UTF-8
# [7] LC_PAPER=en_US.UTF-8 LC_NAME=C LC_ADDRESS=C
# [10] LC_TELEPHONE=C LC_MEASUREMENT=en_US.UTF-8 LC_IDENTIFICATION=C
#
# attached base packages:
# [1] stats graphics grDevices utils datasets methods base
#
# other attached packages:
# [1] rvest_0.3.2.9000 xml2_1.1.0.9000
#
# loaded via a namespace (and not attached):
# [1] httr_1.2.1 magrittr_1.5 R6_2.1.3 tools_3.3.1 withr_1.0.2
# [6] curl_1.2 Rcpp_0.12.9 memoise_1.0.0 knitr_1.15.1 git2r_0.18.0
# [11] digest_0.6.11 devtools_1.12.0
最佳答案
按照我们在评论中的讨论:编码应该是 Shift_JISX0213如 Shift_JIS不知何故不是平台/设置独立的。
require(rvest)
url <- "http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/"
cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
xml2::read_html(url, encoding = "Shift_JISX0213") %>%
html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>%
html_text %>% tail(6)
[1] "よびすて"
[2] "ハッピーエンド"
[3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 サマカニ!!"
[4] "Dear Bride"
[5] "Fantastic Time"
[6] "Hey Ho"
为什么
shift_jis应该做的伎俩？即使它不适用于所有系统:看看响应头和源代码:
shift_jis和 Shift_JISX0213使用以下设置为我工作:macOS Sierra 10.12.2Session info --------------------------------------------------------------------------------------
setting value
version R version 3.3.1 (2016-06-21)
system x86_64, darwin13.4.0
ui RStudio (1.0.44)
language (EN)
collate en_US.UTF-8
tz Europe/Vienna
date 2017-01-16
Packages ------------------------------------------------------------------------------------------
package * version date source
curl 2.3 2016-11-24 cran (@2.3)
devtools 1.12.0 2016-06-24 CRAN (R 3.3.0)
digest 0.6.11 2017-01-03 cran (@0.6.11)
httr 1.2.1 2016-07-03 CRAN (R 3.2.5)
magrittr 1.5 2014-11-22 CRAN (R 3.3.0)
memoise 1.0.0 2016-01-29 CRAN (R 3.2.3)
R6 2.2.0 2016-10-05 CRAN (R 3.3.0)
Rcpp 0.12.9 2017-01-15 Github (RcppCore/Rcpp@f57467b)
rvest * 0.3.2.9000 2017-01-01 local
selectr 0.3-0 2016-08-30 CRAN (R 3.3.0)
stringi 1.1.2 2016-10-01 CRAN (R 3.3.0)
stringr 1.1.0 2016-08-19 CRAN (R 3.3.0)
withr 1.0.2 2016-06-20 CRAN (R 3.3.0)
XML 3.98-1.5 2016-11-10 CRAN (R 3.3.2)
xml2 * 1.1.0.9000 2017-01-15 Github (hadley/xml2@d36883c)
关于r - 调查编码错误，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/41684799/