python - 使用 Python 从网上下载 csv 文件

Question

目标:希望自动从 http://www.tocom.or.jp/historical/download.html 下载各种 .csv 文件使用 Python(虽然这不是主要问题)

细节:特别是，我正在尝试下载“报价数据”的 csv 文件(从底部开始的第五个标题，可用的 5 天。

问题:当我看到这个网页的源代码时，寻找“Tick Data”，我看到了对这 5 个 .csv 文件的引用，但它们没有通常的 href 标签。因为我使用的是 Python (urllib)，所以我需要知道这 5 个 .csv 文件的 URL，但不知道如何获取它们。

这不是Python本身的问题，而是关于如何找到一些可以从网页下载的.csv的URL。因此，没有提供代码。

Answer 1

该页面使用 JavaScript 创建 URL:

<select name="tick">
  <option value="TOCOMprice_20121122.csv">Nov 22, 2012</option>
  <option value="TOCOMprice_20121121.csv">Nov 21, 2012</option>
  <option value="TOCOMprice_20121120.csv">Nov 20, 2012</option>
  <option value="TOCOMprice_20121119.csv">Nov 19, 2012</option>
  <option value="TOCOMprice_20121116.csv">Nov 16, 2012</option>
</select>
  <input type="button" onClick="location.href='/data/tick/' + document.form.tick.value;" 
        value="Download" style="width:7em;" />

它结合了浏览器将针对当前站点使用的路径。所以每个 URL 是:

http://www.tocom.or.jp + /data/tick/ + TOCOMprice_*yearmonthday*.csv

看起来，数据只涵盖工作日。

这些很容易拼凑成自动 URL:

import requests
from datetime import datetime, timedelta

start = datetime.now() - timedelta(days=1)
base = 'http://www.tocom.or.jp/data/tick/TOCOMprice_'

next = start
for i in range(5):
    r = requests.get(base + next.strftime('%Y%m%d') + '.csv')
    # Save r.content somewhere
    next += timedelta(days=1)
    while next.weekday() >= 5:  # Sat = 5, Sun = 6
        next += timedelta(days=1)

我使用 requests 是因为它更易于使用 API，但如果您愿意，您也可以使用 urllib2 来完成此任务。