javascript - 使用 NodeJS 进行抓取

Question

我需要从循环中的url中提取链接，所以基本上我需要再次执行该函数，但我不知道如何用nodejs来实现。

var request = require('request');
var cheerio = require('cheerio');
var searchTerm = 'baloncesto';
var url = 'http://mismarcadores.com/' + searchTerm;

request(url , function(err,resp,body){
    $ = cheerio.load(body);
    links = $('a');
    $(links).each(function(i,link){
        console.log(url+$(link).attr('href'));
    }
   )
})

我的问题是关于如何从此数组中提取链接，因为此代码工作正常(此代码在控制台中显示链接)，但我需要抓取这些链接。

结果将抓取每个内部的网址。

Answer 1

var request = require('request');
var cheerio = require('cheerio');
var searchTerm = 'baloncesto';
var url = 'http://mismarcadores.com/' + searchTerm;
request(url , function(err,resp,body){
    $ = cheerio.load(body)
    var allLinks = []
    links = $('a');
    $(links).each(function(i,link){
        console.log(url+$(link).attr('href'))
        var currentLink = url+$(link).attr('href')
        allLinks.push(currentLink)
        if (i == links.length-1){
          useLinks(allLinks)
        }
    }
   )
})

function useLinks(allLinks){
  console.log(allLinks)
}

如果您询问如何从 Cheerio 收到的链接中提取 url，那么您已经在这样做了。如果您想在请求完成后在其他地方使用它们(例如再次抓取)，请将它们存储在数组中，并在迭代最后一个链接后调用函数来使用该数组。