nodejs编写一个简单的http请求客户端代码demo

字号+ 编辑: 种花家 修订: 种花家 来源: 网络转载 2023-09-13 我要说两句(0)

用nodejs抓取网页内容的简单demo

Node.JS有一个request模块,可以很方便的抓取网页内容。最简单demo如下:

var request = require('request');
 
request('http://www.google.com', function (error, response, body) {
  if (!error && response.statusCode == 200) {
    console.log(body);
  }
})

由上例可以看出用request发起一个http请求确实非常简单,不过唯一的问题就是,request模块的第三方依赖比较多,导致这个模块非常地大,要占用好几M的空间。

其实用node.js原生的http模块就可以很方便地写出一个类似的request的功能,只要几十行即可:

var http = require('http')
var url  = require('url')
var request = function(reqUrl, data, cb, headers) {
var dataType = typeof data
 
if (dataType == 'function') {
  headers = cb
  cb   = data
  rawData = null
 } else if (dataType == 'object') {
  rawData = JSON.stringify(data)
 } else {
  rawData = data
}
 
var urlObj = url.parse(reqUrl)
 
var options = {
   hostname : urlObj.hostname
  , port   : urlObj.port
  , path   : urlObj.pathname
  , method  : rawData ? 'post' : 'get'
}
 
headers && (options.headers = headers)
 
 
var req = http.request(options, function(res) {
  var receives = []
 
  if (res.statusCode !== 200) {
   cb && cb(new Error('Request Failed. Status Code: ' + res.statusCode + ' ' + reqUrl))
   return
  }
 
  res.on('data', function(chunk) {
   receives.push(chunk)
  })
 
  res.on('end', function() {
   var resData = Buffer.concat(receives).toString()
   try {
    resData = JSON.parse(resData)
   } catch (e) { }
 
   cb && cb(null, res, resData)
  })
 })
 
 req.on('error', function(e) {
  cb && cb(e)
 })
 
 rawData && req.write(rawData)
 req.end()
}
 
module.exports = request

使用接口与request模块是一样的,比如我们抓取新浪新闻首页的内容

request('http://news.sina.com.cn', function(err, res, data) {
 console.log('geted', data)
})

抓取时附加cookie等header认证信息

request('http://news.sina.com.cn', function(err, res, data) {
 console.log('get with cookie', data)
}, { cookie: '_sessionid=1234567890' })

用POST的方式请求新浪网

request('http://news.sina.com.cn', { postdata: 'json' }, function(err, res, data) {
 console.log('get with cookie', data)
}, { cookie: '_sessionid=1234567890' })


阅完此文,您的感想如何?
  • 有用

    0

  • 没用

    0

  • 开心

    0

  • 愤怒

    0

  • 可怜

    0

1.如文章侵犯了您的版权,请发邮件通知本站,该文章将在24小时内删除;
2.本站标注原创的文章,转发时烦请注明来源;
3.交流群: PHP+JS聊天群

相关课文
  • JS如何防止父节点的事件运行

  • 说一则为什么后端开发人员不选择node.js的原因

  • 使用Sublime Text3 开发React-Native的配置

我要说说
网上宾友点评
沙发已空