昊天SEO

python pycurl模块

一、pycurl概述

PycURl是一个C语言写的libcurl的python绑定库。libcurl 是一个自由的,并且容易使用的用在客户端的 URL 传输库。它的功能很强大,在PyCURL的主页上介绍的支持的功能有:FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE and LDAP. libcurl supports HTTPS certificates, HTTP POST, HTTP PUT, FTP uploading, kerberos, HTTP form based upload, proxies, cookies, user+password authentication, file transfer resume, http proxy tunneling and more!

由于PycURl 是由C语言原生实现的,所以一般来说会比其会比纯python实现的liburl、liburl2模块快不少,可能也会比Requests的效率更高。特别是使用PycURL的多并发请求时,效率更高。

二、pycurl 的用法

示例1

以下是一个通过get方法获取大众点评杭州站页面的请求时间统计和字符统计的一个用法,也可以将结果显示,只需要将最后一行的打开即可。

  1. #! /usr/bin/env python
  2. # -*- coding: utf-8 -*-
  3. import sys
  4. import pycurl
  5. import time
  6. class Test:
  7. def __init__(self):
  8. self.contents =
  9. def body_callback(self, buf):
  10. self.contents = self.contents + buf
  11. sys.stderr.write(“Testing %sn” % pycurl.version)
  12. start_time = time.time()
  13. url = ‘http://www.dianping.com/hangzhou’
  14. t = Test()
  15. c = pycurl.Curl()
  16. c.setopt(c.URL, url)
  17. c.setopt(c.WRITEFUNCTION, t.body_callback)
  18. c.perform()
  19. end_time = time.time()
  20. duration = end_time start_time
  21. print c.getinfo(pycurl.HTTP_CODE), c.getinfo(pycurl.EFFECTIVE_URL)
  22. c.close()
  23. print ‘pycurl takes %s seconds to get %s ‘ % (duration, url)
  24. print ‘lenth of the content is %d’ % len(t.contents)
  25. #print(t.contents)

示例2

很多站点需要通过cookie识别,这里封装了三个函数,函数1是对cookile进行自动处理的函数,函数2是定主一个get方法,函数3定义一个post方法:

  1. import pycurl
  2. import StringIO
  3. import urllib
  4. #————————自动处理cookile的函数———————————-#
  5. def initCurl():
  6. ”’初始化一个pycurl对象,
  7. 尽管urllib2也支持 cookie 但是在登录cas系统时总是失败,并且没有搞清楚失败的原因。
  8. 这里采用pycurl主要是因为pycurl设置了cookie后,可以正常登录Cas系统
  9. ”’
  10. c = pycurl.Curl()
  11. c.setopt(pycurl.COOKIEFILE, “cookie_file_name”)#把cookie保存在该文件中
  12. c.setopt(pycurl.COOKIEJAR, “cookie_file_name”)
  13. c.setopt(pycurl.FOLLOWLOCATION, 1) #允许跟踪来源
  14. c.setopt(pycurl.MAXREDIRS, 5)
  15. #设置代理 如果有需要请去掉注释,并设置合适的参数
  16. #c.setopt(pycurl.PROXY, ‘http://11.11.11.11:8080′)
  17. #c.setopt(pycurl.PROXYUSERPWD, ‘aaa:aaa’)
  18. return c
  19. #———————————–get函数———————————–#
  20. def GetDate(curl, url):
  21. ”’获得url指定的资源,这里采用了HTTP的GET方法
  22. ”’
  23. head = [‘Accept:*/*’,
  24. ‘User-Agent:Mozilla/5.0 (Windows NT 6.1; WOW64; rv:32.0) Gecko/20100101 Firefox/32.0’]
  25. buf = StringIO.StringIO()
  26. curl.setopt(pycurl.WRITEFUNCTION, buf.write)
  27. curl.setopt(pycurl.URL, url)
  28. curl.setopt(pycurl.HTTPHEADER, head)
  29. curl.perform()
  30. the_page =buf.getvalue()
  31. buf.close()
  32. return the_page
  33. #———————————–post函数———————————–#
  34. def PostData(curl, url, data):
  35. ”’提交数据到url,这里使用了HTTP的POST方法
  36. 备注,这里提交的数据为json数据,
  37. 如果需要修改数据类型,请修改head中的数据类型声明
  38. ”’
  39. head = [‘Accept:*/*’,
  40. ‘Content-Type:application/xml’,
  41. ‘render:json’,
  42. ‘clientType:json’,
  43. ‘Accept-Charset:GBK,utf-8;q=0.7,*;q=0.3’,
  44. ‘Accept-Encoding:gzip,deflate,sdch’,
  45. ‘Accept-Language:zh-CN,zh;q=0.8’,
  46. ‘User-Agent:Mozilla/5.0 (Windows NT 6.1; WOW64; rv:32.0) Gecko/20100101 Firefox/32.0’]
  47. buf = StringIO.StringIO()
  48. curl.setopt(pycurl.WRITEFUNCTION, buf.write)
  49. curl.setopt(pycurl.POSTFIELDS, data)
  50. curl.setopt(pycurl.URL, url)
  51. curl.setopt(pycurl.HTTPHEADER, head)
  52. curl.perform()
  53. the_page = buf.getvalue()
  54. #print the_page
  55. buf.close()
  56. return the_page
  57. #———————————–post函数———————————–#
  58. c = initCurl()
  59. html = GetDate(c, ‘http://www.baidu.com’)
  60. print html

示例3

这是一个将短链接转化为实际的url地址的示例

  1. import StringIO
  2. import pycurl
  3. c = pycurl.Curl()
  4. str = StringIO.StringIO()
  5. c.setopt(pycurl.URL, “http://t.cn/Rhevig4”)
  6. c.setopt(pycurl.WRITEFUNCTION, str.write)
  7. c.setopt(pycurl.FOLLOWLOCATION, 1)
  8. c.perform()
  9. print c.getinfo(pycurl.EFFECTIVE_URL)

本文地址官网    新乡网站建设,seo

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址