学习python完基础,有些迷茫.眼睛一闭,一种空白的窒息源源不断而来.还是缺少练习,遂拿爬虫来练练手.学习完斯巴达python爬虫课程后,将心得整理如下,供后续翻看.整篇笔记主要分以下几个部分:

1.做一个简单的爬虫程序
2.小试牛刀--抓取百度贴吧图片
3.总结

1.做一个简单的爬虫程序

首先环境描述

Device: Mba 2012 Yosemite 10.10.1
Python: python 2.7.9
编辑器: Sublime Text 3

这个没有什么好说的,直接上代码吧!

很简单,基本上没有可说的,这个也就是python的魅力,几行代码就完成.
当然我们仅仅抓取网页,没有实在的价值.接下来我们就开始做一点有意义的事情.

2.小试牛刀

抓取百度贴吧图片

其实也很简单,因为要抓取图片,还需要先分析一下网页源代码
(这里以知道基本html知识,浏览器以chrome为例)
如图,这里简要说下步骤,请参考.

打开网页,右键点击,选择"inspect Element"(最下面这一项)
点击下面弹起来的框框最左边那个问号,问号会变成蓝色
移动鼠标去点击我们想要抓取的图片(一个萌妹子)
如图,我们就可以图片在源码中的位置了

Python爬虫基础1–urllib-Python 技术分享 Java技术分享 Python 爬虫技术_微信公众号:zeropython—昊天博客

源码分析

下面将源码相关拷贝出来

经分析和对比(这里略掉),基本上可以看到要抓取的图片几个特征:

1.在img标签下
2.在名为BDE_Image的类下面
3.图片格式为jpg
正则表达式后续我会更新,请关注

依照上述判断,直接上代码

如图,我们就抓取你懂的图片

Python爬虫基础1–urllib-Python 技术分享 Java技术分享 Python 爬虫技术_微信公众号:zeropython—昊天博客

百度贴吧 抓取图片

3.总结
如上两节,我们就很轻松的就可以网页或者图片.
补充一点小技巧,如果遇到不是很明白的库或者方法,可以通过以下方法进行初步了解.
dir(urllib) #查看当前库有哪些方法
help(urllib.urlretrieve) #查看跟当前方法相关的作用或者参数,官方比较权威
或者https://docs.python.org/2/library/index.html
这一节我们讲解如何抓取网页和下载图片,在下一节里面我们会讲解如何抓取有限制抓取的网站.

 

 




HTTPX 基础教程-新乡seo|网站优化,网站建设_微信公众号:zeropython—昊天博客