≡
  • 网络编程
  • 数据库
  • CMS技巧
  • 软件编程
  • PHP笔记
  • JavaScript
  • MySQL
位置:首页 > 网络编程 > Python

Python 天气爬虫采集器的简单示例

人气:688 时间:2018-10-26

这篇文章主要为大家详细介绍了Python 天气爬虫采集器的简单示例,具有一定的参考价值,可以用来参考一下。

对python这个高级语言感兴趣的小伙伴,下面一起跟随四海网的小编两巴掌来看看吧!

说道爬虫大家或许感觉非常神秘,其实它没有我们想象的那么神奇(当然,google和baidu的爬虫是一场复杂和强大的,它的强大不是爬虫本身强大,而是后台的数据处理和数据挖掘算法非常强大),今天我们就来揭开它神秘的面纱。呵呵,简单两步就可以实现一个网页天气爬虫程序。。。

爬虫简单说来包括两个部分:1.获得网页文本信息。2.数据分析,获取其中我们想要的数据。

1、获得网页文本信息。

python在获取html方面十分方便,有了urllib库的帮助,只需要几行代码就可以实现我们需要的功能。
 

# @param Python简单两步实现天气爬虫采集器
# @author 四海网|www.q1010.com 

#引入urllib库
import urllib 
def getHtml(url): 
page = urllib.urlopen(url) 
html = page.read() 
page.close() 
return html

# End www_512pic_com

这里返回的就是网页的源代码,也就是html代码。

那我们如何从中得到我们想要的信息呢?那就需要用到在网页分析里面最最常用的工具 - 正则表达式 了。

2、根据正则表达式等获得需要的内容。

使用正则表达式时需要仔细观察该网页信息的结构,并写出正确的正则表达式。

python正则表达式的使用也很简洁:

# @param Python简单两步实现天气爬虫采集器
# @author 四海网|www.q1010.com 

#引入正则表达式库
import re
def getWeather(html): 
reg = '<a title=.*?>(.*?)</a>.*?<span>(.*?)</span>.*?<b>(.*?)</b>'
weatherList = re.compile(reg).findall(html) 
return weatherList

# End www_512pic_com

说明:

其中reg是正则表达式,html是第一步获得的文本。findall的作用是找到html中所有符合正则匹配的字符串并存放到weatherList中。之后再枚举weatheList中的数据输出即可。

这里的正则表达式reg有两个地方要注意。

一个是“(.*?)”。只要是()中的内容都是我们将要获得的内容,如果有多个括号,那么findall的每个结果就都包含这几个括号中的内容。上面有三个括号,分别对应城市、最低温和最高温。

另一个是“.*?”。python的正则匹配默认是贪婪的,即默认尽可能多地匹配字符串。如果在末尾加上问号,则表示非贪婪模式,即尽可能少地匹配字符串。在这里,由于有多个城市的信息需要匹配,所以需要使用非贪婪模式,否则匹配结果只剩下一个,且是不正确的。

本文来自:http://www.q1010.com/181/2367-0.html

注:关于Python 天气爬虫采集器的简单示例的内容就先介绍到这里,更多相关文章的可以留意四海网的其他信息。

关键词:爬虫

您可能感兴趣的文章

  • python 简单爬虫实现方法
  • python抓取腾讯视频所有电影爬虫示例
  • python爬虫框架scrapy的简单示例
  • python 京东商品价格爬虫示例
  • Python使用爬虫代理proxy抓取网页的简单示例
  • Python爬12万条影评的简单示例
  • Python快速构建爬虫IP代理池服务示例
  • Python3多线程爬虫入门实例
上一篇:python+js 大数据数字口语化示例
下一篇:Python 大量小文件存储提高效率的简单示例
热门文章
  • Python 处理Cookie的菜鸟教程(一)Cookie库
  • python之pandas取dataframe特定行列的简单示例
  • Python解决json.dumps错误::‘utf8’ codec can‘t decode byte
  • Python通过pythony连接Hive执行Hql的脚本
  • Python 三种方法删除列表中重复元素的简单示例
  • python爬虫代码示例
  • Python 中英文标点转换示例
  • Python 不得不知的开源项目解析
  • Python urlencode编码和url拼接实现方法
  • python按中文拆分中英文混合字符串的简单示例
  • 最新文章
    • Python利用numpy三层神经网络的简单示例
    • pygame可视化幸运大转盘的简单示例
    • Python爬虫之爬取二手房信息的简单示例
    • Python之time库的简单示例
    • OpenCV灰度、高斯模糊、边缘检测的简单示例
    • Python安装Bs4及使用的简单示例
    • django自定义manage.py管理命令的简单示例
    • Python之matplotlib 向任意位置添加一个子图(axes)的简单示例
    • Python图像标签标注软件labelme分析的简单示例
    • python调用摄像头并拍照发邮箱的简单示例

四海网收集整理一些常用的php代码,JS代码,数据库mysql等技术文章。