行业知识
【python】python天气气候数据抓取分析可视化(源码+数据+可视化+报告)【独一无二】
2026-11-02 03:14:14
来源:互联网转载
博__主:米码收割机
技__能:C++/Python语言
公众号:测试开发自动化【获取源码+商业合作】
荣__誉:阿里云博客专家博主、51CTO技术博主
专__注:专注主流机器人、人工智能等相关领域的开发、测试技术。
系列文章目录
目录
- 系列文章目录
- 一、网页分析
- 导入模块
- 初始化CSV文件
- 爬取数据
- 设置请求头
- 发送请求并解析数据
- 正则表达式解析
- 写入excel文件
- 二、数据分析可视化
一、网页分析
爬取2345天气王网页的数据,进行数据分析可视化:
主要爬取了,主要包含日期、最高气温、最低气温、天气、风力风向等数据信息。
源码获取 关注【测试开发自动化】公众号,回复 “ 气候版本二 ” 获取。
这段Python代码主要用于从网站上抓取历史天气数据并保存到本地的CSV文件中。下面逐块解释每部分代码的功能:
导入模块
import reimport csvimport requests
- re: 用于处理正则表达式,这在解析网页内容时非常有用。
- csv: 用于读写CSV文件,这里主要用于保存抓取的数据。
- requests: 用于发起网络请求,获取网页数据。
初始化CSV文件
with open('weather_data.csv', 'a', newline='', encoding='utf-8') as file: writer = csv.writer(file) writer.writerow(['日期', '最高温', '最低温', '天气', '风力风向']) file.close()- 这部分代码打开(或创建)一个名为weather_data.csv的文件,并设置为追加模式('a')。
- 用csv.writer创建一个CSV写入器,然后写入表头,包括日期、最高温、最低温、天气和风力风向。
- 文件使用UTF-8编码,以支持中文字符。
- newline=''用于防止在写入行之间产生额外的空行。
爬取数据
for i in range(2011, 2025): for j in range(1, 13): url = f"https://tiaxxxx.com"
- 使用双层循环遍历从2011年到2023年的每个月。
- 构造URL以根据年份和月份请求对应的历史天气数据。
源码获取 关注【测试开发自动化】公众号,回复 “ 气候版本二 ” 获取。
设置请求头
headers = { ... }- headers字典包含了众多HTTP头部信息,这些信息用于模拟浏览器请求,避免被服务器识别为爬虫。
发送请求并解析数据
res = requests.get(url=url, headers=headers)text = res.json()['data'].replace('\n', '').replace(' ', '')- 使用requests.get向构造的URL发送请求,传入之前设置的headers。
- 从响应中提取JSON格式的数据,并进一步获取其中的data字段。然后移除响应中的换行符和空格,方便后续的数据处理。
源码获取 关注【测试开发自动化】公众号,回复 “ 气候版本二 ” 获取。
正则表达式解析
if i
- headers字典包含了众多HTTP头部信息,这些信息用于模拟浏览器请求,避免被服务器识别为爬虫。
上一篇:MySQL的IF语句详解