个人介绍
我熟练掌握Python基础语法,具备扎实的基础爬虫开发能力,能够独立完成普通网页的公开数据抓取、内容解析与数据整理工作,可满足日常信息采集、数据汇总等基础使用需求。我熟练掌握爬虫基础核心库的使用,能够运用Requests发送网络请求,模拟正常浏览器访问,获取静态网页内容。同时熟悉BeautifulSoup、XPath和正则表达式的基础用法,可以精准提取网页中的文本、链接、图片、表格等公开数据,并对采集到的数据进行清洗、去重和格式整理,保证采集数据整洁、可用。我了解基础的爬虫访问规范,掌握简单的防拦截小技巧,能够通过设置请求头、适当延时访问等方式规避基础访问限制,保障爬虫脚本稳定运行,顺利完成普通静态网站的数据采集任务。熟悉基础的数据导出方式,能够将整理好的爬虫数据导出为Excel、CSV、JSON等常用格式,方便数据查看和后续使用,编写的代码结构清晰、易懂、可复用。我严格遵守爬虫合规规则,了解robots协议,只爬取网站公开、合法的信息,坚守合规底线,杜绝违规采集数据。整体具备完整的基础Python爬虫实操能力,能够独立完成常规静态网页的数据采集、解析、清洗与导出全套流程,可
核心技能
爬虫
python
request
beautifulsoup
精选作品集
Python豆瓣读书榜单数据采集爬虫
基于Python开发基础静态网页爬虫,自动抓取豆瓣读书各类榜单公开书籍信息,完成数据提取、清洗与本地文件导出,适用于图书信息汇总、书单统计等基础数据需求,全程仅抓取网站公开合规数据。
## 使用技术栈(基础向,无高阶技术)
Python、Requests、BeautifulSoup、XPath、正则表达式、CSV/Excel文件存储
## 实现功能
1. 发送网页请求,模拟正常浏览器访问豆瓣读书榜单页面,获取页面源码;
2. 定位榜单列表,批量提取每本书公开信息:书名、作者、出版社、出版年份、评分、评价人数、书籍标签、书籍链接;
3. 对脏数据清洗处理:去除多余空格、统一空值格式、重复书籍去重;
4. 将整理完成的全部榜单数据自动保存为CSV、Excel文件,方便查阅统计;
5. 添加请求延时、请求头伪装,降低访问拦截概率,脚本稳定运行。
## 项目流程
1. 导入所需Python工具库,配置基础请求头与访问延时;
2. 定义请求函数,获取豆瓣榜单页面HTML源码;
3. 使用BeautifulSoup解析页面标签,循环遍历所有书籍条目;
4. 逐条提取目标字段,做数据清洗修正;
5. 建立数据表结构,循环写入本地Excel/CSV文件;
6. 增加异常捕获,访问失败自动打印提示,方便排查问题。
## 项目成果
可一次性采集豆瓣热门图书榜单上百条书籍公开数据,输出结构化表格文件,数据规整无冗余,代码注释清晰、可二次修改适配其他榜单页面,仅抓取公开可见内容,遵守网站robots协议,合规无侵权风险。
## 运行环境
Windows / Mac 本地Python3环境,无需数据库、无浏览器自动化、无代理IP等高阶依赖。
## 可直接复制粘贴完整文本(复制到作品集框直接用)
### 完整可直接上传文本
### 项目:豆瓣读书榜单爬虫
项目简介:使用Python基础爬虫技术抓取豆瓣读书榜单公开图书数据,完成信息提取、清洗并导出表格文件,用于书单整理、图书信息统计,仅采集网站公开合规内容。
技术栈:Python、Requests、BeautifulSoup、XPath、Excel/CSV数据存储
核心功能:
1. 模拟浏览器请求豆瓣榜单页面,获取网页源码;
2. 批量提取书籍书名、作者、评分、出版社、标签、评价人数等公开信息;
3. 清洗脏数据,去除无效空格、重复数据,统一数据格式;
4. 自动将全部采集数据导出Excel、CSV文件,便于查看统计;
5. 设置请求头、访问延时,降低网站限制,提升脚本稳定性;
6. 增加基础异常捕获,页面访问报错可快速定位问题。
项目流程:导入工具库→发送网页请求→解析页面提取数据→数据清洗处理→批量写入表格文件。
项目效果:单次可采集上百条榜单图书结构化数据,代码简单易修改,无复杂高阶技术,仅依赖本地Python环境运行,严格遵循爬虫合规要求。
工作经历
教育背景