Python爬虫实战,requests模块,爬取安居客网二手房房源信息数据
前言
本文给大家分享的是如何通过 Python爬取安居客网二手房房源数据开发工具
Python版本: 3.8
相关模块:
requests模块
parsel模块环境搭建
安装Python并添加到环境变量,pip安装需要的相关模块即可。
文中完整源码,留言获取。思路分析
本文以爬虫安居客二手房源信息,讲解如何采集安居客二手房源数据
要爬取的部分如下图所示:
安居客-房源提取页面数据
浏览器中打开我们要爬取的页面
按F12进入开发者工具,查看我们想要的数据在哪里
这里我们需要房源页面数据就可以了
页面数据代码实现# 伪装 headers = { "cookie": "aQQ_ajkguid=B7A0A0B5-30EC-7A66-7500-D8055BFFE0FA; ctid=27; id58=CpQCJ2Lbhlm+lyRwdY5QAg==; _ga=GA1.2.2086942850.1658553946; wmda_new_uuid=1; wmda_uuid=009620ee2a2138d3bd861c92362a5d28; wmda_visited_projects=%3B6289197098934; 58tj_uuid=8fd994c2-35cc-405f-b671-2c1e51aa100c; als=0; ajk-appVersion=; sessid=8D76CC93-E1C8-4792-9703-F864FF755D63; xxzl_cid=2e5a66fa054e4134a15bc3f5b47ba3ab; xzuid=e60596c8-8985-4ab3-a5df-90a202b196a3; fzq_h=4c8d83ace17a19ee94e55d91124e7439_1666957662955_85c23dcb9b084efdbc4ac519c0276b68_2936029006; fzq_js_anjuke_ershoufang_pc=75684287c0be96cac08d04f4d6cc6d09_1666957664522_25; twe=2; xxzl_cid=2e5a66fa054e4134a15bc3f5b47ba3ab; xxzl_deviceid=OOpJsA5XrQMdJFfv71dg+l+he0O1OKPQgRAQcFPbeRAyhjZ4/7gS3Gj4DfiLjxfc; isp=true; obtain_by=2; new_session=1; init_refer=https%253A%252F%252Fcs.anjuke.com%252F; new_uv=3", "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36" } 1.发送请求 response = requests.get(url=url, headers=headers) 2.获取数据 html_data = response.text 3.解析数据 select = parsel.Selector(html_data) ps = select.css(".property-content") for p in ps: # .property-content-title-name 标题 标题 = is_null(p.css(".property-content-title-name::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(1) span 户型 户型s = p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(1) span::text").getall() 户型 = " ".join(户型s) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(2) 面积 面积 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(2)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(3) 朝向 朝向 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(3)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(4) 楼层 楼层 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(4)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(5) 年份 年份 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(5)::text").get()) # .property-content-info:nth-child(2) .property-content-info-comm-name 小区名称 小区名称 = is_null(p.css(".property-content-info:nth-child(2) .property-content-info-comm-name::text").get()) # .property-content-info:nth-child(2) .property-content-info-comm-address 小区地址 小区地址 = is_null(p.css(".property-content-info:nth-child(2) .property-content-info-comm-address::text").get()) # .property-content-info:nth-child(3) span 小区标签 小区标签s = p.css(".property-content-info:nth-child(3) span::text").getall() 小区标签 = " ".join(小区标签s) # .property-price .property-price-total .property-price-total-num 总价 总价 = is_null(p.css(".property-price .property-price-total .property-price-total-num::text").get()) # .property-price .property-price-average 每平方米的价格 单价 = is_null(p.css(".property-price .property-price-average::text").get()) print(标题, 户型, 面积, 朝向, 楼层, 年份, 小区名称, 小区地址, 小区标签, 总价, 单价) 4.保存数据 with open("安居客.csv", mode="a", encoding="utf-8", newline="") as f: csv_writer = csv.writer(f) csv_writer.writerow([标题, 户型, 面积, 朝向, 楼层, 年份, 小区名称, 小区地址, 小区标签, 总价, 单价])
ps: 图片仅供参考 结果展示
效果展示
最后
为了感谢读者们,我想把我最近收藏的一些编程干货分享给大家,回馈每一个读者,希望能帮到你们。
里面有适合小白新手的全套资料给到大家~
快来和小编一起成长进步吧!
① 100+多本Python电子书(主流和经典的书籍应该都有了)
② Python标准库资料(最全中文版)
③ 爬虫项目源码(四五十个有趣且经典的练手项目及源码)
④ Python基础入门、爬虫、web开发、大数据分析方面的视频(适合小白学习)
⑤ Python学习路线图(告别不入流的学习)
素材
获.得源码教程 的方式
转/发/本文,私信:视频 ,
即可获取!
↓↓↓不会私信地看下图
↓↓↓
↑↑↑不会私信地看上图
↑↑↑
深圳房租回调到四年前!有房东主动降租,租客年省5000元深圳发布租房参考价能降房租吗?该问题受到越来越多的租客关注。近日,深圳市房地产和城市建设发展研究中心发布深圳市2022年度房屋租赁参考价格,并表示将根据租赁市场变化情况适时更新房屋
给新德里开绿灯,鼓动与华脱钩,美为何主动拥抱印度最近两年,美国和印度的关系发展如同坐了火箭一般,两国高层之间的互动十分频繁。据环球网最新报道,美国财政部长耶伦已抵达印度首都新德里,参加美印第九次经济与金融伙伴关系会议,并会见印度
一个人爱不爱你,主动吻他一次就知道了一个人爱不爱你,身体最诚实。爱你的人,会忍不住想要亲吻你,抱抱你,摸摸你的头,满眼满心都是你。有人说身体是一个机关,藏着感受爱情最直接纯粹的密码。因为爱是不经意间自主的行为,而不爱
气质,是一个女人最高级的性感女人的魅力不在年龄,不在美貌,在于她们气定神闲的微笑宠辱不惊的淡定风过无痕的从容。经历过的,感悟过的,惊喜过的,忧伤过的,一一沉淀在心。一个有气质的女人身上是有磁场的,不靠性感的衣
命苦的女人,开口闭口都是这样的话,很败好感文时光了了一个好的家庭,可以成就一个女人,但一个不好的家庭,同样也可以摧毁一个女人。不知道你有没有遇到过这样的人,明明她们家里很穷,过得很难,是值得同情的对象,但从她们口中说出的话
给你一碗孟婆汤,你会选择遗忘什么今天我们来聊聊,你会选择遗忘什么?长恨歌中有这样一句话我将永远记得你,也记得我,是你让我的灵魂得以安息。在这里的长恨歌,指的就是人的一生。对于很多人来说,一生中最痛苦最无奈的事情可
人活一辈子,到底是为了什么?人活一辈子目标其实就是为了追求一个完美的英雄葬礼不论一个人怎么度过一生,总要经历告别人世的仪式葬礼,葬礼其实是评价一个人一生价值的最直接方式。人在亲人的笑声和自己的哭声中降临世间,
不一样的配件,给你不一样的视角作为一名智能家居酒店试睡视频博主,经常会从不同视角来拍素材,除了用到的支架之外,更多的就是用到各式各样的拍摄配件,作为一名泰迅的老粉来说,当然首选泰迅的配件。作为视频博主,我主要的
适合老百姓喝的纯粮食酒,茅五剑太贵不考虑,这4款酒便宜又好喝常言道不管几岁,喝酒万岁。喝酒对于现在人来说,已经不再是以前很稀奇的事情了,其实现在喝酒已经是对于生活之中的一点慰藉,是基于生活之中的希望。所以现如今不管男女老少,要是平时没什么事
营销策划被儿子坑苦了的老干妈!难道真的富不过三代?贵州省企业联合会发布了贵州民营企业百强名单,老干妈跌出前十,一代神坛逐步陨落!我是个辣椒酱迷,即使吃干馍片,也会涂上一层辣椒酱!以前没有太多选择的时候,只能买一瓶老干妈,每次吃的时
不懂酒局上怎么开场?牢记3个公式开场话,宾客再多都不怕自古以来,中国人喝酒最讲究的就是礼仪。小到家庭聚会,大到单位团建,酒局上的座位安排倒酒顺序开场发言要注重的礼仪方面一个都不能少,再加上还有人逢喜事精神爽,酒宴一顿办两场的习惯,不少