Python爬取几千条相亲文案

2024-04-02 19:55

短信预约 -IT技能 免费直播动态提醒

1.代码的编写过程

我们引入需要用到的库，这里用到Python当中的requests库来发送和接受请求，通过正则表达式re这个库来解析数据


import requests
from tenacity import *
import re
import time

很多时候对遇到请求超时的情况，因此当出现一次错的时候，我们会多尝试几次，因此这里使用retry装饰器来多次尝试


@retry(stop=stop_after_attempt(5))
def do_requests(url):
    response = requests.get(url, headers=headers, proxies=proxies, timeout=10)
    return response.text

我们抓取的数据包括出生年份、身高/体重、学历、收入、职业、自我介绍、择偶标准、车房情况等等，都是通过正则表达式re库来实现的，


date_of_birth = re.compile("<br/>①出生年月/星座(.*?)<br/>", re.M | re.S)
sex = re.compile("<br/>【基本资料】(.*?)<br/>")
height = re.compile("<br/>②身高/体重(.*?)<br/>")
education = re.compile("<br/>⑤学历(.*?)<br/>")
jobs_1 = re.compile("<br/>⑥职业(.*?)<br/>")
income = re.compile("<br/>⑦月均收入(.*?)<br/>")
married = re.compile("<br/>⑨有无婚史(.*?)<br/>")
house_cars = re.compile("<br/>⑧车房情况(.*?)<br/>")
self_intro = re.compile("<br/>⑪ 自我介绍(.*?)<br/>")
requirements = re.compile("<br/>【择偶标准】<br/>(.*?)</a>")
family_member = re.compile("<br/>⑩家庭成员(.*?)<br/>")

2.结果的可视化展示

我们先来看一下性别比例，从分布来看，女生前来相亲的比例更高，主要也是因为数据源是来自北京、上海、杭州等大城市的相亲介绍，大城市中似乎女生脱单更加困难一些，

我们再来看一下单身的女性的特征，首先她们的年龄主要集中在94、93以及95年左右，正好都是处在适婚的年龄

而她们的学历，本科占到了绝大多数，基本上都有本科的学历，而大专的占比排在第二，硕士和博士处于少数

另外小编也对单身女性的星座做了一个统计，发现处女座、天秤座以及射手座、白羊座的女性单身率略高一些

最后，我们来看一下她们的择偶标准吧，小编将她们的择偶标准单独提取出来，然后绘制成了词云图


review_list = []
reviews = get_cut_words("".join(df_girls["requirements"].astype(str).tolist()))
reviews_counter = Counter(reviews).most_common(200)
print(reviews_counter)

for review in reviews_counter:
    review_list.append((" " + review[0] + " ") * review[1])

stylecloud.gen_stylecloud(text=" ".join(review_list), max_words=500, collocations=False,
                          font_path="KAITI.ttf", icon_name="fab fa-apple", size=653,
                          output_name="4.png")

最后呈现出来的样子如下图所示：