开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 6208|回复: 3
收起左侧

[源码分享] 刚学习的python,获取列表帖子

[复制链接]
结帖率:70% (14/20)
发表于 2019-12-31 22:03:29 | 显示全部楼层 |阅读模式   广东省深圳市

coding=utf-8

import requests
from lxml import etree
host = "https://bbs.125.la/"
def get_demo():
i = 0
while i <= 869:
i += 1

print(i)

    url = "https://bbs.125.la/forum-98-" + str(i) + ".html"
    print("=" * 40)
    print(url)
    header = {
        "Host": "bbs.125.la",
        "Connection": "keep-alive",
        "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3741.400 QQBrowser/10.5.3863.400",
        "X-Requested-With": "XMLHttpRequest",
        "Accept": "*/*",
        "Referer": "https://bbs.125.la/forum-98-1.html",
    }
    cookies = {
        "Cookie": "替换成自己的cookies"
    }
    req = requests.get(url, headers=header, cookies=cookies)

    text = req.content.decode('gbk',"ignore")
    html = etree.HTML(text)
    result = html.xpath("//*[@id='threadlisttableid']/tbody/tr/th/a[2]")

    for a in result:
        str1 = a.xpath("text()")[0]
        href = a.xpath("@href")[0]
        if href.find("html") != -1:
            try:
                f.write(str1 + "----" + host + href + "\n")
                print(str1, host + href)
            except:
                print("编码有误",str1)

if name == 'main':
f = open('demo.txt', mode='w',encoding='utf-8')
get_demo()
f.close()

发表于 2020-2-24 12:18:21 | 显示全部楼层   山东省济南市
666666666666
回复 支持 反对

使用道具 举报

结帖率:100% (6/6)

签到天数: 19 天

发表于 2019-12-31 23:54:45 | 显示全部楼层   河南省郑州市
python写这些东西确实方便啊
回复 支持 反对

使用道具 举报

结帖率:90% (9/10)

签到天数: 25 天

发表于 2019-12-31 22:05:01 | 显示全部楼层   重庆市重庆市
建议放弃。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表