鱼C论坛

 找回密码
 立即注册
查看: 1427|回复: 6

爬虫

[复制链接]
发表于 2020-8-24 15:39:51 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
import requests
from bs4 import BeautifulSoup
import re


url = 'https://www.biduo.cc/biquge/41_41864/c15143933.html'

headers = {
'Accept-Language': 'zh-CN',
'Cache-Control': 'no-cache',
'Connection': 'Keep-Alive',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/537.36 Edge/18.18363'
}

html = requests.get(url=url,headers=headers).text

soup = BeautifulSoup(html,'lxml')
title = soup.select('.bookname > h1')
title = title[0].text
text = soup.find('div',id='content').text.replace('    ','\n')

with open('无敌1.txt','w',encoding='utf-8') as f:
    while (len(text)>50):
        str1 = text[0:50]
        if ('\n') in str1:
            index = str1.find('\n')
            str1 = str1[0:index+1]
            text = text[index+1:]
            f.write(str1)

        else:
            if (text[50]) is '\n':
                f.write(str1)
                text = text[50:]
            
            else:
                f.write(str1)
                f.write('\n')
                text = text[50:]
    else:
        f.write(text)

print('完成爬取')
有没有大佬有爬完文本后向文件里写的时候控制每行字符长度的程序。我自己写了一个,感觉不是很理想。求大佬指点
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2020-8-24 15:40:28 | 显示全部楼层
你想要的效果?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-8-24 15:42:55 | 显示全部楼层
就是跟Word差不多的那种,每行的长度都一致

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-8-24 15:47:11 | 显示全部楼层
本帖最后由 君子好逑 于 2020-8-24 15:49 编辑


这是我的程序的效果
101.png

吧文档放到Word里她是这样的,我想编个程序可以让写入文件里的字符跟Word一样整齐
102.png
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-8-24 15:51:10 | 显示全部楼层
君子好逑 发表于 2020-8-24 15:47
这是我的程序的效果

word好像有自动换行,所以没办法
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-8-24 15:52:09 | 显示全部楼层
xiaosi4081 发表于 2020-8-24 15:51
word好像有自动换行,所以没办法

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-8-24 15:52:42 | 显示全部楼层
xiaosi4081 发表于 2020-8-24 15:51
word好像有自动换行,所以没办法

有点难受,爬来的小说格式是真的让人看得难受
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-11 06:09

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表