|
马上注册,结交更多好友,享用更多功能^_^
您需要 登录 才可以下载或查看,没有账号?立即注册
x
- import requests
- import parsel
- from tqdm import tqdm
- import pandas as pd
- headers={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36'}
- def get_response(html_url):
- response = requests.get(url=html_url,headers=headers)
- return response #将得到的response变量再传到下面去
- def get_all_novel(html_url):
- response = get_response(html_url)#get_response(html_url)将url传到上面去
- selector = parsel.Selector(response.text)
- novel_name = selector.css('#info h1::text').get()
- href = selector.css('#list dd a::attr(href)').getall()
- for link in href:
- link_url = 'https://www.biquges.com/' + link
- html_data = get_response(link_url).text#将link带到def get_response(html_url):中去,返回的值直接text掉
- selector_1 = parsel.Selector(html_data)
- title = selector_1.xpath('//div[@class="bookname"]/h1/text()').get
- content_list = selector_1.css('#content::text').getall()
- #保存小说内容,需要的格式为txt,保存数据,要用字符串格式
- #把列表转化成字符串 str(content)强转 ''.join(列表)
- content = ''.join(content_list)
- print(title)
- #print(content)
- url = 'https://www.biquges.com/20_20374/'
- get_all_novel(html_url=url)
复制代码
为什么输出会是这样的信息,我用css和xpath筛选出来都是这样的结果,该怎么改才能把后面的章节信息正常输出
本帖最后由 学渣李某人 于 2021-7-8 17:17 编辑
get少了一对括号,
|
|