|
马上注册,结交更多好友,享用更多功能^_^
您需要 登录 才可以下载或查看,没有账号?立即注册
x
本帖最后由 梦景/ 于 2022-1-23 14:26 编辑
下面的数据是不对的,mvdate也就是上映日期,有些电影他没有写上映日期,我需要让所有数据的对应索引是一样的,但是现在如果他找不到对应的元素值,仍然继续写入,这样的话,数据顺序是错误的,到后面会报索引越界的错误。‘
请问怎么解决这个问题?
url为https://ssr1.scrape.center/page/1
- from asyncore import write
- import requests,bs4
- # url='https://ssr1.scrape.center/page/'
- # 获取所有的url
- urlls=['https://ssr1.scrape.center/page/'+str(i) for i in range(1,11)]
- header={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/97.0.4692.71 Safari/537.36 Edg/97.0.1072.62'}
- mvname=[]
- mvtype=[]
- mvcountry=[]
- mvtime=[]
- mvdate=[]
- mvscore=[]
- def gethtml():
- for i in range(10):
- page=requests.get(urlls[i],headers=header)
- page.encoding='utf-8'
- pagetext=bs4.BeautifulSoup(page.text,'html.parser')
- w=1
- # print(str(pagetext.find_all('div',class_="el-card__body")))
- for j in pagetext.find_all('div',class_="el-card__body"):
- mvname.append(j.find('a',class_='name').find('h2',class_='m-b-sm').text)
- mvtype.append('、'.join([k.find('span').text for k in j.find_all('button',class_="el-button category el-button--primary el-button--mini")]))
- mvcountry.append(j.find_all('div',class_="m-v-sm info")[0].find_all('span')[0].text)
- mvtime.append(j.find_all('div',class_="m-v-sm info")[0].find_all('span')[2].text)
-
- # mvdate.append(l.find_all('span').text for l in j.find_all('div',class_="m-v-sm info") if '上映' in str(l.find_all('span').text))
- # print(j.find_all('div',class_="m-v-sm info")[1].find_all('span'))
- for l in j.find_all('div',class_="m-v-sm info")[1].find_all('span'):
- w+=1
- print(l)
- if w==8: #已知第8条数据没有上映日期,但这样写不知道为啥第8条的数据写入依然是错误的{:5_104:}
- # mvdate.append(j.find_all('div',class_="m-v-sm info")[1].find_all('span')[0].text)
- mvdate.append('未知')
- else:
- mvdate.append(l.text)
- # mvdate.append(j.find('div',class_="m-v-sm info").find('span').text)
- mvscore.append(str(j.find('p',class_='score m-t-md m-b-n-sm').text).strip())
- # print(mvscore)
- # print(mvtime)
- # print(mvdate)
- # print(mvcountry)
- # print(mvtype)
- # print(mvname)
- return [mvname,mvscore,mvtype,mvcountry,mvtime,mvdate]
- # 0 1 2 3 4 5
- # gethtml()
- def write():
- data=gethtml()
- with open('data.csv','w',encoding="utf-8") as f:
- for i in range(len(data[0])):
- f.writelines(','.join((data[0][i],data[1][i],data[2][i],data[3][i],data[4][i],data[5][i]))+'\n')
-
-
- write()
复制代码
你看一下网页源码
第8 条第二个<div data-v-7f856186 class="m-v-sm info"></div>里面是空的,是没有span的
这和有<span>,span内容为空是两码事
既然没有span,你就不能 [0].text
你可以加个判断,判断一下find_all('span')的长度,是0的话再填“未知”
|
|