只吃着碗里 发表于 2022-9-17 23:32:13

爬取淘宝商品信息失败，不知错在何处

#简而言之，代码能运行，但不能爬取到相关信息，跪求各位大佬指点迷津，万分感谢
#淘宝书包信息获取.py
import requests
import re

def getHTMLText(url):
    #获取网址
    try:
      r = requests.get(url, timeout=30)
      r.raise_for_status()
      r.encoding = r.apparent_encoding
      return r.text
    except:
      return ""

def parsePage(ilt, html):
    #解析网址信息，获取其中的价格及其名称
    #代码不能正常爬取信息，很有可能是本函数即网址解析出现了问题
    try:
      plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
      #正则表达式，获取网页中所有例如“view_price":"127.00”模式的有关价格的信息
      tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
      #正则表达式，获取网页中所有例如“raw_title":"书包”模式的有关商品名称的信息
      for i in range(len(plt)):
            price = eval(plt.split(':'))
            title = eval(tlt.split(':'))
            ilt.append()
      #通过for循环将价格和名称用列表的信息整理
      #eval()主要是去除获取信息中的符号如单、双引号
    except:
      print("")
      #tyr-except模式跳过运行过程中的异常模式，使代码能正常运行结束
def printGoodsList(ilt):
    #将解析的信息打印出来
    tplt = "{:4}\t{:8}\t{:16}"
    #将输出的信息按照固定的距离打印出来
    print(tplt.format("序号","价格", "商品价格"))
    count = 0
    for g in ilt:
      count = count + 1
      print(tplt.format(count, g, g))
      
def main():
    #主函数用于运行前面三个函数，并最终获得结果
    goods = '书包'
    depth = 3
    start_url = 'https://s.taobao.com/search?q=' + goods
    infoList = []
    for i in range(depth):
      try:
            url = start_url + '&s=' + str(44*i)
            html = getHTMLText(url)
            parsePage(infoList, html)
      except:
            continue
    printGoodsList(infoList)
main()
#出现的问题：代码能正常运行，但是不能爬取淘宝相关信息，而且不知道问题出现在什么地方
#至少代码的书写没有错误，复制课堂老师的代码运行的结果也是一样
#怀疑是链接访问出现问题，有可能这种代码书写并不能正常访问和爬取网址

月下孤井 发表于 2022-9-18 11:30:08

getHTMLText函数需要改一下, 发送get请求时没有加请求头,被反爬了,在请求头里加入用户代理和cookie信息就可以了,做如下修改:
def getHTMLText(url):
    # 获取网址
    headers = {
      'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36',
      'cookie': '_samesite_flag_=true; cookie2=1a6cecfe0bbe34daec757f3162f91751; t=255c7866d7851e51e20a3a023cedf911; _tb_token_=e37347d3695bf; xlly_s=1; sgcookie=E10060CsXXRlc0KNtMj6NV7WXXnKefklrvk7GMUyUeJ5zOTtAfUrYFMZ79v7RIgmUPTEh9jWu4wLU9qx4kGkogdKoiM6%2FQJDeMPj3gYXBkq6JIxRwPaedlo8gDlDQJJDPiLy; enc=CXPneoK44wG%2FYnv1yqm7Re4UllaN1B%2F5dJiYQRgPlK07VlaVOs7pJcPzUbBbOvsUBGXFvf%2Bku4%2BUFIx88HxS6w%3D%3D; mt=ci=0_0; tracknick=; uc1=cookie14=UoeyDbwUInPE6g%3D%3D; cna=NnytG7F1WW4CAbbLk6ibPOrg; JSESSIONID=DA7B889D792FBC2A10BE5E83916D4B0E; tfstk=cChfBvwDIijb1w9zHRTy0VmZTEV1ZH_7WKZml3RzCdd1GkgfiA5UAgWnIGFaWz1..; l=eBrDHcvHTaKXhAukBOfwourza77OSIRAguPzaNbMiOCP_oCp5cSRW6oPfp89C3GVh6q6R3z1UrspBeYBqIv4n5U62j-la_kmn; isg=BBsbLPyV_ISWZwBwc7wyEk6Fqn-F8C_yLeutLQ1Y95ox7DvOlcC_QjlugkziTIfq',
    }
    try:
      r = requests.get(url, headers=headers, timeout=30)
      r.raise_for_status()
      r.encoding = r.apparent_encoding
      return r.text
    except:
      return ""

cflying 发表于 2022-9-22 10:16:03

你用这种去爬淘宝比较麻烦，建议用rpa软件去爬，直接就是浏览器自动化操作，这样更不容易被识别为爬虫，而且调试起来也简单，毕竟就是浏览器可见即可得
页: [1]
查看完整版本: 爬取淘宝商品信息失败，不知错在何处