鱼C论坛

 找回密码
 立即注册
查看: 1934|回复: 2

爬取淘宝商品信息失败,不知错在何处

[复制链接]
发表于 2022-9-17 23:32:13 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
#简而言之,代码能运行,但不能爬取到相关信息,跪求各位大佬指点迷津,万分感谢
#淘宝书包信息获取.py
import requests
import re

def getHTMLText(url):
    #获取网址
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""

def parsePage(ilt, html):
    #解析网址信息,获取其中的价格及其名称
    #代码不能正常爬取信息,很有可能是本函数即网址解析出现了问题
    try:
        plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
        #正则表达式,获取网页中所有例如“view_price":"127.00”模式的有关价格的信息
        tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
        #正则表达式,获取网页中所有例如“raw_title":"书包”模式的有关商品名称的信息
        for i in range(len(plt)):
            price = eval(plt[i].split(':')[1])
            title = eval(tlt[i].split(':')[1])
            ilt.append([price,title])
        #通过for循环将价格和名称用列表的信息整理
        #eval()主要是去除获取信息中的符号如单、双引号
    except:
        print("")
        #tyr-except模式跳过运行过程中的异常模式,使代码能正常运行结束
def printGoodsList(ilt):
    #将解析的信息打印出来
    tplt = "{:4}\t{:8}\t{:16}"
    #将输出的信息按照固定的距离打印出来
    print(tplt.format("序号",  "价格", "商品价格"))
    count = 0
    for g in ilt:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))
        
def main():
    #主函数用于运行前面三个函数,并最终获得结果
    goods = '书包'
    depth = 3
    start_url = 'https://s.taobao.com/search?q=' + goods
    infoList = []
    for i in range(depth):
        try:
            url = start_url + '&s=' + str(44*i)
            html = getHTMLText(url)
            parsePage(infoList, html)
        except:
            continue
    printGoodsList(infoList)
main()
#出现的问题:代码能正常运行,但是不能爬取淘宝相关信息,而且不知道问题出现在什么地方
#至少代码的书写没有错误,复制课堂老师的代码运行的结果也是一样
#怀疑是链接访问出现问题,有可能这种代码书写并不能正常访问和爬取网址
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-9-18 11:30:08 | 显示全部楼层
getHTMLText函数需要改一下, 发送get请求时没有加请求头,被反爬了,在请求头里加入用户代理和cookie信息就可以了,做如下修改:
def getHTMLText(url):
    # 获取网址
    headers = {
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36',
        'cookie': '_samesite_flag_=true; cookie2=1a6cecfe0bbe34daec757f3162f91751; t=255c7866d7851e51e20a3a023cedf911; _tb_token_=e37347d3695bf; xlly_s=1; sgcookie=E10060CsXXRlc0KNtMj6NV7WXXnKefklrvk7GMUyUeJ5zOTtAfUrYFMZ79v7RIgmUPTEh9jWu4wLU9qx4kGkogdKoiM6%2FQJDeMPj3gYXBkq6JIxRwPaedlo8gDlDQJJDPiLy; enc=CXPneoK44wG%2FYnv1yqm7Re4UllaN1B%2F5dJiYQRgPlK07VlaVOs7pJcPzUbBbOvsUBGXFvf%2Bku4%2BUFIx88HxS6w%3D%3D; mt=ci=0_0; tracknick=; uc1=cookie14=UoeyDbwUInPE6g%3D%3D; cna=NnytG7F1WW4CAbbLk6ibPOrg; JSESSIONID=DA7B889D792FBC2A10BE5E83916D4B0E; tfstk=cChfBvwDIijb1w9zHRTy0VmZTEV1ZH_7WKZml3RzCdd1GkgfiA5UAgWnIGFaWz1..; l=eBrDHcvHTaKXhAukBOfwourza77OSIRAguPzaNbMiOCP_oCp5cSRW6oPfp89C3GVh6q6R3z1UrspBeYBqIv4n5U62j-la_kmn; isg=BBsbLPyV_ISWZwBwc7wyEk6Fqn-F8C_yLeutLQ1Y95ox7DvOlcC_QjlugkziTIfq',
    }
    try:
        r = requests.get(url, headers=headers, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-9-22 10:16:03 | 显示全部楼层
你用这种去爬淘宝比较麻烦,建议用rpa软件去爬,直接就是浏览器自动化操作,这样更不容易被识别为爬虫,而且调试起来也简单,毕竟就是浏览器可见即可得
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-3-29 22:59

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表