2271040868 发表于 2023-5-11 17:35:34

小甲鱼的淘宝爬虫不能用了啊,要怎么改才行

小甲鱼的淘宝爬虫不能用了啊,要怎么改才行,一下是小甲鱼的代码:

import requests
import bs4

def open_url(keyword):
    payload = {'q':keyword, "sort":"sale-desc"}
    url = "https://s.taobao.com/search"
    headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}

    res = requests.get(url, params=payload, headers=headers)

    return res

def main():
    keyword = input("请输入搜索关键词:")
    res = open_url(keyword)

    with open("items.txt", "w", encoding="utf-8") as file:
      file.write(res.text)
   
if __name__ == "__main__":
    main()

isdkz 发表于 2023-5-11 17:38:13

淘宝现在要登录才能搜索,所以你要在请求头加个 Cookie

歌者文明清理员 发表于 2023-5-11 17:38:49

selenium

2271040868 发表于 2023-5-11 19:31:09

isdkz 发表于 2023-5-11 17:38
淘宝现在要登录才能搜索,所以你要在请求头加个 Cookie

具体在哪个位置啊.....

isdkz 发表于 2023-5-11 19:32:40

2271040868 发表于 2023-5-11 19:31
具体在哪个位置啊.....

headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36',
'Cookie': '这里你在浏览器登录淘宝,然后打开开发者工具查看你的Cookie, 把你的 Cookie 值放到这里来'}
页: [1]
查看完整版本: 小甲鱼的淘宝爬虫不能用了啊,要怎么改才行