鱼C论坛

 找回密码
 立即注册
查看: 2464|回复: 7

[已解决]刚学爬虫,到底问题出在那呢?求大佬指点

[复制链接]
发表于 2021-5-19 15:25:13 | 显示全部楼层 |阅读模式
5鱼币

import urllib.request

def download_html(url):

    header = {
        "User-Agent":"Mozilla/5.0 (Windows NT 6.1; Win64; x64)"
        "AppleWebKit/537.36 (KHTML, like Gecko)"
        "Chrome/90.0.4430.85 Safari/537.36"

    }

    req = urllib.request.Request(url = url, headers = header)

    response = urllib.request.urlopen(req)

    html = response.read().decode("utf-8")

    return html

html = duwnload_html("https://movie.douban.com/top250")

import re

pattern = 'https://movie.douban.com/subject/[0-9]+/'

urls = re.findall(pattern,html)

urls = set(urls)

print("urls count=%d"%(len(urls)))
for url in urls:
    print(url)
最佳答案
2021-5-19 15:25:14
8wy403208 发表于 2021-5-19 23:17
明白了,可还是有问题。。。

改好之后我这运行正常 Screenshot 2021-05-20 000422.jpg

最佳答案

查看完整内容

改好之后我这运行正常
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-5-19 15:25:14 | 显示全部楼层    本楼为最佳答案   
8wy403208 发表于 2021-5-19 23:17
明白了,可还是有问题。。。

改好之后我这运行正常 Screenshot 2021-05-20 000422.jpg
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-5-19 16:12:02 | 显示全部楼层
html = download_html("https://movie.douban.com/top250")
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2021-5-19 23:17:41 | 显示全部楼层
suchocolate 发表于 2021-5-19 16:12
html = download_html("https://movie.douban.com/top250")

明白了,可还是有问题。。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-5-20 10:22:44 | 显示全部楼层
这爬取后的东西在哪
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2021-5-20 22:33:39 | 显示全部楼层
suchocolate 发表于 2021-5-20 00:04
改好之后我这运行正常

无标题.png

为啥我这里是这样的?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-5-20 22:34:31 | 显示全部楼层
8wy403208 发表于 2021-5-20 22:33
为啥我这里是这样的?

函数调用名字写错了
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2021-5-20 22:40:45 | 显示全部楼层
我又试了下,可以运行了。原来是多打了个字母。。。。无语了
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-5-25 03:07

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表