鱼C论坛

 找回密码
 立即注册
查看: 1976|回复: 5

[已解决]为什么编写爬虫,idle什么也不运行,也不报错呢?

[复制链接]
发表于 2021-6-18 21:23:43 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
如题,代码完全照视频或作业答案,同时也照书上代码打了,都无法运行。。。
最佳答案
2021-6-18 23:49:40
from urllib import request
import re
from bs4 import BeautifulSoup


def main():
    url = "http://baike.baidu.com/view/284853.htm"
    headers = {'User-Agent': 'Firefox'}   # 得改header防反扒
    req = request.Request(url, headers=headers)
    r = request.urlopen(req)
    html = r.read().decode('utf-8')
    soup = BeautifulSoup(html, "html.parser")
    for each in soup.find_all(href=re.compile("view")):
        print(each.text, "->", ''.join(["http://baike.baidu.com", each["href"]]))


if __name__ == "__main__":
    main()
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-6-18 21:25:17 From FishC Mobile | 显示全部楼层
为啥不放代码?谁知道你在说啥?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-18 22:35:53 | 显示全部楼层


问问题养成贴代码的习惯,否则和纸上谈兵没什么区别

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2021-6-18 22:36:30 | 显示全部楼层
file:///C:/Users/Administrator/Desktop/%E6%96%B0%E5%BB%BA%E4%BD%8D%E5%9B%BE%E5%9B%BE%E5%83%8F.bmp
import urllib.request
import re
from bs4 import BeautifulSoup

def main():
    url = "http://baike.baidu.com/view/284853.htm"
    response = urllib.request.urlopen(url)
    html = response.read()
    soup = BeautifulSoup(html, "html.parser")
   
    for each in soup.find_all(href=re.compile("view")):
        print(each.text, "->", ''.join(["http://baike.baidu.com", each["href"]]))

if __name__ == "__main__":
    main()
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-18 22:51:41 | 显示全部楼层
校外也要读研 发表于 2021-6-18 22:36
import urllib.request
import re
from bs4 import BeautifulSoup

你这想找的是啥?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-18 23:49:40 | 显示全部楼层    本楼为最佳答案   
from urllib import request
import re
from bs4 import BeautifulSoup


def main():
    url = "http://baike.baidu.com/view/284853.htm"
    headers = {'User-Agent': 'Firefox'}   # 得改header防反扒
    req = request.Request(url, headers=headers)
    r = request.urlopen(req)
    html = r.read().decode('utf-8')
    soup = BeautifulSoup(html, "html.parser")
    for each in soup.find_all(href=re.compile("view")):
        print(each.text, "->", ''.join(["http://baike.baidu.com", each["href"]]))


if __name__ == "__main__":
    main()
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-15 06:35

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表