鱼C论坛

 找回密码
 立即注册
查看: 871|回复: 2

[已解决]关于python 0基础第55课课后题

[复制链接]
发表于 2020-3-23 20:57:34 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
第55课的课后题动动手第一题要求用户可以自己输入内容,然后爬虫百度百科
根据小甲鱼的答案运行不了,应该是网址变了,所以请问百度百科的新网址应该怎么看?
最佳答案
2020-3-23 21:09:13
本帖最后由 Hoiste 于 2020-3-23 21:11 编辑

是改了,我记得答案好像只能搜出多肉百科和恐龙百科了,你如果看过网页源代码就会发现那些词条已经换了关键字了(view变成item),这是我当初学的时候根据情况改的代码,你看看能不能用,另外,后面那题同样也不能按答案来了,我也放上来吧。
1题:
import urllib.request
import urllib.parse
import re
from bs4 import BeautifulSoup

def main():
    keyword = input('请输入关键词:')
    keyword = urllib.parse.urlencode({'word':keyword})
    url = 'http://baike.baidu.com/search/word?%s' %keyword
    response = urllib.request.urlopen(url)
    html = response.read()
    soup = BeautifulSoup(html,'html.parser')
    #百度百科下该关键词作为多义词时的各个词条
    for each in soup.find_all(href = re.compile('item')):
        content = each.text
        try:
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        except UnicodeEncodeError:
            temp = each['href'].split('/')[2]
            key = urllib.parse.urlencode({'':temp}).split('=')[1]
            each['href'] = ''.join(['/item/',key])
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        finally:
            html2 = response2.read().decode('utf-8')
            soup2 = BeautifulSoup(html2,'html.parser')
            
        if soup2.h2:
            content = ''.join([content,soup2.h2.text])
        content = ''.join([content,' -> ',url2])
        print(content)



if __name__ == '__main__':
    main()

2题
import urllib.request
import urllib.parse
import re
from bs4 import BeautifulSoup

def get_url(soup):
    for each in soup.find_all(href=re.compile('item')):
        content = ''.join([each.text])
        try:
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        except UnicodeEncodeError:
            temp = each['href'].split('/')[2]
            each['href'] = urllib.parse.urlencode({'':temp}).split('=')[1]
            url2 = ''.join(['http://baike.baidu.com','/',each['href']])
            response2 = urllib.request.urlopen(url2)
        finally:
            html2 = response2.read()
            soup2 = BeautifulSoup(html2,'html.parser')

        if soup2.h2:
            content = ''.join([content,soup2.h2.text])
        content = ''.join([content,' -> ',url2])
        yield content


def main():
    keyword = input('请输入关键词:')
    keyword = urllib.parse.urlencode({'word':keyword})
    url = 'http://baike.baidu.com/search/word?%s' %keyword
    response = urllib.request.urlopen(url)
    html = response.read()
    soup = BeautifulSoup(html,'html.parser')

    result = soup.find(text=re.compile('百度百科尚未收录词条'))
    if result:#如果未收录打印没有收录词条
        result = result.split(' ”')[0]#去掉奇怪的小尾巴
        print(result)
    else:#没有未收录词条的内容则打印标题、简介
        title = soup.h1.text
        if soup.h2:
            title += soup.h2.text
        print(title)
        if soup.find(class_='lemma-summary'):
            print(soup.find(class_='lemma-summary').text)

        print('下边打印相关链接:')

        #打印十个链接。。。好像要另起函数比较方便使用生成器来解决问题
        each = get_url(soup)
        while True:
            try:
                for i in range(10):
                    print(next(each))
            except StopIteration:
                break

            Quit = input('任意键继续打印词条,按q取消:')
            if Quit == 'q':
                break
            else:
                continue


if __name__ == '__main__':
    main()
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2020-3-23 21:09:13 | 显示全部楼层    本楼为最佳答案   
本帖最后由 Hoiste 于 2020-3-23 21:11 编辑

是改了,我记得答案好像只能搜出多肉百科和恐龙百科了,你如果看过网页源代码就会发现那些词条已经换了关键字了(view变成item),这是我当初学的时候根据情况改的代码,你看看能不能用,另外,后面那题同样也不能按答案来了,我也放上来吧。
1题:
import urllib.request
import urllib.parse
import re
from bs4 import BeautifulSoup

def main():
    keyword = input('请输入关键词:')
    keyword = urllib.parse.urlencode({'word':keyword})
    url = 'http://baike.baidu.com/search/word?%s' %keyword
    response = urllib.request.urlopen(url)
    html = response.read()
    soup = BeautifulSoup(html,'html.parser')
    #百度百科下该关键词作为多义词时的各个词条
    for each in soup.find_all(href = re.compile('item')):
        content = each.text
        try:
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        except UnicodeEncodeError:
            temp = each['href'].split('/')[2]
            key = urllib.parse.urlencode({'':temp}).split('=')[1]
            each['href'] = ''.join(['/item/',key])
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        finally:
            html2 = response2.read().decode('utf-8')
            soup2 = BeautifulSoup(html2,'html.parser')
            
        if soup2.h2:
            content = ''.join([content,soup2.h2.text])
        content = ''.join([content,' -> ',url2])
        print(content)



if __name__ == '__main__':
    main()

2题
import urllib.request
import urllib.parse
import re
from bs4 import BeautifulSoup

def get_url(soup):
    for each in soup.find_all(href=re.compile('item')):
        content = ''.join([each.text])
        try:
            url2 = ''.join(['http://baike.baidu.com',each['href']])
            response2 = urllib.request.urlopen(url2)
        except UnicodeEncodeError:
            temp = each['href'].split('/')[2]
            each['href'] = urllib.parse.urlencode({'':temp}).split('=')[1]
            url2 = ''.join(['http://baike.baidu.com','/',each['href']])
            response2 = urllib.request.urlopen(url2)
        finally:
            html2 = response2.read()
            soup2 = BeautifulSoup(html2,'html.parser')

        if soup2.h2:
            content = ''.join([content,soup2.h2.text])
        content = ''.join([content,' -> ',url2])
        yield content


def main():
    keyword = input('请输入关键词:')
    keyword = urllib.parse.urlencode({'word':keyword})
    url = 'http://baike.baidu.com/search/word?%s' %keyword
    response = urllib.request.urlopen(url)
    html = response.read()
    soup = BeautifulSoup(html,'html.parser')

    result = soup.find(text=re.compile('百度百科尚未收录词条'))
    if result:#如果未收录打印没有收录词条
        result = result.split(' ”')[0]#去掉奇怪的小尾巴
        print(result)
    else:#没有未收录词条的内容则打印标题、简介
        title = soup.h1.text
        if soup.h2:
            title += soup.h2.text
        print(title)
        if soup.find(class_='lemma-summary'):
            print(soup.find(class_='lemma-summary').text)

        print('下边打印相关链接:')

        #打印十个链接。。。好像要另起函数比较方便使用生成器来解决问题
        each = get_url(soup)
        while True:
            try:
                for i in range(10):
                    print(next(each))
            except StopIteration:
                break

            Quit = input('任意键继续打印词条,按q取消:')
            if Quit == 'q':
                break
            else:
                continue


if __name__ == '__main__':
    main()
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-3-23 21:12:33 | 显示全部楼层
Hoiste 发表于 2020-3-23 21:09
是改了,我记得答案好像只能搜出多肉百科和恐龙百科了,你如果看过网页源代码就会发现那些词条已经换了关键 ...

可以了,感谢!
第0题的时候我也会莫名其妙出来恐龙和多肉这种不相关的东西。。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-11-25 08:22

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表