鱼C论坛

 找回密码
 立即注册
查看: 3203|回复: 1

[已解决]新手,想问下关于scrapy 爬虫问题

[复制链接]
发表于 2017-4-11 22:33:00 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
这是item.py

  1. # -*- coding: utf-8 -*-

  2. # Define here the models for your scraped items
  3. #
  4. # See documentation in:
  5. # http://doc.scrapy.org/en/latest/topics/items.html

  6. import scrapy


  7. class DemoItem(scrapy.Item):
  8.     # define the fields for your item here like:
  9.     # name = scrapy.Field()
  10.     price = scrapy.Field()
  11.     title = scrapy.Field()
复制代码


这是DemoSpider.py文件

  1. import scrapy

  2. from Demo.items import DemoItem

  3. class Demo_spider(scrapy.Spider):
  4.     name = 'zufang'
  5.     start_urls = ["http://nn.ganji.com/fang1/"]

  6.     def parse(self, response):
  7.         sites = response.xpath(".//div[@class='f-list-item ']/dl")
  8.         items = []
  9.         for site in sites:
  10.             item = DemoItem()
  11.             item['price'] = site.xpath("dd[5]/div[1]/span[1]/text()").extract()
  12.             item['title'] = site.xpath("dd[1]/a/text()").extract()
  13.             items.append(item)

  14.         
  15.         return items
复制代码


按照小甲鱼老师的scrapy crawl zufang -o items.json -t json格式输出

然后得到
QQ图片20170411222923.png


我想问的是title: 输出的为什么不是文字呢?现在输出的是什么?我愿望想得到的是价格和标题的爬取的
最佳答案
2017-4-13 10:39:49
保存的json格式里面保存的是utf-8的编码格式,需要转换中文可以参考下我这篇日志
http://bbs.fishc.com/home.php?mo ... do=blog&id=3510
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2017-4-13 10:39:49 | 显示全部楼层    本楼为最佳答案   
保存的json格式里面保存的是utf-8的编码格式,需要转换中文可以参考下我这篇日志
http://bbs.fishc.com/home.php?mo ... do=blog&id=3510
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-4-13 10:39:49 | 显示全部楼层
卡了- -重复了
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-2-26 21:15

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表