鱼C论坛

 找回密码
 立即注册
查看: 1329|回复: 3

如何将爬虫爬下来的数据储存成csv文件

[复制链接]
发表于 2020-6-18 14:17:42 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
def parse_detail_page(self, source):
        html = etree.HTML(source)
        driver = self.driver
        element = driver.find_element_by_xpath('//*[@id="datalist"]/table')
        ta_content = element.find_elements_by_xpath('//*[@id="datalist"]/table/tbody/tr[1]/td[1]')
        tb_content = element.find_elements_by_xpath('//*[@id="datalist"]/table/tbody/tr[2]/td[1]')
        lst1 = []
        for ta in ta_content:
            lst1.append(ta.text)
            print(lst1)
        lst2 = []
        for tb in tb_content:
            lst2.append(tb.text)
            print(lst2)
       self.write_to_csv()

def write_to_csv(lst1,lst2):
        headers = ['name',  'data']
        values = [lst1, lst2]
        with open('try.csv', 'w', newline='',encoding='utf-8') as fp:
            writer = csv.writer(fp)
            writer.writerow(headers)
            writer.writerows(values)

结果csv里的却是:
        name,num
      (,l,s,t,1,),(,l,s,t,2,)

而lst1和lst2里面原本应该是提取的数值。

请教各位大神,怎么才能把提取的数值存入到csv里面呢???


       
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2020-6-18 14:26:22 | 显示全部楼层


最简单的就直接按照 txt 写入的方法 你写入 csv 就好了,逗号分割值下

csv 本质就是 txt 文件
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-6-18 14:32:56 | 显示全部楼层
Twilight6 发表于 2020-6-18 14:26
最简单的就直接按照 txt 写入的方法 你写入 csv 就好了,逗号分割值下

csv 本质就是 txt 文件

我写了,但是数据存不进去啊,就是想请问 怎么把lst1里面的数据存入文件,是不是我写的代码少了什么还是错了哪里,请指教。我是个新手,真是不知道哪里写的不对啊。但感觉是不是我差个什么语句?才能把lst里面的数据给存入csv?
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-6-18 14:42:39 | 显示全部楼层
lpp25621832 发表于 2020-6-18 14:32
我写了,但是数据存不进去啊,就是想请问 怎么把lst1里面的数据存入文件,是不是我写的代码少了什么还是 ...

完整代码发下吧
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-6-22 06:47

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表