鱼C论坛

 找回密码
 立即注册
查看: 3293|回复: 1

[已解决]将网页内容保存成txt时的编码问题

[复制链接]
发表于 2016-8-6 16:51:30 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
  1. import urllib.request
  2. import chardet


  3. def main():
  4.     i=0
  5.    
  6.     with open('urls.txt','r')as f:
  7.         urls=f.read().splitlines()
  8.     for each_url in urls:
  9.         response=urllib.request.urlopen(each_url)
  10.         html=response.read()

  11.         encode=chardet.detect(html)['encoding']
  12.         if encode=='GB2312':
  13.             encode='GBK'

  14.         i+=1
  15.         filename='url_%d.txt'%i

  16.         with open(filename,'w',encoding=encode)as each_file:
  17.             each_file.write(html.decode(encode,'ignore'))


  18. if __name__=='__main__':
  19.     main()
复制代码



第22行是用unicode写入的,第21行encoding=encode
捕获.JPG

如果不设定encoding,默认的是unicode吧,那为啥要设定?
还有used to decode or encode the file是说输入一种code,这个文件在这种code和unicode之间随机选择吗?
最佳答案
2016-8-6 18:13:26
本帖最后由 SixPy 于 2016-8-6 18:16 编辑

这话题,说3天3夜都说不完~
你自己去摆渡 字符集 和 字符编码

encode 是把 unicode 转换为 指定的编码格式,如 utf-8,gbk。。。。
decode 相反,是把 指定的编码格式 转换回 unicode

python3中,字符串只有 unicode一种编码, str
其他编码的只能作为 字节对象 存在。 bytes

小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2016-8-6 18:13:26 | 显示全部楼层    本楼为最佳答案   
本帖最后由 SixPy 于 2016-8-6 18:16 编辑

这话题,说3天3夜都说不完~
你自己去摆渡 字符集 和 字符编码

encode 是把 unicode 转换为 指定的编码格式,如 utf-8,gbk。。。。
decode 相反,是把 指定的编码格式 转换回 unicode

python3中,字符串只有 unicode一种编码, str
其他编码的只能作为 字节对象 存在。 bytes

小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-2-22 02:52

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表