鱼C论坛

 找回密码
 立即注册
查看: 3526|回复: 6

[已解决]关于Python爬虫的疑惑

[复制链接]
发表于 2015-10-11 10:30:47 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 hldh214 于 2015-10-11 10:51 编辑

刚刚看完小甲鱼老师关于爬虫的视频,心血来潮想写一个直播网站弹幕获取的Python脚本,但是踩完点发现弹幕内容是动态生成的,类似ajax异步请求后用js动态添加上去的,我用chrome的审查元素element里面能看到弹幕内容,但是Python好像只能爬取静态的内容,求大神指点一下Python如何爬取动态的内容,chrome的审查元素如图 QQ截图20151011102903.jpg
网页源代码这一段对应的就是弹幕的主体了
  1. <div class="content-chat-container">
  2.                     <ul class="chat-content-container"></ul>
  3.                 </div>
复制代码

不知道怎么获取里面的动态内容
目标是让Python爬到这些内容,先谢谢各位大神了~~
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2015-10-11 10:36:48 | 显示全部楼层
本帖最后由 hldh214 于 2015-10-11 10:57 编辑

求大神
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2015-10-11 21:01:27 | 显示全部楼层    本楼为最佳答案   
百度一下,你就知道!
https://www.baidu.com/baidu?& ... 1%E5%86%85%E5%AE%B9
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-10-12 08:56:56 | 显示全部楼层
~风介~ 发表于 2015-10-11 21:01
百度一下,你就知道!
https://www.baidu.com/baidu?&ie=utf-8&word=Python%E7%88%AC%E5%8A%A8%E ...

这些我都看了,大抵都是用的其他语言配合Python的,我想知道有没有Python的库可以实现这一功能
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-10-12 12:39:02 | 显示全部楼层
我想用Python脚本获取网页动态生成的内容,先在谷歌浏览器的审查元素console里面踩点,构造的语句已经满足要求了,想知道如何写进代码里面让代码自动获取(
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2015-10-12 12:49:23 | 显示全部楼层
hldh214 发表于 2015-10-12 08:56
这些我都看了,大抵都是用的其他语言配合Python的,我想知道有没有Python的库可以实现这一功能

这里是Python的第三方模块列表:点击打开!你自己去找找吧~
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-10-12 13:09:19 | 显示全部楼层
~风介~ 发表于 2015-10-12 12:49
这里是Python的第三方模块列表:点击打开!你自己去找找吧~

感谢帮忙,已经放弃用Python了,我写一个浏览器扩展好了,或者我去学习一下uc脚本,Python作为服务器端脚本抓不到最终的dom
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-18 12:05

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表