鱼C论坛

 找回密码
 立即注册
查看: 1385|回复: 2

[已解决]有哪些网站允许用python爬取数据?

[复制链接]
发表于 2023-11-15 19:21:21 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
最好给个链接!
最佳答案
2023-11-15 19:35:19
爬取网站数据需要遵守网站的 robots.txt 规则和相关法律。一些网站提供了公开的 ,可以使用 Python 或其他语言来获取数据。

练习站点推荐 -> https://scrape.center/

非常不错,上面各种案例的 Demo 都有~


想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2023-11-15 19:21:32 | 显示全部楼层
有一些网站允许使用Python进行数据爬取,这些网站通常提供了API或者开放了数据接口供开发者使用。其中一些常用的包括:

1. Twitter:Twitter提供了API供开发者获取用户信息、推文等数据。你可以访问 https://developer.twitter.com/en/docs 开始使用Twitter API。

2. GitHub:GitHub提供了API供开发者获取仓库、用户信息等数据。你可以访问 https://developer.github.com/v3/ 开始使用GitHub API。

3. Reddit:Reddit提供了API供开发者获取帖子、评论等数据。你可以访问 https://www.reddit.com/dev/api/ 开始使用Reddit API。

需要注意的是,在使用这些API时,你需要遵守相关网站的使用条款和规定,确保你的爬取行为合法且符合网站的规定。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2023-11-15 19:35:19 | 显示全部楼层    本楼为最佳答案   
爬取网站数据需要遵守网站的 robots.txt 规则和相关法律。一些网站提供了公开的 ,可以使用 Python 或其他语言来获取数据。

练习站点推荐 -> https://scrape.center/

非常不错,上面各种案例的 Demo 都有~


想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-12-23 04:12

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表