页面的json数据浏览器无法访问,还有什么别的办法获取数据?

Python进阶者
• 阅读 275

大家好,我是皮皮。

一、前言

前几天在Python钻石流群【空】问了一个Python网络爬虫的问题,一起来看看吧。问题描述:

请教一个问题,页面的json数据浏览器无法访问,还有什么别的办法获取数据

图片如下:

页面的json数据浏览器无法访问,还有什么别的办法获取数据?

这个问题看上去有点怪怪的。

二、实现过程

看上去代码倒是很简洁,没啥难度,这里【猫药师Kelly】给了一个指导:

2种办法:

  1. 不用selenium,直接request.post提交json
  2. 用selenium,截取jsonRequest的响应

页面的json数据浏览器无法访问,还有什么别的办法获取数据?

方法1值得优先尝试,方法2的话,原生selenium代码有点麻烦,换成selenium-wire也行,或者直接mitmproxy。

顺利地解决了粉丝的问题。

页面的json数据浏览器无法访问,还有什么别的办法获取数据?

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python可视化的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【空】提出的问题,感谢【猫药师Kelly】给出的思路,感谢【Brónson Ezrâ】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。 页面的json数据浏览器无法访问,还有什么别的办法获取数据?

点赞
收藏
评论区
推荐文章
Python进阶者 Python进阶者
1年前
盘点一个Python网络爬虫抓取股票代码问题(上篇)
大家好,我是皮皮。一、前言前几天在Python白银群【厚德载物】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。二、实现过程这个问题其实for循环就可以搞定了,看上去粉丝的代码没有带请求头那些,导致获取不到数据。后来【瑜亮老师】、【小王子】给了
Python进阶者 Python进阶者
1年前
盘点一个Python网络爬虫抓取股票代码问题(下篇)
大家好,我是皮皮。一、前言前几天在Python白银群【厚德载物】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。二、实现过程这个问题其实for循环就可以搞定了,看上去粉丝的代码没有带请求头那些,导致获取不到数据。后来【瑜亮老师】、【小王子】给了
Python进阶者 Python进阶者
1年前
盘点一个Python递归的基础题目
大家好,我是皮皮。一、前言前几天在Python黄金群【维哥】问了一个Python递归的基础问题,一起来看看吧。看上去代码没多少哈,但是韵味无穷。二、实现过程很多初学者遇到这个问题,很容易把答案说成是3,2,2这样,其实正好相反,这里【巭孬嫑勥烎】给了一个解
Python进阶者 Python进阶者
1年前
提供一个网站的相关截图,麻烦提供一个思路如何爬取网站相关数据
大家好,我是皮皮。一、前言前几天在Python钻石交流群【空】问了一个Python网络爬虫的问题,一起来看看吧。给大家提供一个网站的相关截图,麻烦你们提供一个思路如何爬取网站相关数据,下图这里是数据区。页面数据存储在这里的json里。二、实现过程常规来说,
Python进阶者 Python进阶者
1年前
Python实现excel工作簿中单元格底色为黄色的数据筛选
大家好,我是皮皮。一、前言前几天在Python最强王者交流群【哎呦喂是豆子~】问了一个pandas数据提取的问题,一起来看看吧。大佬们请教个问题有没有什么办法可以实现excel工作簿中单元格底色为黄色的行筛选出来当行只要有一个单元格标黄了当行数据筛选出来?
Python进阶者 Python进阶者
1年前
有人能看出来这种是什么图吗?
大家好,我是皮皮。一、前言前几天在Python铂金交流群【gyx】问了一个Python可视化的问题,一起来看看吧。问题描述:这种是什么图?哪个库可以画?图片如下:二、实现过程后来【Engineer】给了一个提示是神经网络图,然后【枫涧澈浪】补充道,使用py
Python进阶者 Python进阶者
1年前
anaconda创建环境老报错,是咋回事?
大家好,我是皮皮。一、前言前几天在Python最强王者交流群【刘流】问了一个Python创建虚拟环境的问题,一起来看看吧。问题描述:大佬们打搅下,anacondapowershellprompt创建环境老报错,是咋回事?报错截图如下:二、实现过程【隔壁😼
Python进阶者 Python进阶者
11个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这
Python进阶者 Python进阶者
9个月前
Python网络爬虫存储数据时,只有一页数据,后面的数据会把前面的数据覆盖?
大家好,我是Python进阶者。一、前言前几天在Python最强王者交流群【ZXS】问了一个Python网络爬虫实战问题。问题如下:我遇到了一个问题:【就是在存储数据时,只有一页数据,后面的数据会把前面的数据覆盖,而不是全部的数据】,【思路】:通过解析到的
Python进阶者 Python进阶者
6个月前
Python网络爬虫要清理cookies 才能再爬,有啥解决方法嘛?
大家好,我是Python进阶者。一、前言前几天在Python钻石交流群【大写一个Y】问了一个Python基网络爬虫的问题,问题如下:大佬们请教个问题我做了个在某眼查抓地址数据的爬虫,程序中做了随机25秒的循环延时,现在大概爬800多个地址,就会查不出数据,