• 移动端数据爬取


    1.Fiddler的概念

      Fiddler是位于客户端和服务器端的HTTP代理,也是目前最常用的http抓包工具之一 。 它能够记录客户端和服务器之间的所有 HTTP请求,可以针对特定的HTTP请求,分析请求数据、设置断点、调试web应用、修改请求的数据,甚至可以修改服务器返回的数据,功能非常强大,是web调试的利器。

    2.安装

       Fiddler下载地址:https://www.telerik.com/fiddler

    3.手机App抓包设置

    a.Fiddler设置

      打开Fiddler软件,打开工具的设置。(Fiddler软件菜单栏:Tools->Options)

     在HTTPS中设置如下:

      在Connections中设置如下,这里使用默认8888端口,当然也可以自己更改,但是注意不要与已经使用的端口冲突:

      Allow remote computers to connect:允许别的机器把请求发送到fiddler上来

    b. 安全证书下载
      在电脑浏览器中输入地址:http://localhost:8888/,点击FiddlerRoot certificate,下载安全证书:


    c. 安全证书安装
       证书是需要在手机上进行安装的,这样在电脑Fiddler软件抓包的时候,手机使用电脑的网卡上网才不会报错。

      Android手机安装:把证书放入手机的内置或外置存储卡上,然后通过手机的"系统安全-》从存储设备安装"菜单安装证书。

      然后找到拷贝的FiddlerRoot.cer进行安装即可。安装好之后,可以在信任的凭证中找到我们已经安装好的安全证书。

      苹果手机安装:

            - 保证手机网络和fiddler所在机器网络是同一个网段下的

            - 在safari中访问http://fiddle机器ip:fiddler端口,进行证书下载。然后进行安装证书操作。

            - 在手机中的设置-》通用-》关于本机-》证书信任设置-》开启fiddler证书信任

    d. 局域网设置
      想要使用Fiddler进行手机抓包,首先要确保手机和电脑的网络在一个内网中,可以使用让电脑和手机都连接同一个路由器。当然,也可以让电脑开放WIFI热点,手机连入。这里,我使用的方法是,让手机和电脑同时连入一个路由器中。最后,让手机使用电脑的代理IP进行上网。
      在手机上,点击连接的WIFI进行网络修改,添加代理。进行手动设置,ip和端口号都是fiddler机器的ip和fiddler上设置的端口号。

  • 相关阅读:
    基于 Hexo + GitHub Pages 搭建个人博客(一)
    我对软件工程这门课的理解
    SpringMVC 框架系列之组件概述与配置详解
    2018上半年广东省中小学教师资格认定流程
    教师资格笔试究竟应该如何备考?
    SpringMVC 框架系列之初识与入门实例
    PyCharm 2017.3 下载与安装
    【SSH框架】系列之 Spring 整合 Hibernate 框架
    Spring 框架系列之事务管理
    Spring 框架系列之 JDBC 整合实例
  • 原文地址:https://www.cnblogs.com/chenxi67/p/10457809.html
Copyright © 2020-2023  润新知