问题来源 爬虫写完并不是一劳永逸的，因为原站的代码迭代，我们上次文章写的代码就变成了a pile of shit💩。生活不如意，十有八九，这并不是阻碍我们学习的绊脚石。我们出发点是学习，为了使这次对的代码具有一定的Robust(健壮性)，同样为了学习...

著名民谣(摇滚😖)歌手李志被官方以行为不端的理由封杀，作品遭到全网下架。虽然事情没有最终的结论，但是最近确实是没办法听到他的歌了。在网易云无聊的刷live视频，被逼哥震撼的现场所打动，从此被他真实的歌声吸引。作为程序员，典型的pushover...

众所周知,Fiddler是一款十分强大的抓包工具,也是我最常用的一款抓包软件.虽然网页抓包的话浏览器自带的网络调试工具就足以胜任,但是对于软件抓包的话就必须用到Fiddler等第三方工具了.Fiddler的强大不在于它可以抓取各个平台的数据包,还在于他的强大的调...

关于软件的介绍 Appium是一个开源的、跨平台的测试自动化工具，用于本地、混合和移动web和桌面应用程序，在模拟器(iOS)、仿真器(Android)和真实设备(iOS、Android、Windows、Mac)上进行测试。因为良好的支持库支持,你可以简单的在Java, Python,C#....等等...

问题来源 在爬取一个网站数据的时候,需要把每个页面的数据压缩为Json格式进行保存.我的做法是先将数据保存在dict内,再将dict插入到数组,最后通过json.dumps()将数据压缩为Json格式,具体数据流图如下: 详细代码: detail = [] for station in stations.fi...

项目灵感 最新想重温一下平凡的世界,然后网上虽然搜索到了资源,但是总感觉章节不全,然后我就找到了一个网站,网站很直接就叫平凡的世界,网站的内容很简单,就是平凡的世界的章节内容展示,全是静态页面,为什么不写个爬虫把文章全部保存下来呢?工作量似乎不大,...

样式一   样式二   之前的Logo是我用PS几个图层拼的,现在是我找大神帮忙设计的,有没有像666的感觉,确实一改之前青涩的风格,没有之前的半吊子气质了,但是我需求中的性冷淡风貌似没有体现出来,但是总归比之前好太多了,看看之前的logo啥样的. &...

问题由来 在Scrapy爬虫的开发过程中,由于爬取网页的限制,要求我们需要对Request进行深度构造,比如添加协议头,Cookie,Session等请求数据.Weiney在爬取一个小型网站时候发现,这个网站的数据是通过Get请求获取的,但是请求地址无需单独构造,因为数据返回是根...

构建带参数的scrapy shell 请求 在Scrapy开发过程中,总免不了做调试调试,毕竟每条Item的获取都是要经过反复测试才能成功获取.而scrapy提供了一个方便的控制台终端,以便我们在开发过程中调试spider,使用前需安装iPython,提高程序开发效率. //终端指令 scr...

插件简介 前两日下载3DM内的破解GTA5,用到了迅雷.没想到迅雷更新到迅雷9之后体验变得那么不好,一个浏览框占了三分之二的界面面积,视频自动播放,广告实在恶心,于是乎在52破解找到了相关绿色补丁,便转载过来给更多人看见. 插件来自吾爱破解:落尘之木 绿化内...