- 课程目录
- 课程介绍
-
在线阅读:开篇词 | 如何突破“爬虫反爬虫”内卷之怪现状?
“我就是想堂堂正正,还把工作完成了。”
-
01 | 爬虫需求的诞生:我们是正经的软件工程师
混沌未分网路乱,圈地既成爬虫生。
-
02 | 爬虫的内卷和黑化:我们变得不正经啦
古神藏于苦海内,心魔生于方寸间。
-
03 | 反爬虫的发展以及展望:我们也不是什么正经工程师
阿尔萨斯拔宝剑,屠龙勇士变恶龙。
-
春节加餐01 | 破解还是不破解,这是一个问题
你根本不知道自己的哪部分代码在起核心作用。
-
春节加餐02 | 真实世界里,小心屠龙勇士变恶龙
反爬真的是一件腐蚀人心智的事情,因为这件事本身就不太光明。
-
春节加餐03 | 低调驶得万年船
爬虫和“不正当竞争”、“破坏计算机信息系统罪”有什么关系吗?
-
04 | 爬虫的首轮攻势:如何低调地拿到自己想要的数据?
出行必备隐身术,工作常带指南针。
-
05 | 反爬虫的应对之策:通用且基本的检测规则是什么?
基石总归要修筑,息壤依然是主流。
-
06|爬虫攻势升级:分布式的意义在哪里?
其众如过江之鲫,其翼若垂天之云。
-
07 | 反爬虫升级:如何判定你是个真人?
夹缝求生欲乞巧,滴血验亲总图灵。
-
加餐|反爬虫的专家级鉴别力:用户习惯检测
我们的目标,是检测那些 ROI 不高的账号,我们并不在乎他是不是真人。
-
08 | 博弈的均衡:如何对抗道德的沦丧和人性的扭曲?
爬也有方且有法,盗亦有道又有德。
-
09 | 反爬虫概述(一):高收益的后端能做哪些基本的事情?
图穷匕见王负剑,鸡鸣狗盗客如云。
-
10 | 反爬虫概述(二):无收益的前端是怎么进行key处理的呢?
出双入对加解密,形单影只debug。
-
11|反爬虫概述(三):前端反爬虫是怎么做信息收集的?
出兵之前先插眼,打团过后要复盘。
-
答疑课堂|爬虫反爬虫调试对抗技巧以及虚拟机详解
我完成反爬虫这个动作的最终目的是什么呢?如果我反向操作会引发什么问题吗?
-
12 | 反爬虫概述(四):前后端都不合适的时候如何进行处理?
左右纠结难上线,前后为难宜中庸。
-
13 | 反爬虫基础理论:这是唯一一节严肃的纯理论课
职场如同大冒险。生活好似小龙虾。
-
14 | 低耦合:如何快速下线反爬虫系统?
低耦合下的反爬系统和网络请求藕断丝连,至于孩子归谁,这不重要,重要的是他们随时都会分开啊!
-
15 | 规则引擎:如何快速响应突发的爬虫需求?
费米留下过滤器,霍金添上时光锥。大过滤器残忍无情又无可避免,被过滤掉是大部分人的宿命。光锥以外无历史,前缀树以外,也是不进规则的。
-
16 | 验证爬虫:我到底要不要百分百投入?
宁吃整棵断肠草,不吞半粒绝情丹。爬虫反爬虫也是一样,不怕全部拦截,就怕拦一半放一半,但是面对这样的拦截好像也没有什么办法,只能任由它摆布,最终脱不了身。
-
17 | 招聘篇:如何写一个合适的JD?
招兵买马举大义,卧薪尝胆立功名。不论是大肆宣扬的招兵买马,还是隐忍不发的卧薪尝胆,最终的目标都是一样的。不同的情况有不同的境遇,我们既然没法左右境遇,那就只能默默调整自己的JD了。
-
18 | 如何搞定老板(上):如何编造虚无缥缈的OKR?
不负虚名乘云气,脚踏实地御飞龙。那些你觉得虚无缥缈的,其实也在冥冥之中指引我们不断前行。总有一天你也会明白,虚虚实实、真真假假,不仅仅是OKR的宿命,更是反爬虫这条路的真谛。
-
19 | 如何搞定老板(中):如何组建团队
宁为周公真护主,不做惠子假相梁
-
20 | 如何搞定老板(下):团队考核怎么做?
做反爬、不做反爬、做管理、不做管理,或者说,不论你处于任何一个行业,要留清白在人间,一直都会是我们不断的追求。
-
结束语|达到理想不太易
第一,保持低调;第二,保持善良。
-
结课测试|反爬虫的“反人类”测试题,你能答对多少?
答题?你还不如说是脑筋急转弯呢!
课程介绍
你将获得 爬虫与反爬虫工程师的生存法则 10+ 反爬虫疑难点的排查思路 反爬虫专家系统反爬心法总结 从工程师到Leader的层次跃迁 讲师介绍 课程介绍 随着Web...你将获得
- 爬虫与反爬虫工程师的生存法则
- 10+ 反爬虫疑难点的排查思路
- 反爬虫专家系统反爬心法总结
- 从工程师到Leader的层次跃迁
讲师介绍
课程介绍
随着Web 2.0浪潮的推进以及大数据的横行,数据价值迅猛提升。而价值提升的背后,正预示着爬虫和反爬虫需求的增加。越来越多的公司在发起攻势,获取数据;又或者在修筑堡垒,封锁信息。
爬虫方和反爬虫方斗争中的招式愈发疯狂,恶劣的生存环境愈发恶劣,现如今深陷其中的工程师们不得不面对以下这些问题:
- 如何自保,有没有一套行之有效的生存法则?
- 反爬虫的手段都有哪些,使用它们的最佳时机又是什么?
- 面对爬虫各式各样的伪装,怎样才能精准识别?
- 如何才能在这个领域立足并向上发展?
- ……
基于以上的问题,我们邀请到了反爬虫专家 DS Hunter——前某公司研发总监,现某大厂前端负责人。他将根据自己多年来丰富的爬虫与反爬虫技巧和经验,另辟蹊径,从历史和基础理论出发,进行高层次的分析和总结,为你提炼出经典实用的反爬虫“兵法”。用实践加实战的方式,帮你找到自己的前进方向,提升反爬效率,开辟新的反爬虫斗争思路。更进一步,助你成为团队领袖,向大师进发。

课程模块设计
课程主要分为四大模块:
历史背景篇
从历史视角出发,带你更加深刻地了解爬虫反爬虫。在这个模块中你会发现,虽然爬虫技术在不断发展,但战争的总体思路并没有太大的变化。
理论与实践案例篇
本模块是课程的核心内容。这里会介绍爬虫和反爬虫的基础理论,以及部分实践案例。带你吃透做为一个非管理岗位的爬虫或者反爬虫工程师,应该了解的基础知识,为后续的学习铺平道路。
项目实战篇
在掌握了基础知识后,我们进入实战。由于反爬的单个实战参考意义极弱,因此这一模块主要会带你在系统层面进行实战,帮助你把基础知识运用到实战中,融会贯通,发起向100分的冲刺。
进阶篇
在这一模块,你将了解反爬虫团队的管理技能以及团队组建等知识,打破发展上限,开启反爬虫团队作战的新模式。帮助你完成从技术到管理团队的跃迁,在团队方面做到“知己知彼”。
课程目录


