Skip to content

Commit 05c61ee

Browse files
committed
优化代码,完善文档
1 parent 940a062 commit 05c61ee

32 files changed

+2723
-1
lines changed

.autod.conf.js

Lines changed: 29 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,29 @@
1+
'use strict';
2+
3+
module.exports = {
4+
write: true,
5+
prefix: '^',
6+
plugin: 'autod-egg',
7+
test: [
8+
'test',
9+
'benchmark',
10+
],
11+
dep: [
12+
'egg',
13+
'egg-scripts',
14+
],
15+
devdep: [
16+
'egg-ci',
17+
'egg-bin',
18+
'egg-mock',
19+
'autod',
20+
'autod-egg',
21+
'eslint',
22+
'eslint-config-egg',
23+
],
24+
exclude: [
25+
'./test/fixtures',
26+
'./dist',
27+
],
28+
};
29+

.eslintignore

Lines changed: 1 addition & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1 @@
1+
coverage

.eslintrc

Lines changed: 3 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,3 @@
1+
{
2+
"extends": "eslint-config-egg"
3+
}

.gitignore

Lines changed: 16 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,16 @@
1+
logs/
2+
npm-debug.log
3+
yarn-error.log
4+
node_modules/
5+
package-lock.json
6+
yarn.lock
7+
coverage/
8+
.idea/
9+
run/
10+
.DS_Store
11+
*.sw*
12+
*.un~
13+
typings/
14+
.nyc_output/
15+
.vscode
16+

.travis.yml

Lines changed: 12 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,12 @@
1+
2+
language: node_js
3+
node_js:
4+
- '10'
5+
before_install:
6+
- npm i npminstall -g
7+
install:
8+
- npminstall
9+
script:
10+
- npm run ci
11+
after_script:
12+
- npminstall codecov && codecov

README.md

Lines changed: 317 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1,2 +1,318 @@
1-
# bilibili-reptile
1+
# bilibiliReptile项目简要说明
2+
3+
时间:2020年4月20日 晚.
4+
5+
6+
27
基于Eggjs框架定时爬取B站用户相关数据进行存储分析,提供有效接口或grpc服务供外部使用
8+
9+
## 基本要求
10+
11+
- 本项目只是简要的爬取B站上相关接口信息,目的在于练手,若有兴趣,切勿用作从事废话活动,例如恶意攻击小破站(B站架构中有相关的熔断和削峰措施`劝退`
12+
- 为避免作者个人服务器等配置数据公开,分享的项目代码缺乏`config``Dockerfile`配置文件,且已尽力做好数据脱敏处理,**请大家理智学习,友善交流!**
13+
- 若本项目对你有帮助,确实需要config等配置及数据库SQL等,便于项目运行及线上部署,**欢迎大家积极issues或star,我将第一时间提供相关代码;**不过相信以上代码足够进行基础学习。哈哈哈哈~~~
14+
- 既然看到这里了,请关注一下B站[Rong姐姐好可爱](https://space.bilibili.com/350937042)
15+
16+
## 爬取效果
17+
18+
- 个人信息
19+
20+
![up个人信息](images/account.png)
21+
22+
- 关注人信息
23+
24+
![正在关注up信息](images/followers.png)
25+
26+
- 被关注人信息
27+
28+
![up粉丝信息](images/followers.png)
29+
30+
## 数据量问题
31+
32+
从上面简单演示的爬虫效果截图可以看到,目前只是进行小范围的爬取,主要原因是:我本身就是一名up主,我不会伤害她的,haha~~如果你需要进行大数量爬取,建议:
33+
34+
- 结合代码逻辑,更换更加例如数据爬虫的语言--python,进行数据爬虫;
35+
- 尝试绕过B站架构大佬的限流、熔断、削峰的措施;比如:使用**动态代理**、请求混淆、延时请求等措施;
36+
37+
**注意:此处的动态代理目前网上有的也很少,而且还不稳定,若需要稳定且丰富的代理ip,那就花钱吧~~**
38+
39+
## 项目接口
40+
41+
懒得写了~看相关router路由吧
42+
43+
```js
44+
// 基础接口
45+
router.get('/api/reptile/account', controller.search.getUpAccountInfo);
46+
router.get('/api/reptile/following', controller.search.getUpFollowingsInfo);
47+
router.get('/api/reptile/followers', controller.search.getUpFollowersInfo);
48+
49+
// 数据同步
50+
router.get('/api/reptile/sync/followers', controller.search.reptileTotalFollowers);
51+
router.get('/api/reptile/sync/followings', controller.search.reptileTotalFollowings);
52+
53+
// 是否正在关注
54+
router.get('/api/reptile/isFollowing', controller.search.isFollowingBSiteUp);
55+
```
56+
57+
58+
59+
## B站相关接口
60+
61+
#### 用户个人信息
62+
- 接口:https://api.bilibili.com/x/space/acc/info
63+
- 类型:GET
64+
- 参数:
65+
```bash
66+
mid:B站用户id --必须
67+
jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】
68+
```
69+
- 接口响应数据
70+
```js
71+
{
72+
"code": 0, // 接口状态码
73+
"message": "0", // 接口返回信息
74+
"ttl": 1, // 延迟,建议了解ttl
75+
"data": { // 数据对象
76+
"mid": 350937043, //B站id
77+
"name": "陳霂汁", // 昵称
78+
"sex": "保密", // 性别
79+
"face": "http://i0.hdslb.com/bfs/face/94873e26c86bbb3e087812c6558c5f65db10f09a.jpg", // 图像
80+
"sign": "", // 个签
81+
"rank": 10000, //权限范围
82+
"level": 3, // 账号等级
83+
"jointime": 0,// 注册账号时间
84+
"moral": 0,
85+
"silence": 0,
86+
"birthday": "",// 生日
87+
"coins": 0, // B站硬币数
88+
"fans_badge": false, // 粉丝牌
89+
"official": { // B站官方账号属性
90+
"role": 0,
91+
"title": "",
92+
"desc": "",
93+
"type": -1
94+
},
95+
"vip": { // B站会员账号属性
96+
"type": 0,
97+
"status": 0,
98+
"theme_type": 0
99+
},
100+
"pendant": {
101+
"pid": 0,
102+
"name": "",
103+
"image": "",
104+
"expire": 0,
105+
"image_enhance": ""
106+
},
107+
"nameplate": { // 模板
108+
"nid": 0,
109+
"name": "",
110+
"image": "",
111+
"image_small": "",
112+
"level": "",
113+
"condition": ""
114+
},
115+
"is_followed": false,// 是否被关注
116+
"top_photo": "http://i2.hdslb.com/bfs/space/cb1c3ef50e22b6096fde67febe863494caefebad.png",// 个人主页顶部logo
117+
"theme": {}, // 主题
118+
"sys_notice": {} // 系统提示
119+
}
120+
}
121+
```
122+
- 接口示例:
123+
https://api.bilibili.com/x/space/acc/info?mid=208259&jsonp=jsonp
124+
125+
#### 用户关注人信息
126+
127+
- 接口:https://api.bilibili.com/x/relation/followings
128+
- 类型:GET
129+
- 参数:
130+
```bash
131+
vmid:B站用户id --必须
132+
pn:分页展示中,当前页 默认1
133+
ps:分页展示中,一页数据量,最大50,默认20,
134+
order:时间字段的排序规则,desc降序,asc升序,类似于数据库中的排序;经过测试,order排序依赖于mtime字段,即用户关注他人时间戳
135+
jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】
136+
```
137+
- 接口响应数据
138+
```js
139+
{
140+
"code": 0, // 接口状态码
141+
"message": "0", // 接口返回信息
142+
"ttl": 1, // 延迟,建议了解ttl
143+
"data": { // 数据对象
144+
"list": [ // 具体关注人对象数组
145+
{
146+
"mid": 17174243, // B站账号
147+
"attribute": 0,
148+
"mtime": 1585924906,
149+
"tag": null, // 标签
150+
"special": 0,
151+
"uname": "yakisa彭雅琦", // 昵称
152+
"face": "http://i2.hdslb.com/bfs/face/0da1d54a6cfdb58ec3d982cc0e9d4fda6c953853.jpg", // 图像
153+
"sign": "网易云:yakisa彭雅琦\n微博:Yakisa彭雅琦\nQQ群号:824170579 \n微信号:yakisa0803\n\n喜欢五月天的创作歌手",// 个签
154+
"official_verify": { // 官方验证【判断是否为官方账号属性】
155+
"type": -1,
156+
"desc": ""
157+
},
158+
"vip": { // vip账号属性
159+
"vipType": 2,
160+
"vipDueDate": 1618329600000,
161+
"dueRemark": "",
162+
"accessStatus": 0,
163+
"vipStatus": 1,
164+
"vipStatusWarn": "",
165+
"themeType": 0,
166+
"label": {
167+
"path": ""
168+
}
169+
}
170+
}
171+
]
172+
"re_version": 3394431374, // 数据版本,推测为数据库数据版本【例如常用分表、数据迁移、对数据进行版本扩充】
173+
"total": 17 // 关注人总数,可由此来配置pn、ps进行循环分页;
174+
}
175+
176+
}
177+
```
178+
- 接口示例:
179+
https://api.bilibili.com/x/relation/followings?vmid=350937042&pn=1&ps=20&jsonp=jsonp&order=desc
180+
181+
#### 用户被关注人信息
182+
183+
- 接口:https://api.bilibili.com/x/space/acc/info
184+
- 类型:GET
185+
- 参数:
186+
```bash
187+
vmid:B站用户id --必须
188+
pn:分页展示中,当前页 默认1
189+
ps:分页展示中,一页数据量,最大50,默认20,
190+
order:时间字段的排序规则,desc降序,asc升序,类似于数据库中的排序;经过测试,order排序依赖于mtime字段,即用户关注他人时间戳
191+
jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】
192+
```
193+
- 接口响应数据
194+
```js
195+
{
196+
"code": 0, // 接口状态码
197+
"message": "0", // 接口返回信息
198+
"ttl": 1, // 延迟,建议了解ttl
199+
"data": { // 数据对象
200+
"list": [ // 具体关注人对象数组
201+
{
202+
"mid": 37730187,// B站账号
203+
"attribute": 0, // 标签
204+
"mtime": 1585206758,
205+
"tag": null,
206+
"special": 0,
207+
"uname": "歪果果果果仁", // 昵称
208+
"face": "http://i0.hdslb.com/bfs/face/25ff68243f9690bc258df838149fdd074d16bbab.jpg",// 头像地址
209+
"sign": "",
210+
"official_verify": { // 官方验证【判断是否为官方账号属性】
211+
"type": -1,
212+
"desc": ""
213+
},
214+
"vip": { // vip账号属性
215+
"vipType": 2,
216+
"vipDueDate": 1619798400000,
217+
"dueRemark": "",
218+
"accessStatus": 0,
219+
"vipStatus": 1,
220+
"vipStatusWarn": "",
221+
"themeType": 0,
222+
"label": {
223+
"path": ""
224+
}
225+
}
226+
}
227+
] ],
228+
"re_version": 823272565, // 数据版本,推测为数据库数据版本【例如常用分表、数据迁移、对数据进行版本扩充】
229+
"total": 10448 // 关注人总数,可由此来配置pn、ps进行循环分页;
230+
}
231+
}
232+
```
233+
- 接口示例:
234+
https://api.bilibili.com/x/space/acc/info?mid=208259&jsonp=jsonp
235+
236+
#### 获赞量、阅读量、播放量
237+
238+
- 接口:https://api.bilibili.com/x/space/acc/info
239+
- 类型:GET
240+
- 参数:
241+
```bash
242+
mid:B站用户id --必须
243+
jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】
244+
```
245+
- 接口响应数据
246+
```js
247+
{
248+
"code": 0, // 状态码
249+
"message": "0",
250+
"ttl": 1, // 延迟
251+
"data": { // 获赞量、阅读量、点击量
252+
"archive": { // 视频点击量
253+
"view": 3766739
254+
},
255+
"article": { // 文章阅读量
256+
"view": 6121809
257+
},
258+
"likes": 2503172 // 获赞量
259+
}
260+
}
261+
```
262+
- 接口示例:https://api.bilibili.com/x/space/upstat?mid=208259&jsonp=jsonp
263+
264+
265+
#### 关注量、被关注量
266+
267+
- 接口:https://api.bilibili.com/x/space/acc/info
268+
- 类型:GET
269+
- 参数:
270+
```bash
271+
mid:B站用户id --必须
272+
jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】
273+
```
274+
- 接口响应数据
275+
```js
276+
{
277+
"code": 0, // 状态码
278+
"message": "0",
279+
"ttl": 1,
280+
"data": { // 关注量 被关注量数据
281+
"mid": 350937042, // up账号
282+
"following": 18, // 正在关注用户数量
283+
"whisper": 0,
284+
"black": 0, // 黑名单
285+
"follower": 10448 // 被关注量即粉丝数量
286+
}
287+
}
288+
```
289+
- 接口示例:https://api.bilibili.com/x/relation/stat?vmid=208259&jsonp=jsonp
290+
291+
292+
293+
## 快速开始
294+
295+
<!-- add docs here for user -->
296+
297+
see [egg docs][egg] for more detail.
298+
299+
### 生产环境
300+
301+
```bash
302+
$ npm i
303+
$ npm run dev
304+
$ open http://localhost:7001/
305+
```
306+
307+
### 正式环境
308+
309+
```bash
310+
$ npm start
311+
$ npm stop
312+
```
313+
314+
### 友情链接
315+
316+
- 作者博客:[沉住气、慢慢来](http://blog.142vip.cn)
317+
- 作者网站:[凡是过往、皆为序章](http://142vip.cn)`维修中`
318+
- 授权平台:[Oauth2支撑平台](http://oauth2.142vip.cn)`测试中`

0 commit comments

Comments
 (0)