|
1 | | -# bilibili-reptile |
| 1 | +# bilibiliReptile项目简要说明 |
| 2 | + |
| 3 | +时间:2020年4月20日 晚. |
| 4 | + |
| 5 | + |
| 6 | + |
2 | 7 | 基于Eggjs框架定时爬取B站用户相关数据进行存储分析,提供有效接口或grpc服务供外部使用 |
| 8 | + |
| 9 | +## 基本要求 |
| 10 | + |
| 11 | +- 本项目只是简要的爬取B站上相关接口信息,目的在于练手,若有兴趣,切勿用作从事废话活动,例如恶意攻击小破站(B站架构中有相关的熔断和削峰措施`劝退`) |
| 12 | +- 为避免作者个人服务器等配置数据公开,分享的项目代码缺乏`config`及`Dockerfile`配置文件,且已尽力做好数据脱敏处理,**请大家理智学习,友善交流!** |
| 13 | +- 若本项目对你有帮助,确实需要config等配置及数据库SQL等,便于项目运行及线上部署,**欢迎大家积极issues或star,我将第一时间提供相关代码;**不过相信以上代码足够进行基础学习。哈哈哈哈~~~ |
| 14 | +- 既然看到这里了,请关注一下B站[Rong姐姐好可爱](https://space.bilibili.com/350937042)吧 |
| 15 | + |
| 16 | +## 爬取效果 |
| 17 | + |
| 18 | +- 个人信息 |
| 19 | + |
| 20 | + |
| 21 | + |
| 22 | +- 关注人信息 |
| 23 | + |
| 24 | + |
| 25 | + |
| 26 | +- 被关注人信息 |
| 27 | + |
| 28 | + |
| 29 | + |
| 30 | +## 数据量问题 |
| 31 | + |
| 32 | +从上面简单演示的爬虫效果截图可以看到,目前只是进行小范围的爬取,主要原因是:我本身就是一名up主,我不会伤害她的,haha~~如果你需要进行大数量爬取,建议: |
| 33 | + |
| 34 | +- 结合代码逻辑,更换更加例如数据爬虫的语言--python,进行数据爬虫; |
| 35 | +- 尝试绕过B站架构大佬的限流、熔断、削峰的措施;比如:使用**动态代理**、请求混淆、延时请求等措施; |
| 36 | + |
| 37 | +**注意:此处的动态代理目前网上有的也很少,而且还不稳定,若需要稳定且丰富的代理ip,那就花钱吧~~** |
| 38 | + |
| 39 | +## 项目接口 |
| 40 | + |
| 41 | +懒得写了~看相关router路由吧 |
| 42 | + |
| 43 | +```js |
| 44 | +// 基础接口 |
| 45 | +router.get('/api/reptile/account', controller.search.getUpAccountInfo); |
| 46 | +router.get('/api/reptile/following', controller.search.getUpFollowingsInfo); |
| 47 | +router.get('/api/reptile/followers', controller.search.getUpFollowersInfo); |
| 48 | + |
| 49 | +// 数据同步 |
| 50 | +router.get('/api/reptile/sync/followers', controller.search.reptileTotalFollowers); |
| 51 | +router.get('/api/reptile/sync/followings', controller.search.reptileTotalFollowings); |
| 52 | + |
| 53 | +// 是否正在关注 |
| 54 | +router.get('/api/reptile/isFollowing', controller.search.isFollowingBSiteUp); |
| 55 | +``` |
| 56 | + |
| 57 | + |
| 58 | + |
| 59 | +## B站相关接口 |
| 60 | + |
| 61 | +#### 用户个人信息 |
| 62 | +- 接口:https://api.bilibili.com/x/space/acc/info |
| 63 | +- 类型:GET |
| 64 | +- 参数: |
| 65 | +```bash |
| 66 | +mid:B站用户id --必须 |
| 67 | +jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】 |
| 68 | +``` |
| 69 | +- 接口响应数据 |
| 70 | +```js |
| 71 | +{ |
| 72 | + "code": 0, // 接口状态码 |
| 73 | + "message": "0", // 接口返回信息 |
| 74 | + "ttl": 1, // 延迟,建议了解ttl |
| 75 | + "data": { // 数据对象 |
| 76 | + "mid": 350937043, //B站id |
| 77 | + "name": "陳霂汁", // 昵称 |
| 78 | + "sex": "保密", // 性别 |
| 79 | + "face": "http://i0.hdslb.com/bfs/face/94873e26c86bbb3e087812c6558c5f65db10f09a.jpg", // 图像 |
| 80 | + "sign": "", // 个签 |
| 81 | + "rank": 10000, //权限范围 |
| 82 | + "level": 3, // 账号等级 |
| 83 | + "jointime": 0,// 注册账号时间 |
| 84 | + "moral": 0, |
| 85 | + "silence": 0, |
| 86 | + "birthday": "",// 生日 |
| 87 | + "coins": 0, // B站硬币数 |
| 88 | + "fans_badge": false, // 粉丝牌 |
| 89 | + "official": { // B站官方账号属性 |
| 90 | + "role": 0, |
| 91 | + "title": "", |
| 92 | + "desc": "", |
| 93 | + "type": -1 |
| 94 | + }, |
| 95 | + "vip": { // B站会员账号属性 |
| 96 | + "type": 0, |
| 97 | + "status": 0, |
| 98 | + "theme_type": 0 |
| 99 | + }, |
| 100 | + "pendant": { |
| 101 | + "pid": 0, |
| 102 | + "name": "", |
| 103 | + "image": "", |
| 104 | + "expire": 0, |
| 105 | + "image_enhance": "" |
| 106 | + }, |
| 107 | + "nameplate": { // 模板 |
| 108 | + "nid": 0, |
| 109 | + "name": "", |
| 110 | + "image": "", |
| 111 | + "image_small": "", |
| 112 | + "level": "", |
| 113 | + "condition": "" |
| 114 | + }, |
| 115 | + "is_followed": false,// 是否被关注 |
| 116 | + "top_photo": "http://i2.hdslb.com/bfs/space/cb1c3ef50e22b6096fde67febe863494caefebad.png",// 个人主页顶部logo |
| 117 | + "theme": {}, // 主题 |
| 118 | + "sys_notice": {} // 系统提示 |
| 119 | + } |
| 120 | +} |
| 121 | +``` |
| 122 | +- 接口示例: |
| 123 | +https://api.bilibili.com/x/space/acc/info?mid=208259&jsonp=jsonp |
| 124 | + |
| 125 | +#### 用户关注人信息 |
| 126 | + |
| 127 | +- 接口:https://api.bilibili.com/x/relation/followings |
| 128 | +- 类型:GET |
| 129 | +- 参数: |
| 130 | +```bash |
| 131 | +vmid:B站用户id --必须 |
| 132 | +pn:分页展示中,当前页 默认1 |
| 133 | +ps:分页展示中,一页数据量,最大50,默认20, |
| 134 | +order:时间字段的排序规则,desc降序,asc升序,类似于数据库中的排序;经过测试,order排序依赖于mtime字段,即用户关注他人时间戳 |
| 135 | +jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】 |
| 136 | +``` |
| 137 | +- 接口响应数据 |
| 138 | +```js |
| 139 | +{ |
| 140 | + "code": 0, // 接口状态码 |
| 141 | + "message": "0", // 接口返回信息 |
| 142 | + "ttl": 1, // 延迟,建议了解ttl |
| 143 | + "data": { // 数据对象 |
| 144 | + "list": [ // 具体关注人对象数组 |
| 145 | + { |
| 146 | + "mid": 17174243, // B站账号 |
| 147 | + "attribute": 0, |
| 148 | + "mtime": 1585924906, |
| 149 | + "tag": null, // 标签 |
| 150 | + "special": 0, |
| 151 | + "uname": "yakisa彭雅琦", // 昵称 |
| 152 | + "face": "http://i2.hdslb.com/bfs/face/0da1d54a6cfdb58ec3d982cc0e9d4fda6c953853.jpg", // 图像 |
| 153 | + "sign": "网易云:yakisa彭雅琦\n微博:Yakisa彭雅琦\nQQ群号:824170579 \n微信号:yakisa0803\n\n喜欢五月天的创作歌手",// 个签 |
| 154 | + "official_verify": { // 官方验证【判断是否为官方账号属性】 |
| 155 | + "type": -1, |
| 156 | + "desc": "" |
| 157 | + }, |
| 158 | + "vip": { // vip账号属性 |
| 159 | + "vipType": 2, |
| 160 | + "vipDueDate": 1618329600000, |
| 161 | + "dueRemark": "", |
| 162 | + "accessStatus": 0, |
| 163 | + "vipStatus": 1, |
| 164 | + "vipStatusWarn": "", |
| 165 | + "themeType": 0, |
| 166 | + "label": { |
| 167 | + "path": "" |
| 168 | + } |
| 169 | + } |
| 170 | + } |
| 171 | + ] |
| 172 | + "re_version": 3394431374, // 数据版本,推测为数据库数据版本【例如常用分表、数据迁移、对数据进行版本扩充】 |
| 173 | + "total": 17 // 关注人总数,可由此来配置pn、ps进行循环分页; |
| 174 | + } |
| 175 | + |
| 176 | +} |
| 177 | +``` |
| 178 | +- 接口示例: |
| 179 | +https://api.bilibili.com/x/relation/followings?vmid=350937042&pn=1&ps=20&jsonp=jsonp&order=desc |
| 180 | + |
| 181 | +#### 用户被关注人信息 |
| 182 | + |
| 183 | +- 接口:https://api.bilibili.com/x/space/acc/info |
| 184 | +- 类型:GET |
| 185 | +- 参数: |
| 186 | +```bash |
| 187 | +vmid:B站用户id --必须 |
| 188 | +pn:分页展示中,当前页 默认1 |
| 189 | +ps:分页展示中,一页数据量,最大50,默认20, |
| 190 | +order:时间字段的排序规则,desc降序,asc升序,类似于数据库中的排序;经过测试,order排序依赖于mtime字段,即用户关注他人时间戳 |
| 191 | +jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】 |
| 192 | +``` |
| 193 | +- 接口响应数据 |
| 194 | +```js |
| 195 | +{ |
| 196 | + "code": 0, // 接口状态码 |
| 197 | + "message": "0", // 接口返回信息 |
| 198 | + "ttl": 1, // 延迟,建议了解ttl |
| 199 | + "data": { // 数据对象 |
| 200 | + "list": [ // 具体关注人对象数组 |
| 201 | + { |
| 202 | + "mid": 37730187,// B站账号 |
| 203 | + "attribute": 0, // 标签 |
| 204 | + "mtime": 1585206758, |
| 205 | + "tag": null, |
| 206 | + "special": 0, |
| 207 | + "uname": "歪果果果果仁", // 昵称 |
| 208 | + "face": "http://i0.hdslb.com/bfs/face/25ff68243f9690bc258df838149fdd074d16bbab.jpg",// 头像地址 |
| 209 | + "sign": "", |
| 210 | + "official_verify": { // 官方验证【判断是否为官方账号属性】 |
| 211 | + "type": -1, |
| 212 | + "desc": "" |
| 213 | + }, |
| 214 | + "vip": { // vip账号属性 |
| 215 | + "vipType": 2, |
| 216 | + "vipDueDate": 1619798400000, |
| 217 | + "dueRemark": "", |
| 218 | + "accessStatus": 0, |
| 219 | + "vipStatus": 1, |
| 220 | + "vipStatusWarn": "", |
| 221 | + "themeType": 0, |
| 222 | + "label": { |
| 223 | + "path": "" |
| 224 | + } |
| 225 | + } |
| 226 | + } |
| 227 | + ] ], |
| 228 | + "re_version": 823272565, // 数据版本,推测为数据库数据版本【例如常用分表、数据迁移、对数据进行版本扩充】 |
| 229 | + "total": 10448 // 关注人总数,可由此来配置pn、ps进行循环分页; |
| 230 | + } |
| 231 | +} |
| 232 | +``` |
| 233 | +- 接口示例: |
| 234 | +https://api.bilibili.com/x/space/acc/info?mid=208259&jsonp=jsonp |
| 235 | + |
| 236 | +#### 获赞量、阅读量、播放量 |
| 237 | + |
| 238 | +- 接口:https://api.bilibili.com/x/space/acc/info |
| 239 | +- 类型:GET |
| 240 | +- 参数: |
| 241 | +```bash |
| 242 | +mid:B站用户id --必须 |
| 243 | +jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】 |
| 244 | +``` |
| 245 | +- 接口响应数据 |
| 246 | +```js |
| 247 | +{ |
| 248 | + "code": 0, // 状态码 |
| 249 | + "message": "0", |
| 250 | + "ttl": 1, // 延迟 |
| 251 | + "data": { // 获赞量、阅读量、点击量 |
| 252 | + "archive": { // 视频点击量 |
| 253 | + "view": 3766739 |
| 254 | + }, |
| 255 | + "article": { // 文章阅读量 |
| 256 | + "view": 6121809 |
| 257 | + }, |
| 258 | + "likes": 2503172 // 获赞量 |
| 259 | + } |
| 260 | +} |
| 261 | +``` |
| 262 | +- 接口示例:https://api.bilibili.com/x/space/upstat?mid=208259&jsonp=jsonp |
| 263 | + |
| 264 | + |
| 265 | +#### 关注量、被关注量 |
| 266 | + |
| 267 | +- 接口:https://api.bilibili.com/x/space/acc/info |
| 268 | +- 类型:GET |
| 269 | +- 参数: |
| 270 | +```bash |
| 271 | +mid:B站用户id --必须 |
| 272 | +jsonp:接口跨域,默认jsonp --必须【建议了解一下jsonp跨域解决方案】 |
| 273 | +``` |
| 274 | +- 接口响应数据 |
| 275 | +```js |
| 276 | +{ |
| 277 | + "code": 0, // 状态码 |
| 278 | + "message": "0", |
| 279 | + "ttl": 1, |
| 280 | + "data": { // 关注量 被关注量数据 |
| 281 | + "mid": 350937042, // up账号 |
| 282 | + "following": 18, // 正在关注用户数量 |
| 283 | + "whisper": 0, |
| 284 | + "black": 0, // 黑名单 |
| 285 | + "follower": 10448 // 被关注量即粉丝数量 |
| 286 | + } |
| 287 | +} |
| 288 | +``` |
| 289 | +- 接口示例:https://api.bilibili.com/x/relation/stat?vmid=208259&jsonp=jsonp |
| 290 | + |
| 291 | + |
| 292 | + |
| 293 | +## 快速开始 |
| 294 | + |
| 295 | +<!-- add docs here for user --> |
| 296 | + |
| 297 | +see [egg docs][egg] for more detail. |
| 298 | + |
| 299 | +### 生产环境 |
| 300 | + |
| 301 | +```bash |
| 302 | +$ npm i |
| 303 | +$ npm run dev |
| 304 | +$ open http://localhost:7001/ |
| 305 | +``` |
| 306 | + |
| 307 | +### 正式环境 |
| 308 | + |
| 309 | +```bash |
| 310 | +$ npm start |
| 311 | +$ npm stop |
| 312 | +``` |
| 313 | + |
| 314 | +### 友情链接 |
| 315 | + |
| 316 | +- 作者博客:[沉住气、慢慢来](http://blog.142vip.cn) |
| 317 | +- 作者网站:[凡是过往、皆为序章](http://142vip.cn)`维修中` |
| 318 | +- 授权平台:[Oauth2支撑平台](http://oauth2.142vip.cn)`测试中` |
0 commit comments