# taoshu_sider

**Repository Path**: cuiyonghua/taoshu_sider

## Basic Information

- **Project Name**: taoshu_sider
- **Description**: 基于scrapy封装的爬虫框架，封装了存储MySQL，MongoDB，阿里云OSS的功能。
- **Primary Language**: Python
- **License**: MIT
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2021-04-22
- **Last Updated**: 2021-08-26

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# spider
一些小爬虫 : )

------------------------------------------------------------------------------------------------------------------------------------------

环境：python2.7

------------------------------------------------------------------------------------------------------------------------------------------

kuaishou.py
  
  快手视频批量下载，快手安卓版抓包，然后基于“发现”栏目，多线程下载。

------------------------------------------------------------------------------------------------------------------------------------------

youtube.py

  youtube视频批量下载，基于关键字搜索，非中文标题调用金山词霸自动翻译成中文，多线程下载。
  

------------------------------------------------------------------------------------------------------------------------------------------

get_mv_gui.py

  音悦台mv下载，图形界面，支持选择分辨率，默认下载到当前目录。 

------------------------------------------------------------------------------------------------------------------------------------------

gui_qiubai.py
  
    糗事百科小爬虫，图形化界面显示。支持自动翻页

------------------------------------------------------------------------------------------------------------------------------------------

future_email.py

爬取给未来写封信"app，去重 数据存入mongodb 

------------------------------------------------------------------------------------------------------------------------------------------
baihe.py

爬了百合网全站的女会员资料，headers里面自行加上自己的cookie，存入mongodb