# Tensorflow-Deep-Neural-Networks

**Repository Path**: zhang_star/Tensorflow-Deep-Neural-Networks

## Basic Information

- **Project Name**: Tensorflow-Deep-Neural-Networks
- **Description**: 用Tensorflow实现的深度神经网络。
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2021-03-03
- **Last Updated**: 2021-03-03

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# 包含网络
- 推荐使用: </br>
*Deep Belief Network (DBN)*  </br>
*Stacked Autoencoder (sAE)* </br>
*Stacked Sparse Autoencoder (sSAE)* </br>
*Stacked Denoising Autoencoders (sDAE)* </br>
- 尝试更好的模型：</br>
*Convolutional Neural Network (CNN)* </br>
*Recurrent Neural Network (RNN)* </br>
*Long Short Term Memory (LSTM)* </br>
# 所依赖包
```python
pip install tensorflow (version: 1.X)
pip install keras
pip install librosa (用于语音分类，选装)
pip install --upgrade --user numpy pandas h5py (升级包)
```
# 用于任务
`use_for = 'classification'` 用于分类任务 </br>
`use_for = 'prediction'` 用于预测任务 </br>

# 版本信息
## Pytorch版本：
推荐[PyTorch包](https://github.com/fuzimaoxinan/torch-fuzz) </br>

## User：
用户可以通过`model.py`文件控制一些功能的开关： </br>
`self.show_pic` => show curve in 'Console'? </br>
`self.tbd` => open/close tensorboard </br>
`self.save_model` => save/ not save model </br>
`self.plot_para` => plot W image or not </br>
`self.save_weight` => save W matrix or not </br>
`self.do_tSNE` => do t-SNE or not

## Version 2018.11.7:
New 新增了两个数据集，一个用于分类，一个用于预测 </br>
New 新增t-SNE低维可视化 </br>
Chg 修正部分 `use_for = 'prediction'` 时的Bug

## Version 2018.6.1:
New 新增了绘制训练曲线图，预测标签分布图，权值图的功能 </br>
Chg 重写了SAE，现在可以放心使用了 </br>
Chg 代码的整体运行函数`run_sess`放到了`base_func.py` </br>
Chg 回归是可以实现的，需要设置 `use_for = 'prediction'`

# 测试结果
用于`minst`数据集分类，运行得到正确率可达98.78% </br>
用于`Urban Sound Classification`语音分类，正确率达73.37% </br>
(这个跑完console不会显示结果，因为是网上的比赛数据集，需上传才能得到正确率)</br>
用于`Big Mart Sales III`预测，RMSE为1152.04 </br>
(这个也是网上的数据集，也没有test_Y)</br></br>

跑的结果并不是太高，有更好的方法请赐教 </br>
语音分类未尝试语谱法，欢迎做过的和我交流 </br>

# 数据地址
[USC](https://datahack.analyticsvidhya.com/contest/practice-problem-urban-sound-classification/), 
[BMS III](https://datahack.analyticsvidhya.com/contest/practice-problem-big-mart-sales-iii/) 

# 参考资料
[Tensorflow基本函数](http://www.cnblogs.com/wuzhitj/p/6431381.html), 
[RBM原理](https://blog.csdn.net/itplus/article/details/19168937), 
[Hinton源码](http://www.cs.toronto.edu/~hinton/MatlabForSciencePaper.html), 
[sDAE原论文](http://www.jmlr.org/papers/volume11/vincent10a/vincent10a.pdf), 
[sSAE分析TE过程](https://www.sciencedirect.com/science/article/pii/S0169743917302496), 
[RNN原理](https://zhuanlan.zhihu.com/p/28054589), 
[LSTM](https://www.jianshu.com/p/9dc9f41f0b29), 
[Tensorboard](https://blog.csdn.net/sinat_33761963/article/details/62433234) 

# My blog
[知乎](https://www.zhihu.com/people/fu-zi-36-41/posts), 
[CSDN](https://blog.csdn.net/fuzimango/article/list/) </br>
QQ群：640571839

# paper
[EDBN](https://www.sciencedirect.com/science/article/pii/S0019057819302903?via%3Dihub) 欢迎引用~