# research_explore **Repository Path**: wenglean/wenglean_research ## Basic Information - **Project Name**: research_explore - **Description**: 用于存放研究目标、相关研究、参考文献、研究计划以及代码 - **Primary Language**: Unknown - **License**: Not specified - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 1 - **Forks**: 0 - **Created**: 2021-12-05 - **Last Updated**: 2023-03-02 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # 增量差异检测 本项目用于存放增量差异检测的研究目标、相关研究、参考文献、研究计划以及代码。 ## 1. 研究目标 传统差异检测一般都是在固定数据集上进行训练测试，在实际应用中，随着场景的变化，一般深度学习方法会出现“灾难遗忘”的现象，即在新的场景的数据集下表现良好，遗忘了在旧的场景数据集下的规律。 针对上述问题开展研究工作，研究设计一种能够增量地学习差异的深度神经网络，能够利用教师-学生模型在保留旧的场景知识的基础上，学习新的场景的特征。主要的研究目标有： 1. 在SYSU-CD数据集的基础上，进行筛选出两个子数据集，进行增量的实验。 2. 搭建教师-学生模型，选择设计蒸馏损失函数，能够有效的进行蒸馏上一个子数据集的知识。 3. 整理相关的数据集，设计实验。在子数据集的不同顺序上表现良好；对比没有蒸馏的方法表现良好。 ## 2. 主要思路 研究思路和步骤： 1. 先通读一下主要的参考文献，建立对所研究问题的基本认识，了解基本的方法等。 2. 找一些代码运行一下，建立直觉的认识，并熟悉数据集。 3. 可以从基本的深度学习提取特征开始，然后再深入到增量学习方法。 4. 根据研究目标，设计有针对性的网络。 ## 3. 关键点 思路、程序、论文撰写分成如下关键点和工作点： - [ ] 构建三种不同显著不同的场景数据集 - [x] 数据的来源、构成设计（那些类型，多少张等） 植被区域， 城市建筑区域， 海洋区域 各1500百张 - [x] 筛选成三个具有显著区别的子数据集 - [x] 如何构建教师-学生网络，能够实现进行连续式的学习流数据 - [x] 设计有效的蒸馏损失函数，能够有效的进行增量式的学习。 - [ ] 网络的整体的实现，如何实现模块测试、验证。 - [x] 基础特征提取网络 - [x] T-S模块 - [x] 特征融合模块，以便进行有效的蒸馏 - [ ] 网络整合 - [ ] 论文写作 - [x] 论文整体思路确定 - [ ] 制定大纲 - [ ] Introduction，Related Works - [ ] Method - [ ] Experiments - [ ] Conclusion - [ ] 论文修改 时间线 9月第一周 整理成四个数据集，做实验，增量遗忘的问题没有很严重，原因在于数据集之间域的差异比较小。计划参考论文[Multi-Domain Incremental Learning for Semantic Segmentation](/home/wenglean/learning_progress/Papers/Incremental Learning/Garg_Multi-Domain_Incremental_Learning_for_Semantic_Segmentation_WACV_2022_paper.pdf) 分成三个场景数据集，进一步揭示模型在域变化下的“灾难遗忘”问题。 9月第二周 分成三个数据集： 植被区域， 城市建筑区域， 海洋区域，并做实验有增量和无增量实验对比。0908在整理好的数据集上，测试cscdnet的网络性能，泛化性能不好。目标：在植被、海洋区域进行测试，找到一个泛化能力不错的网络，并且发现具有灾难遗忘的问题，在这个网络的基础上进行蒸馏操作。提高性能。 9月第三周 第二周找到一个泛化性能不错的主干网络SNUNet，在植被场景和海洋场景之间确实存在遗忘的现象。构建了蒸馏的蒸馏的操作，有一定效果。补充第三个数据集Levir-CD的图片，开始在三个数据集上做实验，搜集数据。 ## 4. 参考代码 - [192.168.1.4/data/users/wenglean/my_progs/13 ](/home/a409/users/wenglean/my_progs/13) 蒸馏模型 ## 5. 参考文献 更多的参考文档可以参考[192.168.1.4/data/wenglean/learning_progress/Papers/论文进度.xlsx](/home/wenglean/learning_progress/Papers/论文进度.xlsx) 目录。 ### 5.0 综述 - [https://github.com/wenhwu/awesome-remote-sensing-change-detection](https://gitee.com/link?target=https%3A%2F%2Fgithub.com%2Fwenhwu%2Fawesome-remote-sensing-change-detection) ### 5.1 知识蒸馏等基本方法 - 分类层的知识蒸馏 - 特征层的蒸馏 - Attention map 的知识蒸馏 ### 5.2 增量学习应用 - 图像分类 - 目标检测 - 语义分割 ### 5.3 Dataset - SYSU-CD ### 5.4 其他参考 - [如何做研究](https://gitee.com/pi-lab/pilab_research_fields/blob/master/tips/HowToResearch.md) - [英文论文写作](https://gitee.com/pi-lab/pilab_research_fields/blob/master/tips/paper_writting/README.md) - [一步一步学写作](https://gitee.com/pi-lab/pilab_research_fields/blob/master/tips/learn_writting/README.md)