【MindSpore开源实习】Trusted AI SIG任务列表

## Trusted AI简介
[Trusted AI](https://gitee.com/mindspore/community/tree/master/sigs/security) 聚焦于AI模型开发项目中从数据处理到模型训练再到部署推理过程中的安全问题。具体包括以下几点：
1, 模型鲁棒性和可靠性：AI模型对于对抗样本、自然扰动样本的推理鲁棒性、AI可解释、数据概念漂移检测、模型故障注入评估。
2, 隐私保护：差分隐私、联邦学习等隐私保护训练算法。
3, 模型部署安全：模型加密、模型混淆等技术。
主要代码仓：
https://gitee.com/mindspore/mindarmour
https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/fl（联邦学习云侧）
https://gitee.com/mindspore/mindspore/tree/master/mindspore/lite/java/java/fl_client（联邦学习端侧）
https://gitee.com/mindspore/xai（可解释）
欢迎关注！
## 2025-任务列表
|SIG/特性组| 题目 | 分值 | 预期完成时间 |开发语言| 详情链接 | 任务状态 |任务认领人|
|-----| -------- | ---------------- | -------- | --- | --- |---|---|
|Trusted AI SIG|【开源实习】Marich提取攻击能力构建|40|2025-12-31|Python|[详情](https://gitee.com/mindspore/community/issues/IB4IC8)|已领取|江炳熠
|Trusted AI SIG|【开源实习】LM-Head参数窃取算法复现|40|2025-12-31|Python|[详情](https://gitee.com/mindspore/community/issues/IAUK39)|已领取|王一弛
|Trusted AI SIG|【开源实习】SAR方法复现|40|2025-12-31|Python|[详情](https://gitee.com/mindspore/community/issues/IAUKBB)|已领取|周维可
|Trusted AI SIG|【开源实习】ShieldLM安全检测方法实现|40|2025-12-31|Python|[详情](https://gitee.com/mindspore/community/issues/IB4KEB)|已领取|严珞珈

**说明：** 没有开源实习账号的同学也可以认领任务，完成后积分会记录在SIG的贡献榜中。

## 已完成任务（光荣榜）
|SIG/特性组| 题目 | 分值 | 详情链接 |任务认领人|
|-----| -------- | ---------------- | -------- |---|
|Trusted AI SIG|【开源实习】灰盒模型提取攻击复现|40|[详情](https://gitee.com/mindspore/community/issues/IAUL0M)|刘晨宇
|Trusted AI SIG|【开源实习】LLMs不确定性表达算法复现|40|[详情](https://gitee.com/mindspore/community/issues/IAUKZN)|姚宇豪
|Trusted AI SIG|【开源实习】ReCaLL成员推断攻击方法实现|40|[详情](https://gitee.com/mindspore/community/issues/IB4JWY)|况杰任
|Trusted AI SIG|【开源实习】Embedding model窃取算法复现|40|[详情](https://gitee.com/mindspore/community/issues/IAUJNV)|黄瀚博
|Trusted AI SIG|【开源实习】CV类模型推理隐私泄露评估工具实现（基于MindArmour）|30|[详情](https://gitee.com/mindspore/community/issues/I9W167)|刘晨宇
|Trusted AI SIG|【开源实习】TruthX 缓解大模型幻觉方法实现|40|[详情](https://gitee.com/mindspore/community/issues/IB4KIT)|许嘉豪
|Trusted AI SIG|【开源实习】高隐蔽性越狱提示词自动生成算法实现|40|[详情](https://gitee.com/mindspore/community/issues/IAO999)|邢鸿瑞
|Trusted AI SIG|【开源实习】Embedding模型逆向攻击实现|40|[详情](https://gitee.com/mindspore/community/issues/I9W1B4)|王文辉
|Trusted AI SIG|【开源实习】高隐蔽性越狱提示词自动生成算法实现|40|[详情](https://gitee.com/mindspore/community/issues/IAO999)|邢鸿瑞（东南大学）|
|Trusted AI SIG|【开源实习】模型逆向攻击算法复现|30|[详情](https://gitee.com/mindspore/community/issues/I97XZY)|芦星宇（东南大学）|
|Trusted AI SIG|【开源实习】支持LLM对抗性提示词后缀生成算法|30|[详情](https://gitee.com/mindspore/community/issues/I98DV3)|邢鸿瑞（东南大学）|
|Trusted AI SIG|【开源实习】盘古大模型训练数据集隐私数据保护|30|[详情](https://gitee.com/mindspore/community/issues/I6HY7G?from=project-issue)|谢焕宜（哈工大）|
|Trusted AI SIG|【开源实习】端云联邦-LLM|50|[详情](https://gitee.com/mindspore/community/issues/I7UNLT)|linjie(浙大)|
|Trusted AI SIG|人脸识别模型鲁棒性调研|35|[详情](https://gitee.com/mindspore/community/issues/I557CU?from=project-issue)|李明俊（浙江工业大学）|
|Trusted AI SIG|提供基于国密的模型加解密算法|80|[详情](https://gitee.com/mindspore/community/issues/I5CVA5?from=project-issue)|张豪（北京邮电大学）|
|Trusted AI SIG|Trusted AI SIG论文分享悬赏（第一期）|10|[详情](https://gitee.com/mindspore/community/issues/I5F5VE?from=project-issue)|李清华（西安交大）、陈可为（华中科技大学）、王洁怡（北京大学）|
|Trusted AI SIG|pyarmour原理调研|15|[详情](https://gitee.com/mindspore/community/issues/I66F9E?from=project-issue)|崔昱欣（武汉大学）|
|Trusted AI SIG|ResNet50模型脚本加密运行验证|15|[详情](https://gitee.com/mindspore/community/issues/I66FB2?from=project-issue)|张豪（北京邮电大学）|
|Trusted AI SIG|模型动态混淆算子白名单增加maxpool/avgpool算子|20|[详情](https://gitee.com/mindspore/community/issues/I66FBM?from=project-issue)|陈可为（华中科技大学）|
|Trusted AI SIG|【开源实习】端云联邦-LLM|50|[详情](https://gitee.com/mindspore/community/issues/I7UNLT)|林杰（浙江大学）|

## 其他SIG活动
|任务主题| 详情链接 | 任务状态 | 预期完成时间 |
|-----| -------- | ---------------- | -------- |
|《现代密码学－原理与协议》众筹学讲|[任务issue](https://gitee.com/mindspore/community/issues/I6AJEO?from=project-issue) |人员招募中| 2023-6-30 |

MindSpore/community

内容风险标识

评论 (5)

MindSpore/community .gitee-modal { width: 500px !important; }

内容风险标识