可信（Trustworthy）人工智能实验室

随着以大数据为基础的机器学习/深度学习技术的快速发展，各种人工智能系统已经逐步进入现实世界。然而，这些AI系统是否足够值得信赖仍然是一个充满挑战的问题。人们在不断构建自认为具有更高性能的AI系统的同时对于系统是否足够安全可信，能否在复杂应用环境中稳定产生预期的结果而不带来额外负面影响仍然知之甚少。本实验室将在可信AI系统的关键问题上进行理论、模型、算法、应用等全方位的探寻。

Trustworthy AI的特性

Trustworthy AI特性既包括传统的可信计算的通用特性（前6条）也包括AI系统独有的特性（后6条）。所谓Trustworthy AI的特性包括但不限于[1]：

• Reliability（可靠） ：系统是否做了正确的事情？
• Safty（无危害） ：系统是否没有危害？
• Security（安全） ：系统面对攻击时有多脆弱？
• Privacy（隐私） ：系统是否能够保护个人标识和数据？
• Availability（可用） ：系统在需要访问它时是否已经准备好？
• Usability（易用） ：人们能否很容易地使用？
• Accuracy（准确） ：和训练或者测试数据相比，系统在面对新的（未曾见过的）数据时表现如何？
• Robustness（鲁棒） ：系统的输出对于输入的变化有多敏感？
• Fairness（公平） ：系统的输出是否无偏倚（unbiased）？
• Accountability（责任） ：谁或者什么应该为系统的输出负责？
• Transparency（透明） ：对于外部观察者而言，系统如何产生输出是否清晰？
• Interpretability/Explainability（可理解/可解释） ：系统的结果是否可以通过人类可以理解和/或对最终用户有意义的解释来证明是合理的？
• Ethical（伦理） ：数据收集是否符合伦理？使用系统输出是否符合伦理？

联系

可以通过邮件jingz@seu.edu.cn和我们联系。

参考文献

[1] Wing, J. M. (2021). Trustworthy ai. Communications of the ACM, 64(10), 64-71.