2022-CSS会议

一、李进-广州大学-AI安全

1、信息系统安全三个属性：完整性、可用性、机密性

AI攻击主要考虑两方面工作：逃逸攻击、投毒攻击（数据中毒攻击）。使模型不能正常的预测

AI机密性：参数和数据的机密性

训练数据会不会被人偷走（inferred attack）

（1）逃逸攻击 Evasion attack

没有改变机器学习算法，构建一些特定的输入来欺骗，得到错误的结果。因为机器学习学不到完美的判别，所以逃逸攻击很难对抗。

（2）后门攻击 Backdoor attack

（3）模型窃取攻击 Model extraction attack

系统放网上给大家用，会提供一些输入输出样本给大家看，这就会泄露一些信息，虽然可能只是01。类似密码领域

2、AI防御

（1）数据清洗时，发现一些异常数据。但只能用在训练阶段

（2）算法鲁棒性：在训练时，让他学一学哪些是坏样本。将对抗样本加入到训练样本中。.但找的对抗样本不可能穷举完，所以也无法抵抗所有攻击，只能相对来说还行。

（3）设置合理门限来抵抗对抗样本

---

二、刘哲理-南开大学-密码应用背后隐藏的风险

1、可搜索加密

可搜索加密介绍：https://blog.csdn.net/qq_57098278/article/details/121390807

比如存邮件，有时候要找的时候，就是搜索关键字。如果邮件存储的服务器不可信，我需要存加密的邮件，防止泄露。

将邮件拆分关键词，每个关键词分别加密