2024年最全隐私保护 AI 的演变：从协议到实际实现，腾讯Golang面试

本文链接：https://blog.csdn.net/2401_84911559/article/details/138889669

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

一份关于恶意使用人工智能的报告概述了三个安全问题领域：现有威胁的扩展、新的攻击方法以及威胁典型特征的变化。恶意使用人工智能的例子包括使用深度伪造技术的BEC攻击，助长了社会工程策略。IBM 的 DeepLocker 演示了 AI 辅助的网络攻击，展示了 AI 如何通过根据趋势和模式做出决策来增强勒索软件攻击。值得注意的是，TaskRabbit 遭受了 AI 辅助的网络攻击，其中支持 AI 的僵尸网络执行了 DDoS 攻击，导致数据泄露，影响了 375 万客户。

此外，网上购物的增加助长了无卡（CNP）欺诈，再加上合成身份和身份盗窃问题的上升。预计到 2024 年，其损失可能达到 2000 亿美元，交易量将增长 23% 以上。

保护隐私的机器学习

这时，保护隐私的机器学习就有了解决方案。最有效的技术包括联邦学习、同态加密和差分隐私。联邦学习允许不同的实体在不共享显式数据的情况下共同训练模型。反过来，同态加密可以在整个过程中对加密数据进行机器学习，而差分隐私确保计算输出不会与单个数据存在相关联。这些技术与可信的执行环境相结合，可以有效地解决隐私和机器学习交叉点的挑战。

隐私联邦学习的优势

正如你所看到的，与保护隐私的机器学习技术（尤其是联邦学习）相比，经典的机器学习模型缺乏安全实施人工智能系统和物联网实践的效率。作为机器学习的去中心化版本，联邦学习有助于使 AI 安全保护技术更加可靠。在传统方法中，敏感的用户数据被发送到集中式服务器进行训练，这带来了许多隐私问题，而联邦学习通过允许模型在设备上本地训练来解决这个问题，从而确保用户数据安全。

增强数据隐私和安全性

联邦学习具有协作性质，将边缘上的每个物联网设备视为唯一的客户端，在不传输原始数据的情况下训练模型。这确保了在联邦学习过程中，每个物联网设备只收集其任务所需的信息。通过将原始数据保留在设备上并仅向中央服务器发送模型更新，联邦学习可以保护私人信息，最大限度地降低个人数据泄露的风险，并确保安全操作。

提高数据准确性和多样性

另一个重要问题是，**用于训练模型的集中式数据可能无法准确表示模型将遇到的全部数据。**相比之下，在来自各种来源的去中心化数据上训练模型并将它们暴露在更广泛的信息中，可以增强模型泛化新数据、处理变化和减少偏差的能力。

更高的适应性

联邦学习模型表现出的另一个优势是无需重新训练即可适应新情况的显着能力，这提供了额外的安全性和可靠性。利用以前经验的见解，这些模型可以做出预测，并将在一个领域获得的知识应用到另一个领域。例如，如果模型在预测特定领域的结果方面变得更加熟练，它可以将这些知识无缝地应用于另一个领域，从而提高效率、降低成本并加快流程。