苹果如何保护AI隐私：将云数据封入"黑箱"中

5月30日消息，据内部知情人士透露，苹果正在其服务器内部设立的虚拟“黑箱”中处理来自人工智能应用的数据，确保即使公司内部员工也无法访问。此策略通过云计算分担iPhone执行人工智能任务时的负载，同时确保用户数据的安全与隐私得到持续保护。据悉，这一技术依赖于苹果自主设计的高安全性芯片以及“安全飞地”，即便在数据泄露的情况下，也能有效阻止黑客访问。
以下为英文翻译全文：
当苹果高管在六月中旬的年度开发者大会上亮相时，他们预计将公布如何在虚拟助手Siri及其他产品中融入人工智能的详细信息。一个重大的挑战是如何在实现这一目标的同时，苹果继续履行其保护用户个人数据的承诺。
根据四位曾参与该项目的前员工透露，苹果计划在一个虚拟“黑箱”中处理来自人工智能应用的数据，确保即便是公司员工也无法访问这些数据。在过去三年中，苹果一直在秘密推进一个内部称为“苹果数据中心芯片”（ACDC，Apple Chips in Data Centers）的项目，支持这种隔离的数据处理方式。这种做法类似于业界的“机密计算（confidential computing）”，即在数据处理过程中保持其私密性。
科技公司通常会加密存储或传输的数据，但保持数据在内存处理时的机密性，则更为罕见且具挑战性。
据知情人士透露，苹果的机密计算技术使用了最初为Mac设计的高端定制芯片，这些芯片在安全性方面优于英特尔和AMD的产品。通过使用自家芯片，苹果控制了服务器的硬件和软件，从而能够设计出比竞争对手更为安全的系统。因此，苹果可以宣称，其服务器上的数据处理就像在iPhone上一样私密。
如果这种方法行得通，苹果就能在不威胁其长期承诺——保护用户数据隐私的前提下，将人工智能整合到其产品中。这种隐私立场使得苹果在与谷歌和OpenAI等公司竞争时处于劣势，因为这些公司的聊天机器人和其他生成式人工智能产品是在不受智能手机处理能力、内存和电池续航限制的云服务器上运行的。
然而，在云端处理个人数据会增加被黑客窃取的风险，这也是苹果更倾向于将数据保留在设备上而非云端的原因。采用机密计算技术后，苹果将能在云端安全处理人工智能数据，即使在数据泄露的情况下，也能有效阻止黑客访问。这还能减轻苹果在应政府或执法部门请求时提供个人数据的负担。
苹果还没有回复相关置评请求。
人工智能闸门
这一策略可能为iPhone推出更多、更新的人工智能功能，这些功能将由云端的大语言模型所驱动。据两位曾参与该项目的前员工透露，苹果抱有更远大的抱负，希望将未来苹果可穿戴设备的处理能力转移到服务器，这将使苹果能够设计出更轻便的头戴设备和眼镜，而不需要为功率大的处理器配备重型电池和冷却风扇。
虽然《华尔街日报》和彭博社上个月首次报道了ACDC计划的一些细节，但该项目对机密计算技术的深度依赖尚属首次披露。
该项目的关键在于苹果开发的硬件技术“安全飞地”（Secure Enclave），这一技术自2013年首次发布，用于存储iPhone 5s指纹传感器捕获的生物识别数据。所谓“安全飞地”是芯片上与主处理器物理隔离的区域，相当于一个存放密码和加密密钥等敏感数据的保险箱。即使黑客攻破了iPhone的软件和中央处理器，也无法访问“安全飞地”中的数据。
据知情人士透露，苹果计划利用“安全飞地”帮助隔离服务器上处理的数据，使其不被系统或苹果本身看到。
前苹果员工表示，“安全飞地”在技术上优于英特尔和AMD使用的其他机密计算方法，后者主要基于软件而非硬件。尽管微软、亚马逊和谷歌等提供商已为云客户提供了机密计算选项多年，但由于它们依赖于英特尔和AMD的芯片，这些芯片的安全性不如“安全飞地”。
然而，人工智能的普及促使芯片制造商推出自己的机密计算方案。英伟达和AMD最近都发布了新产品，但其硬件和软件解决方案是否能与苹果的相媲美，还有待市场验证。
并非绝对安全
尽管苹果的处理方法在技术上领先，但仍存在不是绝对安全的风险。前苹果安全设计工程师乔恩·卡拉斯（Jon Callas）表示，虽然苹果的云端数据处理方式提高了安全性，但服务器还是可能受到物理篡改的威胁。不过，这些风险在iPhone处理数据时同样存在。卡拉斯并未参与ACDC项目，他表示：“用户可以相当确信苹果不会窥视他们的计算活动，苹果也可以有力地向执法部门声明他们无法访问这些数据。”
此外，苹果如何调整其软硬件配置以在云服务器上支持单个芯片服务于多用户，同时保持其安全保证，仍是未知数。同样，苹果将如何迅速扩大其自家服务器硬件支持的服务，覆盖全球超过22亿部苹果设备，也是一个挑战。苹果云端的人工智能功能可能最初会受到限制，或者只向最新型号的iPhone用户开放。
目前还不清楚苹果将在云端与设备上提供哪些类型的服务。据报道，苹果的一些人工智能功能，如智能网页、新闻文章和文件摘要，可能需要在云端运行，因为其人工智能模型的潜在规模较大。前苹果工程师透露，苹果的定制芯片可能将一些机器学习任务从iPhone转移至服务器，如照片标记和文件索引，以提高速度和电池续航时间。最先进的多模态人工智能需要的计算能力远超当前设备的上限。不过，随着这些能力的增强，用于照片和视频的生成式人工智能功能在iPhone上将变得更加可行。
半导体研究公司SemiAnalysis的首席分析师迪伦·帕特尔（Dylan Patel）表示： “虽然苹果可以在iPhone上运行小型人工智能模型，但这会显著影响电池续航。因此，苹果更倾向于将这些任务以及中型人工智能模型的运算转移到其数据中心，减少客户对OpenAI或谷歌等服务的依赖。”
尽管苹果对其服务器的安全和隐私做出了保证，但它可能仍面临市场营销方面的挑战。2021年，苹果宣布计划扫描用户照片中的儿童色情内容。苹果发明了一种全新方法，可以完全在设备上执行此操作，仅能查看照片的数值表示，而非实际像素。尽管如此，安全研究人员和消费者仍强烈反对该计划，最终迫使苹果取消了该功能的推出。（小小）