Apple在iMessageSiri和iCloud照片中扩展

　　苹果正在其平台上发布一套保护在线儿童的功能，包括一个可以检测iCloud中虐待儿童材料同时保护用户隐私的系统。
　　这家库比蒂诺科技巨头宣布了三个领域的新儿童安全功能，称这将有助于保护儿童免受掠侵害，并限制儿童性虐待材料（CSAM）的传播。官方公告紧随有报道称苹果将推出某种类型的系统以遏制其平台上的CSAM。
　　例如，Apple将在Messages中实施新工具，让父母更了解他们的孩子如何在线交流。该公司还使用一种新系统，该系统利用加密技术来检测存储在iCloud照片中的CSAM集合，以向执法部门提供信息。Apple还在Siri和搜索中开发新的安全工具。
　　美国失踪与受虐儿童中心首席执行官兼总裁约翰克拉克说：Apple扩大对儿童的保护改变了游戏规则。
　　由于有如此多的人使用Apple产品，这些新的安全措施对于在网上被引诱并且其恐怖图片在儿童性虐待材料中传播的儿童来说具有挽救生命的潜力。在国家失踪与受虐儿童中心，我们知道只有坚定不移地致力于保护儿童，才能打击这种犯罪。我们之所以能做到这一点，是因为像Apple这样的技术合作伙伴挺身而出，表达了他们的奉献精神。现实情况是，隐私和儿童保护可以共存。我们为Apple鼓掌，并期待共同努力，让这个世界成为一个对儿童来说更安全的地方。
　　这三项功能还针对隐私进行了优化，确保Apple可以向有关当局提供有关犯罪活动的信息，而不会威胁到守法用户的隐私信息。
　　这些新功能将于2021年晚些时候在iOS15、iPadOS15、macOSMonterey和watchOS8的更新中首次亮相。iCloud照片中的CSAM检测
　　Apple计划推出的最重要的新儿童安全功能侧重于检测iCloud照片帐户中的CSAM。
　　如果Apple检测到存储在iCloud中的CSAM集合，它将标记该帐户并向NCMEC提供信息，NCMEC作为虐待儿童材料的报告中心并与美国各地的执法机构合作
　　苹果实际上并没有在这里扫描图像。相反，它使用设备上的智能将CSAM与NCMEC和其他儿童安全组织提供的已知哈希数据库相匹配。该数据库被转换为一组不可读的哈希值，并安全地存储在用户的设备上。
　　在iCloud照片中检测CSAM的实际方法很复杂，并且在每一步都使用加密技术来确保准确性，同时维护普通用户的隐私。
　　Apple表示，经过人工审核流程后，被标记的帐户将被禁用，以确保它是真实的。帐户被禁用后，库比蒂诺公司将向NCMEC发送消息。如果用户觉得自己被错误定位，他们将有机会对帐户终止提出申诉。
　　该公司再次重申，该功能仅检测存储在iCloud照片中的CSAM它不适用于严格存储在设备上的照片。此外，Apple声称该系统每年的错误率不到万亿分之一。
　　该功能不是基于云的扫描，而是仅报告在iCloud中存储了一组已知CSAM的用户。单一的滥用材料不足以触发它，这有助于降低误报率。
　　Apple再次表示，它只会了解与已知CSAM匹配的图像。它不会扫描存储在iCloud中的每个图像，也不会获取或查看与已知CSAM不匹配的任何图像。
　　CSAM检测系统仅适用于美国的iCloud帐户启动。苹果表示，未来可能会更大规模地推出该系统。通讯安全
　　其中一项新更新侧重于提高儿童使用AppleiMessage进行在线交流的安全性
　　例如，当孩子和父母接收或发送色情照片时，iMessage应用程序现在会向他们显示警告。
　　如果17岁以下的儿童收到敏感图像，它会自动模糊处理，并为儿童提供有用的资源。Apple还包括一个机制，让13岁以下的儿童知道如果他们确实看到了消息，则会向他们的父母发送消息。13至17岁的儿童在打开这些图像时不会收到家长通知，并且无法对18岁以上成人使用的帐户启用通信安全。
　　该系统使用设备上的机器学习来分析图像并确定它是否具有色情内容。它是专门设计的，因此Apple不会获得或接收图像的副本。Siri和搜索更新
　　除了iMessage安全功能外，Apple还在Siri搜索中提供了有关在线儿童安全的工具和资源。
　　例如，iPhone和iPad用户将能够询问Siri他们如何报告CSAM或儿童可利用性。然后Siri将提供适当的资源和指导。
　　如果用户对CSAM执行搜索或查询，Siri和搜索也将进行更新。正如Apple指出的那样，这些干预措施将向用户解释，对这个话题感兴趣是有害的和有问题的，并从合作伙伴那里提供资源以获取有关此问题的帮助。维护用户隐私
　　苹果长期以来一直吹捧它不遗余力地保护用户隐私。该公司甚至就用户隐私权与执法部门进行了正面交锋。这就是为什么引入旨在向执法部门提供信息的系统让一些安全专家感到担忧的原因。
　　然而，苹果公司坚持认为，在开发系统时，对系统的监视和滥用是首要问题。它表示，它设计了每项功能，以确保在打击CSAM或在线儿童剥削的同时保护隐私。
　　例如，CSAM检测系统从一开始就设计为仅检测CSAM它不包含用于分析或检测任何其他类型照片的机制。此外，它仅检测超过特定阈值的CSAM集合。
　　苹果表示，该系统不会为监视打开大门，也不会采取任何措施削弱其加密功能。例如，CSAM检测系统仅分析未端到端加密的照片。
　　安全专家仍然担心后果。约翰霍普金斯大学密码学教授马修格林指出，哈希值基于用户无法查看的数据库。更重要的是，散列有可能被滥用就像一个无害的图像与已知的CSAM共享一个散列。
　　苹果是一家‘隐私’公司的想法为他们赢得了很多好媒体。但重要的是要记住，这家公司不会加密你的iCloud备份，因为FBI对他们施加了压力，格林写道。。
　　罗斯安德森，在剑桥大学安全工程学教授，被称为系统的绝对是骇人听闻的想法的采访与金融时报。他补充说，这可能导致对我们的手机和笔记本电脑的分布式批量监视。
　　数字权利组织电子前沿基金会也写了一篇关于该功能的博客文章，称它为更广泛的滥用打开了大门。
　　扩大Apple正在构建的狭窄后门所需要的只是扩展机器学习参数以寻找其他类型的内容，或者调整要扫描的配置标志，不仅是儿童的账户，而是任何人的账户。那不是EFF的IndiaMcKinney和EricaPortnoy写道。