2026年8月中旬，在科技媒体 WIRED 提交问讯调查询问前，一款名为 Kromix 的 AI 应用正在 Meta 平台上投放包含女性政治人物深度伪造色情视频的付费广告，同时在 Apple App Store 上供用户公开下载。收到媒体问询后，Apple 与 Meta 在数小时内紧急下架了涉事应用与相关广告。这种由外部调查倒逼平台处置的模式，暴露了前沿 AI 应用监管中的实时监测失效。
Kromix 在 App Store 中将自身包装为普通 AI 图像样式工具，却在社交平台宣称提供无限制内容生成服务。在应用内部，付费用户可上传任意照片并将其拼接至非自愿的性场景中。此类应用利用端面展示与实际功能的断层，顺利通过了应用商店的初始入驻审核。
图：App Store 应用审核与生态治理。来源：9to5Mac
类似案例并非孤例，WIRED 的调查同时发现另一款名为 MaskAI 的应用存在相同模式，该应用同样在媒体问询后被 Apple 下架。开发者利用远程配置开关与后端模型接口动态变更，使客户端在审核期呈现合规界面，上线后才解锁违规功能。自动化审核工具往往依赖提交时刻的代码静态快照，无法捕获运行时的远程策略调配。
双平台独立审核的结构性盲区
在事件处置中，Apple 官方声明强调其应用商店严格禁止生成或分发色情内容，并指责 Kromix 开发者在通过初次审核后非法添加了被禁功能。Meta 则表示已下架违规广告，并对涉事服务商展开法务诉讼与机制调查。双方的表态均符合各自规则，却遮蔽了协同风险。
App Store 的审核边界止于二进制包解析与界面交互测试，并不监控应用在外部社交网络中的营销素材。Meta 的广告系统则专注于评估投放素材与落地页的符合度，无法实时校验目标应用内部的算法调用限制。当违规应用通过远程开关绕过应用商店检查，同时借助社交广告精准吸粉时，安全防线在两个系统的衔接处产生了真空。
平台监管各自为政导致了治理责任的分散。应用商店侧重于代码层面的合规性，广告平台关注展示层面的广告法约束，双方缺乏跨平台的威胁情报共享机制。这种架构上的隔离，给恶意开发者创造了低成本获客与变现的天然缝隙。
对抗性进化：零粉丝账户与封面图伪装
Meta 广告库数据显示，Kromix 的 32 个广告全部定向男性用户，单次投放时长介于 5 至 46 小时之间，绝大多数广告曝光量低于 10 次。这说明开发团队采用了高频分发、极短生命周期的对抗策略，利用自动化程序在大规模审查生效前完成精准投放。
涉事广告账户于 2026 年 8 月 3 日新建且粉丝数为零，属于典型的风控一次性账户。此外，视频广告普遍采用海滩、山峰与瀑布等自然风光静态图作为封面帧，以此掩盖内部嵌套的深度伪造视频。AI 内容审核系统为节省计算资源通常优先扫描静态封面，恶性开发团队通过封面与正片内容分离的手段轻松骗过了多媒体识别模型。
图：包含深度伪造广告诱导的商业投放路径。来源：WIRED / Jobanny Cabrera, Getty
根据 Meta 公布的数据，在 2025 年 11 月至 2026 年 1 月的三个月内，平台共处置清理了 344,000 个涉及非自愿色情生成的广告。这一海量数字表明黑产团队已经实现流水线化作业，通过批量注册抛弃型账户与隐秘封面伪装，持续消耗审核系统的防御能力。
法律禁令与平台政策集体的防御失效
在监管层面，地方执法机关早已对此类应用发出警告。2026 年 7 月，旧金山市检察官 David Chiu 向 Apple 与 Google 发出停止侵权函，要求两家公司下架 13 款色情生成应用并停止提供分发支持。执法部门的直接介入表明，官方对应用商店的合规责任判定正在大幅收紧。
平台自身也在不断修正条款以降低法律风险。2026 年 1 月，Apple 因 Grok 生成大量非自愿深度伪造图像而私下警告 xAI，并于 2026 年 6 月正式更新开发者责任条款，强化了针对色情内容的法律连带责任。单纯依赖事后更新开发者条款与法律警告，难以从根本上阻断跨平台蔓延的非法生成链路。
仅在 2026 年 1 月，Grok 模型就被用于生成了约 300 万张针对女性的性化图像，多名欧洲官员受到冲击。庞大的生成数量显示出黑产对生成式 AI 模型的滥用规模，现有的事后响应机制已落后于算法恶化的速度。
审查分界线上的责任真空
Kromix 事件展示了前沿技术滥用的一种典型形态。问题不仅存在于算法生成的伦理风险中，更存在于现代互联网基础设施的分发与变现机制中。
应用商店与广告网络构建了各自完备的合规守则，但在面对跨平台协作的黑产策略时，独立的审核机制被逐一击破。平台责任如果仅停留在各自履职的表象上，最终的危害将直接由受害者与公众承担。
破除这一困局需要重塑平台间的协作治理框架。只有建立跨分发渠道与营销网络的实时数据共享，将端到端的用户转化路径纳入联合风控，才能真正抹平缝隙中的监管死角。
参考链接：
- WIRED：Meta 为承诺可「脱衣」女性政客的应用投放广告
- 9to5Mac：苹果下架 Meta 广告推广的 AI 脱衣应用
