大模型向下扎根深入行业，必须要破解高质量数据供给的挑战。7月5日，2024年世界人工智能大会进入第二天，作为数据要素领域的主要技术服务商，蚂蚁集团发布“隐语cloud”大模型密算平台，通过软硬件结合的可信隐私计算技术，在大模型托管和大模型推理等环节实现数据密态流转，保护模型资产、数据安全和用户隐私。当下，高质量数据供给和安全流通，成为大模型进入垂直产业应用的首要挑战。其一，行业大模型要获得解决专业问题的能力，首先要经过数量充足、质量高的专业数据训练。然而，专业数据往往分散在不同的机构、企业中，并且由于价值大、保密要求高，难以流动。此外，在企业、大模型厂商和用户之间存在信任壁垒，企业担心数据对外泄露，大模型厂商担心模型资产安全，用户担心个人数据和隐私风险。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
- 大模型密态托管：保护模型资产不被泄漏和盗用。
- 大模型密态推理：保护用户交互时的数据安全和商业机密。
此外，该平台支持：
- GPU在可信执行环境下进行计算。
- 内存、磁盘加密等方法，实现端到端加密和跨域访问控制。
- 轻量化远程认证。
当下，大模型私有化部署不仅增加运维成本，也影响服务效率和质量。隐语Cloud大模型密算平台提供公有云和专有云交付方案，支持通用大模型。
王磊透露，该平台服务将逐步覆盖垂直大模型数据安全全链路，包括：
- 密态计算服务。
- 密态大模型开发全链路工具。
蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算董事长韦韬认为，隐私计算技术决定了数据跨域供给的上限。蚂蚁集团从2016年开始探索隐私计算技术，希望联合产业合作伙伴推动产业发展。
目前，蚂蚁可信隐私计算核心技术已开源，包括“隐语”框架和“星绽”操作系统。此外，蚂蚁还与高校紧密合作，并设立了“隐私计算专项科研基金”。
今年5月，蚂蚁集团成立密态计算公司浙江蚂蚁密算科技有限公司，将提供端到端数据安全保障、软硬件结合的计算加速解决方案和隐私计算云服务平台。
