瞄准 B 端!腾讯云推多款行业大模型解决方案,打造模型应用商店
2023-06-26 13:36 浏览:17
日前，腾讯云首次公布腾讯云行业大模型研发进展，依托腾讯云 TI 平台打造行业大模型精选商店，为客户提供 MaaS（Model-as-a-Service）一站式服务，助力客户构建专属大模型及智能应用。值得注意的是，此次腾讯云发布的大模型，主要瞄准的是 B 端市场。会上，腾讯云联合 22 家客户正式启动行业大模型共建合作，并携手 17 家生态伙伴共同发起了“腾讯云行业大模型生态计划”，致力于共同推进大模型在产业领域的创新和落地。基于腾讯 HCC 高性能计算集群和大模型能力，腾讯云已经为传媒、文旅、政务、金融等 10 余个行业提供了超过 50 个大模型行业解决方案。腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生表示，生态共建是 AI 发展的有效路径，腾讯将坚持生态开放，为企业提供高质量模型服务，同时支持客户多模型训练任务，加速大模型在产业场景的创新探索。如何将大模型能力应用到自身的行业和场景里？如何解决成本、数据、安全等大模型实际落地难题？依据企业实际需求，进而"量体裁衣"定制一个专属大模型，或许是解决这些问题的最佳答案。当前，通用大语言模型在应对产业场景落地时存在一定的局限性。首先，通用大模型的训练数据主要来自公开数据集或网络数据，对于特定行业的专业领域知识了解有限。此外，通用大语言模型的训练需要大量计算资源和漫长的训练周期，这对企业来说可能昂贵且耗时。同时，安全和合规也是必要考量因素。因此，选择与具备一站式行业大模型服务能力的云厂商合作，打造企业专属的行业大模型至关重要，好用、易用的同时还能降低企业的成本和时间投入。基于客户实际痛点和需求，腾讯云全新公布 MaaS 全景图，依托腾讯云 TI 平台打造行业大模型精选商店，为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在 TI 平台内置高质量行业大模型基础上，企业加入自己独有的场景数据，就可以快速生成自己的专属模型；同时，也可根据自身业务场景需求，“量体裁衣、按需定制”不同参数、不同规格的模型服务。多年来，在多行业、多应用场景的磨砺下，腾讯云的大模型在算力方面有着深厚的积累。今年 4 月，腾讯云发布了专为大模型训练设计的新一代 HCC 高性能计算集群，采用最新一代的腾讯云星星海自研服务器，具备业界最高的 3.2Tbps 互联带宽，算力性能提升了 3 倍。此外，腾讯云即将推出向量数据库（Tencent Cloud VectorDB），源自腾讯集团每日处理千亿次检索的向量引擎（OLAMA），单索引支持 10 亿级向量规模，更适用于 AI 运算、检索，数据接入 AI 的效率也比传统方案提升 10 倍。这些创新将为客户的模型训练提供强大的支持和动力。在平台层面，依托 TI 平台，腾讯云将为客户提供一站式模型服务，涵盖完善的模型工具、成熟的流程方法、全面的配套服务、领先的安全保障能力。首先，腾讯云 TI 平台内置多个高质量行业大模型，涵盖金融、传媒、文旅、政务、工业等多个行业场景，企业可以结合自身场景数据可按需定制精调，也可以根据自身需求开展多模型训练任务，大幅降低大模型应用门槛。其次，TI 平台提供完善的大模型工具链，包括数据标注、训练、评估、测试和部署等全套工具。同时，由 TI-ACC 升级的"太极 Angel"提供更优的训练和推理加速能力。在传统 CV、NLP 算法模型的基础上，新增了对大模型的训练和推理加速能力，通过异步调度优化、显存优化、计算优化等方式，相比行业常用方案性能提升 30%+。第三，TI 平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论，同时支持 MLOps 的体系及工具，保障客户需求的顺利交付。在配套服务和安全保障方面，腾讯云提供本地化的训练、落地及陪跑优化服务，为客户扫清落地障碍；依托二十余年的安全经验和风控能力，提供 AIGC 全链路内容合规解决方案；针对客户对数据安全需求，提供私有化部署等多种灵活交付方案，加速企业快速创建和部署 AI 应用。欢迎添加小助手进群，我们将为您推送更多数字化内容和活动信息。关注「InfoQ 数字化经纬」的朋友们，为了让我们能保持联络，希望大家尽量 ?星标?这个公众号，否则很容易就看不到推送啦～
