|
MLOps：源于软件工程领域促进提质增效的管理方法论DevOps，由机器学习(Machine Learning)、研发(Development)和运营(Operations)三种概念构成，旨在让AI模型的开发也能兼具效率和质量，实现规模化应用。近期，土豆数据科技集团董事长霍向琦在第一财经主办的《AI大模型——揭秘人工智能生产力的加速器MLOps》研讨会上，结合土豆数据弗雷时空大模型的建设思路，讲述在大模型时代，MLOps理念的价值以及实现的路径。MLOps理念的价值在哪里?由中国信息通信研究院、人工智能关键技术和应用评测工业和信息化部重点实验室在联合发布的《人工智能研发运营体系(MLOps)实践指南(2023年)》指出，AI模型的开发以及应用，当前着面临着跨团队协作难度大、过程和资产管理欠缺、生产和交付周期长等问题。对此，霍向琦表示，面向人工智能领域AI模型及AI应用的开发，MLOps的意义和价值，在于建立团队协作机制，实现敏捷交付过程，在构建全面链路反馈闭环的过程中，实现对AI资产进行统一管理。实际上，早在“小模型”阶段，MLOps理念已经助力AI模型开发、训练、部署和应用全流程开发的降本增效。而随着大模型时代的到来，MLOps作为一体化AI工程化方法，亦将促进通用人工智能技术转化为能够解决行业实际痛点的真实生产力。在霍向琦看来，平台化，以及深度融入MaaS体系，是MLOps在大模型发展的浪潮之中，从一种工程方法转变为基础设施和平台工具的重要趋势。MLOps所强调的跨部门协作、敏捷开发、高效运维等理念，将落地成为围绕数据标准规范、模型开发训练、部署应用等相关的平台工具集，来支撑通用大模型和行业大模型产品的构建。这意味着，得益于MLOps理念向工具的转化，上至专业AI企业，下至独立开发者或非研发方向的业务人员，都将得轻松上手模型产品开发和部署应用的整套流程。土豆数据面向时空产业所构建的弗雷时空大模型，正是基于MLOps理念串联时空信息采集、建模、治理、分析、应用及流通等全链路，满足各垂直细分领域有关行业知识问答，内容创作，业务自动化处理，以及细分领域行业大模型微调构建等需求，在降低专业操作门槛、减少劳动密集作业的同时，本质上更让各环节上的技术人员、行业专家和终端用户能够高效协同，将大模型能力、行业知识、想象力和创造力转化为真实生产力，赋能千行百业释放价值。大模型时代下，MLOps理念如何实现当下，以ChatGPT为典型的大模型产品展示了令人震撼的内容生成能力，然而，潜在的一些问题使得行业用户对大模型应用的实践持谨慎态度。根据市场研究机构Gartner的调查数据表明，成功将AI模型应用到实际生产环境中的转化率仅略高于50%。那么，在利用MLOps提高大模型实际生产转化率的过程中，面临着哪些问题？对此，霍向琦在活动中指出：第一，AI大模型处于IT应用的前沿，应用场景并不明晰且缺乏安全监管，而国内很多行业尚处于数字化转型的建设初期，其中最典型的问题，要属数据资源普遍以不同的行业标准和不同的文件格式分散在跨单位、跨部门的服务器或电脑端中，未能经过统筹治理形成标准统一的数据资产。“数据底座”即数据要素的缺失，难以为行业大模型的训练提供可靠、高质量的数据支撑。其次，相比小模型针对特定应用场景的轻量化开发训练和部署应用，大模型将更偏向于建设一个系统级工程，基于MLOps理念和相关工具，必须做好数据工程和模型工程的基础，并需要完成与终端用户的业务系统的配套改造和对接，从而响应行业大模型持续训练和场景搭建封装等关键任务需求。而对于如何MLOps理念如何实现，霍向琦也发表了自己的观点：霍向琦认为，人才，在打造MLOps完善的工程化能力，推进大模型的落地应用的过程中，扮演着至关重要的角色。在大模型时代，产品经理岗位将是具备“终极思维”的稀缺人才，其通过丰富的行业知识与认知，面向整个产业，针对其痛点和发展趋势，在产品设计上给予更精准地预判。而数据工程师、解决方案工程师等岗位，也都将立足于大模型的核心能力，广泛触达各行各业的共性需求，消除行业间的壁垒，助力以数据为关键要素的业务管理和决策。 |
打印本文 
关闭窗口