9 月 26 日至 28 日,数禾科技盛装亮相世界级盛会KubeCon+CloudNativeCon+OpenSourceSummitChina2023,向全球技术精英展示了其在云原生领域的创新实践与领先成果。在这场汇聚全球顶尖技术力量的盛会中,数禾科技团队成员围绕”数禾使用Knative加速AI模型服务部署实践”主题进行了深度分享,引发广泛关注。
Knative作为基于Kubernetes的开源Serverless应用框架,致力于打造企业级Serverless应用平台。根据2020CNCF云原生调查报告显示,Knative已成为开源自建Serverless平台的首选方案。自2022年3月2日加入CNCF后,Knative获得了越来越多开发者的青睐。阿里云容器服务从Knative早期版本开始就进行了产品化集成,持续跟进社区功能迭代,并与容器服务ACK、消息、存储、网络等云产品实现全方位融合,为用户提供了生产级别的Knative能力。数禾科技作为业界最早使用阿里云容器服务的专业机构之一,通过Knative与弹性节点的协同部署,不仅大幅提升了线上模型应对突发流量的稳定性,还显著提高了资源利用效率,实现了资源成本的极大节约。
基于Knative的Serverless服务方案具备三大核心优势:根据请求的弹性扩缩容能力、支持pod缩容至0的冷启动能力以及多版本管理能力。通过对内部模型部署pipeline的全面改造,数禾科技已实现所有新增模型通过ACK+Knative方式部署上线。Knative的多版本管理能力有效解决了模型的灰度发布和多版本并存问题,而基于请求的自动扩缩容功能则确保在多版本并存的情况下不会产生额外资源消耗,更优化了夜间谷时资源利用。
在实际应用中,数禾AI模型服务系统为业务决策人员提供了强大的决策支持工具,显著提升了决策效率,减轻了人工操作负担,同时大幅降低了客户流失率和风险损失。在营销获客方面,数禾AI模型通过数据分析技术实现精准客户画像,提升营销转化率;在风险管理方面,数禾AI模型能够快速检测风险预警信号,提供实时决策支持。截至目前,数禾AI模型服务平台已上线部署500余款AI模型服务,日均提供上亿次查询决策服务,具备无限横向扩展能力。
ASK的实时弹性扩展能力帮助数禾科技节约资源成本约60%,成功应对了各类运营活动带来的突发峰值场景。整个云原生部署和发布系统将公司平均部署周期从之前的1天缩短至0.5天,显著加速了商业化应用的迭代进程,为业务拓展提供了强大支撑。
作为高新技术企业代表,数禾科技在数字化创新道路上持续深耕,取得了一系列令人瞩目的金融科技成果。其基于阿里云云原生应用架构打造的”数禾AI模型服务”荣获云原生产业联盟颁发的”2023年度云原生应用实践先锋-云原生应用优秀案例”奖项。云原生作为基于分布式部署和统一运管的分布式云,以容器、微服务、DevOps等技术为基础,构建了一套完整的云技术产品体系,帮助企业快速构建和部署应用程序,提升应用的可靠性、弹性和可扩展性,加速数字化转型进程。
数禾科技在人工智能、云计算、大数据等前沿技术领域持续开展研究和应用,截至目前已申请近230项技术相关专利,其中授权发明专利11项,技术专利覆盖人工智能、人机交互、数据治理、系统设计、架构设计、云计算和智能识别等数字经济核心领域,展现出强大的自主科技研发实力。
技术终将造福于人民。在科技驱动普惠金融发展的道路上,数禾科技以科技创新为手段,持续推动普惠金融服务数字化、智能化。数禾科技以大数据和技术为驱动,为金融机构提供智能零售金融解决方案,服务银行、信托、消费金融公司、保险、小贷公司等持牌金融机构,业务涵盖消费信贷、小微企业信贷、场景分期等多个领域,提供营销获客、风险防控、运营管理等服务。
作为金融科技创新先锋,数禾科技积极拥抱Knative技术,并与容器服务ACK、消息、存储、网络等云产品实现全方位融合,为技术普惠和行业蓬勃发展做出了卓越贡献。未来,数禾科技将继续开拓创新、担当作为,助力行业汇聚起推动云原生领域技术发展的强大力量。