摘要: 引言 面对魔搭 ModelScope 社区提供的海量模型,用户希望快速进行选型并生产使用起来,但在此之前,却一定会面临算力管理难、模型部署难等一系列问题,那么能否实现快速把选定的模型部署在云端功能强大的 GPU 上,由云端负责服务,扩展,保护和监控模型服务,同时免于运维和管理云上算力等基础设施呢?魔 阅读全文
posted @ 2024-03-19 17:15 Serverless社区 阅读(18) 评论(0) 推荐(0) 编辑
摘要: 前文介绍了魔搭 ModelScope 社区模型服务 SwingDeploy服务。开发者可以将模型从魔搭社区的模型库 一键部署至阿里云函数计算,当选择模型并部署时,系统会选择对应的机器配置。按需使用可以在根据工作负载动态的减少资源,节约机器使用成本。 5分钟 完成从开源模型至模型推理 API 服务的生 阅读全文
posted @ 2024-03-19 17:08 Serverless社区 阅读(47) 评论(0) 推荐(0) 编辑