保姆级教程:用GPU云主机搭建AI大语言模型并用Flask封装成API,实现用户与模型对话
在本文中,我们将以chatglm6b为例详细介绍GPU云主机搭建AI大语言模型的过程,并使用Flask构建前端界面与该模型进行对话。
Wesley13 Wesley13
3年前
DDD领域驱动设计思想——读《DDD实战课》归纳
本文是学习极客时间《DDD实战课》后结合自己思考所整理的归纳总结,课程链接在:DDD实战课基于DDD的微服务拆分与设计(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Ftime.geekbang.org%2Fcolumn%2Fintro%2F238"DDD实战课基于DDD的微服
Wesley13 Wesley13
3年前
2020 云原生技术 7 大领域趋势全预测
文章联合撰稿人(排名不分先后)叔同、谷朴、不瞋、育睿、许晓斌、至简、典违、鲁直、改之、小剑、汤志敏、白慕、循环、文卿,喽哥、水鸟、神秀。在筹备阿里云首届云原生实践峰会(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fdeveloper.aliyun.com%2Ftopic%2Fcl
可莉 可莉
3年前
2020DevOps状态报告——平台模型:扩展DevOps的新方法
平台模型是我们在这个领域看到越来越多的方法,它源于负责产品或服务的端到端交付的产品团队的理念。如果只应用于单一的产品,或者几个产品,它的效果很好。但如果有数百种产品或服务,把一个产品团队用于这些产品,对每一个来说都是低效和昂贵的。想象10个团队,每个团队都有自己的技术栈、工具链和流程。会一直重复解决类似的问题、花太多的时间来评估技
Stella981 Stella981
3年前
2020DevOps状态报告——平台模型:扩展DevOps的新方法
平台模型是我们在这个领域看到越来越多的方法,它源于负责产品或服务的端到端交付的产品团队的理念。如果只应用于单一的产品,或者几个产品,它的效果很好。但如果有数百种产品或服务,把一个产品团队用于这些产品,对每一个来说都是低效和昂贵的。想象10个团队,每个团队都有自己的技术栈、工具链和流程。会一直重复解决类似的问题、花太多的时间来评估技
Wesley13 Wesley13
3年前
2019领域驱动设计峰会全讲师阵容正式发布!
Jenkins中文社区作为本次活动的合作社区,成员可以享受128元的折扣。!(https://oscimg.oschina.net/oscnet/4269cfdf2fedd11be521e4dd06fc280425e.jpg)!(https://oscimg.oschina.net/oscnet/22db3722004cb8db1f3eb7
Wesley13 Wesley13
3年前
InfoQ 趋势报告:架构和设计领域技术演变详解
https://www.infoq.cn/article/R7lWXd0R4VFf3E0bB\38本文概述了我们对当前“架构和设计”领域的看法,这个领域侧重于基础设施模式、技术框架模式的实现,以及软件架构师必须掌握的设计流程和技能。关键要点:我们看到了“演化式架构”设计需求的增长,这种架构建立在可替换性设计和关注“胶水”
数字先锋 | “言”之有“力”,大模型背后的算力“推手”!
在算力调度方面,天翼云通过自研的调度系统,协助思必驰DFM2大模型调度GPU、NPU、CPU等异构算力资源,大规模训练上云1个月,可以完成数十亿规模大模型所有阶段训练和效果评估。在训练能力打造方面,天翼云支持多种模型训练方式,不仅可以提升大模型训练平台的数据量,还大幅缩短了训练周期和交付进度。