数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

天翼云开发者社区
• 阅读 314

对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率,更是在出行、教育、医疗等领域展现出了惊人的潜力。随着不断升级和创新发展,对话式人工智能已成为科技界与社会各界热议的焦点之一。

今天我们一起走进思必驰,探访大模型背后的算力“推手”。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

算力让AI“一路狂飙”

思必驰是国内专业的对话式人工智能平台公司。以人机对话交互为核心,为智能汽车、智能家居、智慧政务等领域的客户提供软硬一体化方案,推进智能化转型升级。

近年来,随着ChatGPT“一路狂飙”,思必驰推出了自研的对话式语言大模型DFM-2,并通过了《生成式人工智能服务管理暂行办法》备案,成为江苏省本土人工智能首-个通过大模型备案的企业。据了解,该模型具有通用语言计算大模型的所有AGI特性,同时针对通用模型事实不准、私域知识无法包含、专用领域理解性能不足等问题,进行了一系列技术改造。DFM-2属于垂域大模型,可以实现通用人工智能的柔性定制,并开展大规模、高质量、个性化的人工智能系统定制。

作为大模型的基础“底座”,算力在其中发挥着关键的作用。动辄百亿甚至千亿数据规模的大模型训练,加之在不同阶段的大模型训练对计算能力的不同要求,都需要更高标准的算力条件支撑。中国电信天翼云基于自研技术优势,为其提供了坚实的算力基础,成为思必驰大模型背后的算力“推手”。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

算力打通AI“任督二脉”

AI大模型的兴起加速了对更大规模和更强大计算资源的需求。天翼云通过自研的智算平台,向广大客户提供智能算力、云计算、数据等服务,为大模型训练平台提供高性能底座支撑能力

在服务合作伙伴的过程中,思必驰推出了集大语言模型应用的生产、调试、发布、体验、应用于一体的大模型应用平台,可实现跨领域多意图、文档问答、多人交互等大模型能力的快速应用,产品有了这些能力,会变得更加智能好用,而这也需要更庞大的算力支持。

思必驰研发总监樊帅表示,不论是在算力基础设施、算力调度、还是训练能力打造方面,天翼云与思必驰DFM-2大模型携手,为高效训练和产品赋能打通了“任督二脉”。

算力赋能千行百业

“不仅在智能家居,我们在汽车行业、消费电子、金融服务、政务轨交等领域都有深入的布局。”思必驰研发总监陆峰表示。

比如在汽车智能交互方面,思必驰已经实现了全车全时免唤醒、多音区交互、一句话多意图,以及为用户提供出行规划和汽车大师智能解答等复杂的功能,并对日常的口误也有很好的理解。借助天翼云智算平台的高端智算算力支撑,思必驰能够更快速地把这些大模型能力集成到客户的产品和应用中。

因为有天翼云提供的云计算资源和技术支持,可以确保数据处理和分析能力不断改善提升。最重要的是,启动大项目往往需要大量的高端智算算力,这对于很多企业来说需要承担较高的成本。天翼云的智算平台恰到好处地解决了这一痛点,它提供的高性能计算资源和良好的存储解决方案,可以更好地处理海量数据和复杂的算法,从而为客户提供更精准的大模型服务和更高效的运维支持,让研发人员把精力更好地用于优化算法和方案上,而不必担心硬件是否好用。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

智能算力助力降本增效

“在算力基础设施上,天翼云集成弹性计算、分布式存储、云网络三大基础核心技术,以全量IaaS+PaaS产品服务,为思必驰DFM-2大模型提供了高性能底座支撑能力。”思必驰研发总监陆峰表示。

在算力调度方面,天翼云通过自研的调度系统,协助思必驰DFM-2大模型调度GPU、NPU、CPU等异构算力资源,大规模训练上云1个月,可以完成数十亿规模大模型所有阶段训练和效果评估。在训练能力打造方面,天翼云支持多种模型训练方式,不仅可以提升大模型训练平台的数据量,还大幅缩短了训练周期和交付进度

苏州电信园区局局长施亚东表示,“其实不仅是思必驰,天翼云基于集数据算力、数据网络、数据传输的一体化资源优势,以及汇聚智能算力、超级算力、通用算力和边缘算力的一站式解决方案两大算力服务优势,目前已经服务了170多万家工业客户以及530万家中小企业。”

天翼云作为提供智算、超算、通算多样化算力服务的一体化算力平台,助力千行百业用上了普惠算力。天翼云致力于让客户使用算力就像“水电”一样便利,而客户想要的产品又能分毫不差地呈现出来。

算力已经成为数字经济的核心生产力,而在算力基础之上,各式各样的数字应用正在百花齐放。相信在不远的将来,在天翼云的智算赋能下,还会有更多更好的应用走入日常生活中。

点赞
收藏
评论区
推荐文章
Kubernetes 资源拓扑感知调度优化
作者星辰算力团队,星辰算力平台基于深入优化云原生统一接入和多云调度,加固容器运行态隔离,挖掘技术增量价值,平台承载了腾讯内部的CPU和异构算力服务,是腾讯内部大规模离线作业、资源统一调度平台。背景问题源起近年来,随着腾讯内部自研上云项目的不断发展,越来越多的业务开始使用云原生方式托管自己的工作负载,容器平台的规模因此不断增大。以Kubernetes
大语言模型微调数据竞赛,冠军!
近日,天池FTDataRanker竞赛落下帷幕,天翼云智能边缘事业部AI团队(后称天翼云AI团队)凭借在大语言模型(LLM)训练数据增强方面的卓越研究,荣获大语言模型微调数据竞赛——7B模型赛道冠军。
云行|中国速度,智算未来!天翼云为宁波数智化发展注入新动能!
智算正成为人工智能时代的关键生产力要素。为落实好国家要求,抓住智算新机遇,天翼云着力打造从IaaS到SaaS的一体化服务,实现基础设施、算力平台、算力调度、行业大模型的全面升级。天翼云科技有限公司副总经理黄洪波表示,天翼云已在浙江形成了“211X”的分布式算力资源布局,通过算力多级下沉和层次化布局,天翼云具备了差异化的资源服务能力,广泛服务于宁波等浙江省各类行业客户,为客户提供普惠、泛在、安全的算力资源。未来,天翼云将立足宁波所在的长三角集群,持续深化“东数西算”布局,进一步深化合作,共谋发展。
国云注智,聚力向新!天翼云打造五位一体智算云能力体系!
5月25日,第七届数字中国建设峰会期间,以“国云注智 聚力向新”为主题的2024智算云生态大会·智算云论坛在福州召开。天翼云全面升级产品及生态矩阵,打造“算力·平台·数据·模型·应用”五位一体的智算云能力体系。会上举行“开源大模型社区发布暨生态繁荣计划启动”、“息壤区域算力互联互通及调度管理服务计划暨息壤城市算力互联网点亮行动”等仪式,通过产业各方伙伴共创、共建、共推智算产业发展再上新台阶。作为云服务国家队,天翼云正以全新智算云布局,加快构建以科技创新为驱动的新质生产力,为数字经济发展与数字中国建设注入澎湃动能。
绿色算力从这片草原开始!
近日,2024中国绿色算力(人工智能)大会在呼和浩特开幕。大会以“共筑绿色算力网络,共赢人工智能未来”为主题,邀请院士专家、标杆企业齐聚敕勒川草原会议中心,共话绿色算力和人工智能发展。天翼云科技有限公司副总经理黄洪波参加大会主论坛,出席人工智能模型训练推理基地建设启动仪式。
《算力服务产业图谱(2024年)》发布,天翼云两款产品重磅入选!
云计算开源产业联盟于2023年6月启动了首个算力服务产业图谱及产品名录编制工作。经过公开征集、企业自主申报、产品调研及专家评审,《算力服务产业图谱(2024年)》及《算力服务产品名录(2024年)》于今年7月在第11届可信云大会正式发布。其中,天翼云操作系统大规模云平台(基础服务领域)、天翼云一体化计算加速平台(融合调度、AI赋能领域)成功入选,彰显了天翼云在算力服务领域的研究成果获权威认可
“模”力十足!天翼云息壤一体化智算服务平台训推服务能力重磅升级!
9月4日,“天翼云息壤——大模型训推一体化服务能力升级”线上发布会成功举办。会上,息壤平台训推服务能力重磅升级,新增闭源、多模态基座大模型以及数据集,支持万卡规模训练,训练稳定性再次提升,新增体验空间,为基础大模型训练、行业大模型训推提供一站式解决方案。
天翼云完成首个国产化万卡训练,MFU达到国内领先水平!
天翼云自研国内首个单集群万卡国产化全功能预训练云服务平台发布上线,并完成万卡规模Llama3.1405B大模型训练。Llama3.1405B作为4000亿参数的模型,在息壤训推服务平台的支持下经过多轮优化,MFU达到国内领先水平;另外,700亿参数模型Llama270B在万卡规模下完成训练,MFU也处于业界领先水平。
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
722
粉丝
15
获赞
40