推荐
专栏
教程
课程
飞鹅
本次共找到66条
推理
相关的信息
helloworld_38131402
•
3年前
知识图谱Knowledge Graph构建与应用
《新一代人工智能发展规划》明确提出了“建立新一代人工智能关键共性技术体系”的重点任务,特别强调了要解决“研究跨媒体统一表征、关联理解与知识挖掘、知识图谱构建与学、知识演化与推理、智能描述与生成等技术,开发跨媒体分析推理引擎与验证系统”的关键共性技术问题。一、知识图谱概论1.1知识图谱的起源和历史1.2知识图谱的发展史——从框架、本体论、语义网、链
Easter79
•
4年前
Tengine快速上手指南(中文版)
Tengine是一个优秀的轻量级端侧/嵌入式环境深度神经网络推理引擎。兼容多种操作系统和深度学习算法,以AI推理框架为基础的AIoT开发套件。本文档将分别在x86Linux和Arm64Linux平台,以分类模型(TensorFlowMobileNetv1模型)为例,带你快速上手Tengine。Linuxx86平台编译
司马炎
•
3年前
【MindStudio训练营第一季】MindStudio 专家系统随笔
简介专家系统(MindstudioAdvisor)是用于聚焦模型和算子的性能调优Top问题,识别性能瓶颈,重点构建瓶颈分析、优化推荐模型,支撑开发效率提升的工具。专家系统当前已经支持针对推理、训练、算子场景的瓶颈分析模型,包括内部团队开发的模型&
京东云开发者
•
2年前
GPT大语言模型Alpaca-lora本地化部署实践【大语言模型实践一】 | 京东云技术团队
本文进行本地化部署实践的Alpacalora模型就是Alpaca模型的低阶适配版本。本文将对Alpacalora模型本地化部署、微调和推理过程进行实践并描述相关步骤。
京东云开发者
•
2年前
GPT大语言模型Vicuna本地化部署实践(效果秒杀Alpaca) | 京东云技术团队
Vicuna13B的推理效果据说达到了ChatGPT的90%以上的能力,优于LLaMA13B和Alpaca13B的效果。同时Vicuna的训练成本也很低,所以尝试本地化部署一下Vicuna7B,看看效果如何,说干就干。
京东云开发者
•
2年前
使用Triton部署chatglm2-6b模型 | 京东云技术团队
一、技术介绍NVIDIATritonInferenceServer是一个针对CPU和GPU进行优化的云端和推理的解决方案。支持的模型类型包括TensorRT、TensorFlow、PyTorch(metallama/Llama27b)、Python(cha
天翼云开发者社区
•
9个月前
DeepSeek-R1满血版性能飙升四倍,成本大降,竟是因为……
近日,天翼云DeepSeek模型推理技术迎来重大升级!该技术不仅支撑DeepSeekR1满血版模型实现性能的四倍提升,更将大规模部署模型的成本降至原来的25%以下,为AI应用落地铺就更为宽广的道路。
幂简集成
•
6个月前
2025年国内AI推理大模型效果对比:DeepSeek、通义千问、腾讯混元
随着人工智能技术的飞速发展,AI推理大模型已经成为各行业关注的焦点。2025年,国内AI推理大模型领域呈现出百家争鸣的态势,其中DeepSeek、通义千问和腾讯混元等模型尤为引人注目。本文将从技术架构、性能表现、应用场景等多个维度对这三款模型进行对比分析。
司马炎
•
3年前
【MindStudio训练营第一季】MindStudio 高精度对比随笔
MindStudio精度对比简介原因:训练场景下,迁移原始网络(如TensorFlow、PyTorch),用于NPU上执行训练,网络迁移可能会造成自有实现的算子运算结果与用原生标准算子运算结果存在偏差。推理场景下,ATC模型转换过
1
2
3
4
5
6
7