「风控算法服务平台」高性能在线推理服务设计与实现
本文作者:郁昌存来自京东科技风险管理中心一、背景/目标1)风控智能化体系建设依赖大量深度学习/机器学习模型进行实时在线的风险识别、智能决策。要求可以将算法模型快速部署为在线服务,供决策引擎调用。2)风控决策引擎涵盖交易、支付、营
技术革命——云计算结合人工智能
云计算在人工智能领域的应用非常广泛,它提供了强大的计算和存储资源,为人工智能算法和模型的训练、推理和部署提供了便利和效率。云计算和人工智能的结合将是一场技术革命,云计算人工智能的未来是所有的业务都在云上提供。云计算在人工智能领域的几个重要应用:
京东云开发者 京东云开发者
10个月前
京东商家智能助手:Multi-Agents 在电商垂域的探索与创新
电商助手是一款集合了多种电商经营决策功能的工具软件,旨在帮助电商从业者完成从商品发布到订单管理、客服沟通、数据分析等一系列电商运营任务。京东零售基于MultiAgents理念搭建了商家助手大模型在线推理服务架构,这一系统的核心是算法层基于ReAct范式定制
京东云开发者 京东云开发者
9个月前
大模型应用之路:从提示词到通用人工智能(AGI)
大模型在人工智能领域的应用正迅速扩展,从最初的提示词(Prompt)工程到追求通用人工智能(AGI)的宏伟目标,这一旅程充满了挑战与创新。本文将探索大模型在实际应用中的进展,以及它们如何为实现AGI铺平道路。基于AI大模型的推理功能,结合了RAG(检索增强
京东云开发者 京东云开发者
9个月前
利用大模型服务一线小哥的探索与实践
一、小哥作业大模型2022年OpenAI基于GPT推出了聊天机器人ChatGPT,带来了非常惊艳的语言理解、内容生成、知识推理等能力,能够准确理解人的语言、意图,并能够回答出清晰、完整的内容,让人很难分辨出沟通交流的是人类还是机器人。大模型会尝试基于已有
绿色算力从这片草原开始!
近日,2024中国绿色算力(人工智能)大会在呼和浩特开幕。大会以“共筑绿色算力网络,共赢人工智能未来”为主题,邀请院士专家、标杆企业齐聚敕勒川草原会议中心,共话绿色算力和人工智能发展。天翼云科技有限公司副总经理黄洪波参加大会主论坛,出席人工智能模型训练推理基地建设启动仪式。
京东云开发者 京东云开发者
7个月前
京粉智能推广助手-LLM based Agent在联盟广告中的应用与落地
一、前言拥有一个帮你躺着赚钱的助手,听起来是不是有点心动?依托于京东联盟广告平台,借助AIGC大语言模型出色的理解、推理、规划能力,我们推出了京粉智能推广助手机器人,帮助合作伙伴拥有自己的智能助理,为京东联盟的推客提供更加智能的一站式经营服务。1、京东联盟
京东云开发者 京东云开发者
2个月前
京东广告生成式召回基于 NVIDIA TensorRT-LLM 的推理加速实践
作者:京东零售陈航0000生成式推荐系统优势介绍推荐系统的主要任务是根据用户的历史行为预测其兴趣点,并向其推荐相应的商品。传统的推荐系统在处理用户请求时,会触发多个召回模块(包括热门商品召回、个性化召回、深度召回等),以召回大量候选商品。随后,系统通过相对
国产AI生态新突破!“息壤”+DeepSeek王炸组合来了!
近日,中国电信天翼云自主研发的“息壤”智算平台率先完成国产算力与DeepSeekR1/V3系列大模型的深度适配优化,成为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台。此次突破标志着国产AI生态建设迈入新阶段,为行业提供了性能卓越、安全可控的智能算力基座。
京东云开发者 京东云开发者
1个月前
有了DeepSeek等AI大模型,人人都能当医生吗?
作者:京东健康王付刚春节期间,DeepSeek的爆火无疑让大家对AI大模型有了全新的认识和体验。与其他大模型不同之处,DeepSeek不仅提供答案,还输出推理过程,这一功能引起了大家的震惊和担忧。在日常生活中,相信大家习惯于通过百度搜索、浏览小红书或者观看