推荐
专栏
教程
课程
飞鹅
本次共找到2003条
数值计算
相关的信息
Wesley13
•
3年前
java浮点型精度丢失浅析
java浮点型数值在运算中会出现精度损失的情况,在业务要求比较高比如交易等场景,一般使用BigDecimal来解决精度丢失的情况。最近一个同事在使用BigDecimal时仍然出现了精度损失,简略记录一下测试用例代码如下@Testpublicvoidfd(){doubleabc
Wesley13
•
3年前
AI
张量(Tensor)在Tensorflow中,变量统一称作张量(Tensor)。张量(Tensor)是任意维度的数组。0阶张量:纯量或标量(scalar),也就是一个数值,例如,\\'Howdy\\'或51阶张量:向量(vector)或矢量,也就是一维数组(一组有序排列的数),例如
Wesley13
•
3年前
JS中的按位非(~)的使用技巧
按位非按位非操作符由一个波浪线(~)表示,执行按位非的结果就是返回数值的反码现在让我来看几个例子例子1console.log(4);console.log(~4);console.log(~~4);!(https://oscimg.oschina.net/oscnet/6d8dbec0d4685dd
Stella981
•
3年前
Protobuf 语法指南
一、定义一个消息类型 1.1指定字段类型 1.2分配标识号 1.3指定字段规则 1.4添加更多消息类型 1.6从.proto文件生成了什么? 1.7标量数值类型 1.8Optional的字段和默认值 1.9枚举二、使用其他消息类型
Stella981
•
3年前
Linux bash脚本编程学习基础,控制结构
以下为学习整理笔记break命令1.控制条件未满足之前,跳出for、while、until、select循环2.可以额外给出一个额外的数值表明需要跳出的循环层数(不建议这样做,降低程序的可读性)3.默认跳出一层循环continue命令类似c语言中的同名语
京东云开发者
•
1年前
spark为什么比mapreduce快?
spark为什么比mapreduce快?首先澄清几个误区:1:两者都是基于内存计算的,任何计算框架都肯定是基于内存的,所以网上说的spark是基于内存计算所以快,显然是错误的2;DAG计算模型减少的是磁盘I/O次数(相比于mapreduce计算模型而言),
京东云开发者
•
9个月前
spark为什么比mapreduce快?
spark为什么比mapreduce快?首先澄清几个误区:1:两者都是基于内存计算的,任何计算框架都肯定是基于内存的,所以网上说的spark是基于内存计算所以快,显然是错误的2;DAG计算模型减少的是磁盘I/O次数(相比于mapreduce计算模型而言),
1
•••
14
15
16
•••
201