推荐
专栏
教程
课程
飞鹅
本次共找到1967条
数值计算
相关的信息
十月飞翔
•
2年前
bug严重等级划分参考标准
P1(紧急)系统容易崩溃;功能设计与需求严重不符;内存泄漏;严重的数值计算错误;系统无法登陆;循环报错,无法正常退出。对系统核心部件功能使用有重大影响,导致无法正常工作。P2(严重)通常表现为:影响系统功能或操作,主要功能存在严重缺陷,但不会影响到系统稳定性。比如:1.功能未实现;2.功能存在报错;3.数值轻微的计算错误。P3(一般)通常表现为:界面、性能
似梦清欢
•
1年前
数据机器级表示
计算机中存储有符号数的时候是按照补码的形式存进去的。原码是数字的二进制表示,补码是原码取反1。正数的原反补相同。原码:最高位表示符号位,其余位表示数值位的编码称为原码。正数的符号位为0,负数的符号位为1。负数的反码:原码的符号位保持不变,数值位逐位取反,
Easter79
•
3年前
TensorFlow核心概念和原理介绍
关于TensorFlowTensorFlow是一个采用数据流图(dataflowgraphs),用于数值计算的开源软件库。节点(Nodes)在图中表示数学操作,图中的线(edges)则表示在节点间相互联系的多维数据数组,即张量(tensor)。它灵活的架构让你可以在多种平台上展开计算,例如台式计算机中的一个或多个CPU(或GPU),
Wesley13
•
3年前
Java BigDecimal使用
1.引言 float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而,它们没有提供完全精确的结果,所以不应该被用于要求精确结果的场合。但是,商业计算往往要求结果精确,这时候BigDecimal就派上大用场啦。测试用例:publi
Wesley13
•
3年前
oracle数值类型
Oracle固有数据类型DATE、TIMESTAMP和INTERVAL是紧密相关的。DATE和TIMESTAMP类型存储精度可变的固定日期/时间。INTERVAL类型可以很容易地存储一个时间量,如“8个小时”或“30天”。许多新应用都在使用TIMESTAMP类型,这有两个原因:一方面它支持小数秒,而DATE类型不支持;另一方面TIMESTAMP
Stella981
•
3年前
Spark学习之路 (十七)Spark分区
一、分区的概念 分区是RDD内部并行计算的一个计算单元,RDD的数据集在逻辑上被划分为多个分片,每一个分片称为分区,分区的格式决定了并行计算的粒度,而每个分区的数值计算都是在一个任务中进行的,因此任务的个数,也是由RDD(准确来说是作业最后一个RDD)的分区数决定。二、为什么要进行分区 数据分区,在分布式
Wesley13
•
3年前
.net IL 指令速查
名称说明Add将两个值相加并将结果推送到计算堆栈上。Add.Ovf将两个整数相加,执行溢出检查,并且将结果推送到计算堆栈上。Add.Ovf.Un将两个无符号整数值相加,执行溢出检查,并且将结果推送到计算堆栈上。And计算两个值的按位“与”并将结果推送到计算堆栈上。Arglist返回指向当前方法的参数列表的非托管指针
阮小五
•
1年前
解锁Mac上自带的计算机的隐藏功能
不要小看macOs的计算器App——只要点按几下,你就能发现它简洁外表下潜藏着的强大功能。轻松转换想在人民币与美元、公里与英里之间转换?只要输入一个数值,再在“转换”菜单中选择单位类别(面积、长度、速度、温度等)即可。科学计算《计算器》的默认界面只显示基本
流浪剑客
•
1年前
Macos商业数学软件:MATLAB R2023a for Mac中文版激活 支持M1
是一款由MathWorks公司开发的高级计算机编程环境和开发工具,被广泛应用于科学研究、工程设计、数据分析和教育等领域。它提供了强大的数学计算功能,支持矩阵运算、数值积分、微分方程求解等,并且支持符号计算,可以进行符号代数操作和解析等运算。MATLABR2
子桓
•
1年前
Mathematica 13 Mac中文版:Mac电脑功能广泛的科学计算软件
WolframMathematica13是一款数学计算和数据分析软件。它提供了丰富的内置函数和算法库,支持符号计算、数值计算、数据可视化等功能。新版Mathematica13更加强调人工智能和机器学习方面的应用,新增了深度学习框架DistBelief,支持
1
2
3
•••
197