搜索结果
查询Tags标签： 浮点数，共有 344条记录-
Java中的金钱陷阱
前言 有多少小伙伴是被标题 骗 吸引进来的呢，我可不是标题党，今天的文章呢确实跟”金钱“有关系。 但是我们说的不是过度追求金钱而掉入陷阱，而是要说一说在Java程序中，各种跟金钱运算有关的陷阱。 日常工作中我们经常会涉及到各种金额这样浮点数的运算。 一旦涉及到金…
2023/6/7 1:22:17 人评论 次浏览 -
IEEE754 浮点数
5.75 1.将十进制数转换成二进制数 整数部分 5/2=2...1 2/2=1...0 1/2=0...1 小数部分 0.752=1.5...1 0.52=1...1 0*2=0...0 5.75=101.1100000 2.移动小数点到第1、2位之间，得e的值 101.1100000=1.011100000*2^2 e=2 3.求出S、E、M的值 S=0 E=2+127=129=10000001 M=01110…
2022/9/17 23:16:14 人评论 次浏览 -
PHP 判断字符串是否为整数、数字、不含小数点
PHP 用正则表达式判断字符串是否为整数，若字符串未定义、未赋值、或者带有小数点验证均会提示不是整数 $Number="1"; if(preg_match("/^-?\d+$/",$Number)) //包括正整数和负整数{ echo("是整数"); }else{ echo("不是整数")…
2022/9/16 1:17:15 人评论 次浏览 -
Java拓展
Java拓展 整数拓展 进制： 二进制0b 十进制 八进制0 十六进制0x 浮点数拓展 folat 是有限的，离散的，舍入误差的，大约的，接近但不等于de **最好完全使用浮点数进行比较 ** 少用浮点数比较 BigDecimal：数学工具类 银行业务用这个类 字符拓展 所有的字符…
2022/9/15 1:18:38 人评论 次浏览 -
Java中的源码，反码和补码
一、在Java中所有数据都是以补码的形式表示的，原码即数字的二进制表示加符号位，反码即将原码按位取反，补码简单来说即反码加1 二、Java中数据的表示方式1.正数：正数的原码、补码、反码都相同，正数的符号位为0；2.负数：负数的符号位为1，其余各位使用补码表示3.使用补…
2022/9/13 1:24:42 人评论 次浏览 -
L04. number类型
一. number类型1. Lua5.3 版本开始， Lua 语言为数值格式提供了两种选择 :integer( 整型 )和float(双精度浮点型 )[float不代表单精度类型 ] 2. 默认当成双精度浮点类型来运算的。也就是说number会底层当做double类型来处理，精度是16~17位3. 十进制① 十进制表示方式--十…
2022/9/10 23:23:14 人评论 次浏览 -
3 基本数据类型
一，数字类型 整数类型，浮点数类型，复数类型 1.整数类型有四种进制表示：十进制，二进制，八进制，十六进制 2.浮点数类型 有两种表示方法：十进制形式的一般表示和科学计数法表示。 3.复数类型：叙述部分通过‘J’或‘j’来表示，注意当b=1（a+bj），1不能省略，即1j表…
2022/9/5 23:54:03 人评论 次浏览 -
Day05写代码浮点类转义字符
public class Day03 {public static void main(String[] args) {//整数拓展： 进制 二进制0b 十进制 八进制0 十六进制0xint i = 10;int i2 = 010;//八进制0int i3 = 0x10;//十六进制0x 0~9 A~F 16System.out.println(i);System.out.println(i2);System.out.println(i3…
2022/9/3 23:24:57 人评论 次浏览 -
13 | JAVA大浮点数BigDecimal
BigDecimal 大浮点数 和BigInteger类似，BigDecimal可以表示一个任意大小且精度完全准确的浮点数。multiply() 相乘BigDecimal bd = new BigDecimal("123.4567"); System.out.println(bd.multiply(bd)); // 15241.55677489scale() 得到小数位数BigDecimal d1 = …
2022/9/3 1:26:06 人评论 次浏览 -
Java正确比较浮点数的方法
https://www.jb51.net/article/199220.htm看下面这段代码，将 d1 和 d2 两个浮点数进行比较，输出的结果会是什么？1 2 3double d1 = .1 * 3; double d2 = .3; System.out.println(d1 == d2);按照正常逻辑来看，d1经过计算之后的结果应该是0.3，最后打印的结果应该是 true…
2022/8/31 1:24:05 人评论 次浏览 -
Qt 浮点数比较
计算机表示浮点数都有一个精度的限制，由于精度的限制会发生部分的截断，使得原本不相等的浮点数就变成了相等假设 float x = 3.144444445, y = 3.144444448 从数学角度上看，x 和 y 是不相等的，但在 32 位计算机中它们是相等的所以我们编程中最好不要直接使用 == 或 != …
2022/8/30 23:22:56 人评论 次浏览 -
java前前期复习
1配置环境：a去官网或者下载之家下载jdk8 安装b配置环境变量 首先JAVA_HOME 然后进入path增加%JAVA_HOME%\bin和%JAVA_HOME%\bin\jrec下载idea 2注释：单行注释 // 多行注释 /**/ javadoc文档注释/**加空格 3byte -128-127short -32768-32767int -2147483648 -2147483…
2022/8/27 14:23:07 人评论 次浏览 -
【Perl小抄】列表和数组
标量 Perl中没有整数类型，只有浮点数类型，整数类型也视为浮点数类型 字符串：转义字符 含义\\ 反斜线\" 双引号字符串操作符号 可以使用.进行连接 小写字母x, 相当于让单词重复 如果是这样写5x4.8, it will be 5x4 如果右边的数小于1，则会输出空字符串 数字和字符…
2022/8/24 1:24:19 人评论 次浏览 -
java基础要点
java基础1.标识符和关键字标识符开头只能是大小写英文字母$和下划线不能用关键字作为变量名和方法名标识符严格区分大小写2.Java的数据类型Java是强类型语言Java的数据分为基本数据类型和引用数据类型基本数据类型有byte short int long float double boolean char（…
2022/8/23 14:24:05 人评论 次浏览 -
Java基础预习
一、整数拓展二进制数用0b开头十进制数（不多说）八进制数用0开头十六进制用0x开头 public class Demo03 { public static void main(String[] args) { //整数拓展 二进制0b 十进制 八进制0 十六进制0x int i = 10; int i2 = …
2022/8/16 14:52:55 人评论 次浏览
