美文网首页
浮点数定点数

浮点数定点数

作者: 清水芦苇 | 来源:发表于2017-08-28 18:59 被阅读114次

基础知识

浮点数和定点数都是对于存在小数部分的数字一种表示方法

浮点数和定点数表示法的区别?
根据国际标准IEEE 754,任意一个二进制浮点数V可以表示成下面的形式:

浮点数表示法

  (1)(-1)^s表示符号位,当s=0,V为正数;当s=1,V为负数。
  (2)M表示有效数字,大于等于1,小于2。
  (3)2^E表示指数位。

定点数需要事先定下小数点的位置,固定的小数点位置决定了固定位数的整数部分和小数部分。定点数表示法的缺点就来自于固定的小数点位置决定了固定位数的整数部分和小数部分这个特点,因为不利于同时表达特别大的数或者特别小的数,只能在某个对称的范围里的一部分数字。比如一个8位定点数,顶多能表示 -28 至 28范围内的数字,如果用这个体系就不能表示29这个数字了。

fixed point arithmetic is much faster than floating point arithmetic

双精度浮点数和单精度浮点数的区别?
表示范围不一样,一个是32位,一个是64位,尾数,有效数字的规定都不一样。

计算机中的计算为什么会存在误差

http://floating-point-gui.de/basic/

参考文献

fixed point notation
What Every Computer Scientist Should Know About Floating-Point Arithmetic
Introduction to Fixed Point Number Representation
https://stackoverflow.com/questions/45829846/lack-of-precision-of-the-tofixed-method-in-javascript

相关文章

  • SQL数据类型

    一、整数类型、浮点数类型和定点数类型 1、整数类型 2、浮点数类型和定点数类型 M表示:数据的总长度(不包括小数点...

  • 浮点数定点数

    基础知识 浮点数和定点数都是对于存在小数部分的数字一种表示方法 浮点数和定点数表示法的区别?根据国际标准IEEE ...

  • 定点数和浮点数

    在计算机中的数据有定点数和浮点数两种表示方式。 1.定点数 小数点固定在某个位置上的数据 2.浮点数 小数点位置可...

  • 「组成原理」运算方法和运算器-1

    本章主要讲解如何用定点数进行四则运算和如何用浮点数进行加减法,同时会对定点数的四则运算进行实例化。 目录: 定点数...

  • mysql基础数据类型118-124

    #常见的数据类型 /* 数值型: 整形 小数: 定点数 浮点数 字符型: 较短的文本:...

  • 智能合约编程/Dapp漏洞 -- 浮点数精度Floating P

    到Solidity v0.4.24为止,Solidity并不支持定点数和浮点数。这意味着浮点数的表示必须要用Sol...

  • 第一张出题 1

    下列关于浮点数与定点小数的利与弊说法错误的是__ A.浮点数表示数的范围比定点数表示数的范围小 .B.浮点数表示数...

  • Q格式(Q domain)-用整数运算小数

    定义 由于成本与功耗受限的原因,对于DSP处理器,遇到浮点数无法处理,所以需要利用定点数进行浮点数的运算,而DSP...

  • 常见的数据类型

    数值型: 整型 小数: 定点数 浮点数 字符型: 较短的文本:char、varchar 较长的文本:text、bl...

  • 简易讲解定点数与浮点数

    简易讲解定点数与浮点数 1. 定点数:由程序设计者约定,该程序中所有数的小数点固定在同一位置不变。 例: 我们约定...

网友评论

      本文标题:浮点数定点数

      本文链接:https://www.haomeiwen.com/subject/ipzrdxtx.html