-
20 votesanswersviews
Python：二进制到十进制转换[重复]
可能重复：将二进制字符串转换为int 如何在Python中将此二进制值'101011111'转换为十进制形式？ 该函数将二进制数转换为十进制数 . 输入：字符串b：二进制数 输出：int d：b的十进制表示 def Binary_to_Decimal(b): #what needs to be filled in return d -
0 votesanswersviews
如果精度值小于刻度，则填充零
如果我除以1.0f / 2.0f，则值为0.5 . 我希望精度值为5（0.50000） . 使用BigDecimal将比例设置为5但仍然将值打印为0.5 BigDecimal val = new BigDecimal（1.0f / 2.0f）; BigDecimal tt = val.setScale（5）;的System.out.println（tt.doubleValue）; 如何设置比例... -
0 votesanswersviews
如何用二进制表示浮点数 . IEEE
与十进制二进制数字类似，也可以表示浮点数 . 现在我读到它可以有那种浮子 0.5 ： 0.1 ， 0.25 ： 0.01 ， 0.125 ： 0.001 ...等等 . 但是，例如，0.1（十进制）如何用二进制表示？ 另外，给定十进制浮点数，如何将其转换为十进制等效值（给定它不是那么简单） . 编辑：所以我理解更好的问题是;如何将十进制浮点数转换为二进制？现在我得到它，我们乘以小数部分，直到它变... -
1 votesanswersviews
二进制浮点数表示为十进制数
并非所有十进制数都可以使用二进制浮点数精确表示 . http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 有两个原因可能导致实数不能完全表示为浮点数 . 最常见的情况用十进制数0.1表示 . 虽然它具有有限的十进制表示，但在二进制中它具有无限重复表示 . 反过来呢？如果使用足够的数字，是否可以使用十进制数精确表示每个IEE... -
0 votesanswersviews
从大十进制数转换为浮点表示
我想我知道如何将十进制数转换为IEEE 754单精度浮点表示，但我想确定 . 我想在IEEE 754单精度浮点表示中表示3.398860921 x 10 ^ 18 . 我知道如何浮动代表 . 被打破了 . 第31位：符号（0表示，1表示 - ）30-23位数：表示指数22-0位数：表示尾数（有效数字） 所以标志显然是0，因为它是一个正数 . 对于指数，我想出了这个（通过为偏差添加18到127）并将... -
1 votesanswersviews
在所有可能的核心文件中进行了更改后，无法从Magento中的价格中删除十进制值
我读过很多关于“如何从Magento价格中删除十进制”的博客 . 但他们仍然没有为我的网站工作 . 我已经按照链接 - “How To Remove Decimal From Magento-1 Prices?”进行了更改，并在下面列出的一些文件中进行了更改，这些文件在解决方案链接中指示 - 1）在根文件夹“js / varien / js.js” 2）app / code / core / Ma... -
7 votesanswersviews
双精度到十进制，15位后没有舍入
将“高”精度Double转换为Decimal时，由于Rounding，我将使用Convert.ToDecimal或转换为（Decimal）而失去精度 . 示例： double d = -0.99999999999999956d; decimal result = Convert.ToDecimal(d); // Result = -1 decimal result = (Decimal)(d); ... -
2 votesanswersviews
将计算出的双精度数转换为十进制可以校正精度误差吗？
我正在开发一个计算ppm的应用程序并检查它是否大于某个阈值 . 我最近发现了浮点计算的精度误差 . double threshold = 1000.0; double Mass = 0.000814; double PartMass = 0.814; double IncorrectPPM = Mass/PartMass * 1000000; double CorrectedPPM = (doub... -
3 votesanswersviews
标志幅度用于表示负数吗？
我知道这两个补码用于表示负数，但也有使用符号幅度的方法 . 标志幅度是否仍用于表示负数？如果不是之前使用的地方呢？一台机器如何使用两个补码来解释负数，能够通信并理解另一台使用符号幅度的机器？ -
0 votesanswersviews
理解两个补语
因此，从我到目前为止的理解，0和1作为数字的加号或减号 . 如果我有一个二进制数10101（十进制数为21）的数字，这怎么转换为负数？它变成了10101 00001 = 10111吗？还是它被添加到前面？ 同样在尝试理解它的时候，如果你试图得到一个数字，比如九位二的补码怎么办？用9位写这个是000010101 21，然后在前面加一个？ 我来回走动但是我没理解 . -
0 votesanswersviews
将十进制转换为二进制补码十六进制
我试图弄清楚如何将十进制转换为二进制补码十六进制 . 我完全理解如何取一个小数并找到它的两个补码（对于正值和负值） . 我也完全理解十六进制如何用于无符号整数 . 但是，我不确定二进制补码规则如何与十六进制一起使用 . 是否有使用十六进制的二进制补码的过程？ 或者是这个过程：将十进制转换为二的补码二进制，然后将其转换为十六进制 . 这是我唯一需要做的事情吗？或者是否有一个更复杂的公式，用于找到给出... -
0 votesanswersviews
将十进制转换为二进制补码
Instructions: 如果可能，将这些十进制数转换为5位二进制补码形式 . 如果不可能，解释为什么会这样 . （16）基地10 根据在线转换器： 据我所知， 如果小数是正数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 如果小数为负数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 步骤3：反转位以实现1... -
551 votesanswersviews
如何将十进制值舍入到2个小数位（对于页面上的输出）
当使用 .ToString() 显示当前小数的值时，'s accurate to like 15 decimal places, and since I' m使用它来表示美元和美分，我只希望输出为2位小数 . 我是否使用 .ToString() 的变体？ -
1 votesanswersviews
使用加法器电路添加两个4位二进制数
我需要编写一个程序，使用加法器电路添加两个4位二进制数字，为我们提供答案 . 我需要使用int（）函数将其从二进制转换为十进制（两个值都需要显示） . 我正在努力创建一个创建正确的二进制和十进制输出的代码 . 我们输入两组四位数字 . 数字应该通过电路，结果应该加在一起 . 现在大门都很好 . 但是，我无法正确地将数字加在一起 . 通过电路的二进制加法是不正确的 . 转换器和输入都是正确的 . 用... -
-4 votesanswersviews
Java中的2个小数位，上周开始在课堂上做Java
开始在学校学习Java课程，并获得额外的学分，并需要帮助找出如何只有2位小数 . 感谢您的帮助 . 克里斯托弗 import java.util.Scanner; public class ChapterTwoEx8 {public static void main（String [] args）{ //Create a Scanner object to read keyboard input.... -
0 votesanswersviews
在Excel VBA中从十六进制转换为十进制时忽略空单元格
我是VBA的新手并且有一点疑问 . 我试图将特定单元格中的某些值从十六进制转换为十进制，我有一个小难度 . 在那个细胞中有很多空白细胞 . 例如前5行是空白然后我再次有一个十六进制值3个空白行和一个十六进制值 . 由于空白单元格，我无法循环 . 请有人帮忙 . 以下是我写的代码 . Sub Conversion() Dim j As Integer Dim LR As Integer LR =... -
8 votesanswersviews
Highcharts饼图忽略百分比十进制工具提示设置并且存在浮点不准确问题
在饼图上显示工具提示时，Highcharts 3.0似乎有浮点数精度问题 . 我能够通过使用一个highcharts演示饼图--Pie with Legend来重新创建确切的错误 . 单击"Edit in JsFiddle"编辑javascript . 在javascript面板中，查找系列和数据部分 . 保留Firefox和IE数据并丢弃其余数据，这样我们就可以专注于2片馅饼... -
5 votesanswersviews
Excel十进制舍入？
如何对excel中的数字进行舍入，例如通过格式化它以使实际数字更改而不仅仅是它在单元格中的外观 . 例如，如果我在一个单元格中有229.729599999998并且我将单元格格式化为仅显示4位小数，它现在将在单元格中显示229.7296但单元格的值仍然是229.729599999998所以如果我要进行任何计算，excel将使用较长的十进制数与4位十进制数相对 . 有没有办法我可以这样做，以便不仅单... -
1 votesanswersviews
格式十进制9999,99
是否有格式字符串将小数格式化为000000000,00 . 所以前9位数，如果需要，右边用零填充;逗号作为分数分隔符和两个小数位 . 0 => 00000000,00 12 => 00000012,00 987456,456 => 000987456,46 所以类似myDecimal.ToString（“D9”）和.ToString（“F2”） -
1 votesanswersviews
格式化十进制数
我正在格式化十进制数，我有以下标准来格式化它： 数字最多应为小数点后两位（10.1234 => 10.12） 如果小数点后只有一位数，那么最终会得到一个额外的0（10.5 => 10.50） 千位分隔符将是逗号（12345.2345 => 12,345.23） 我写了以下逻辑： double x = Double.parseDouble(value.toStrin... -
3 votesanswersviews
使用异常规则格式化十进制值
在给定以下规则的情况下，将十进制值转换为字符串的优雅方法是什么？ 显示小数点前的所有数字 . 不变地显示逗号代替小数点 . 如果小数点后的部分非零，则仅显示有效数字，但最少为2 . 例子： decimal string ------------ ---------- 500000 500000, 500000.9 500000,90 50000... -
0 votesanswersviews
十进制到二进制转换器无法正常工作
我写了一个十进制到二进制转换器，我遇到了一些麻烦 . 它适用于所有小数<16的数字，但对于任何需要二进制长度大于4的数字，它似乎变得混乱，我不知道为什么 . 在运行代码时，无论输入如何，字符串二进制文件的长度始终为3，尽管我声明char数组二进制文件具有大小计数，这正确地显示了表示十进制数所需的二进制数的长度 我必须忽略一些非常基本的东西，但对于我的生活，我看不出它是什么 . 任何帮助，将不... -
2008 votesanswersviews
舍入到最多2位小数（仅在必要时）
我想最多舍入2位小数，但只在必要时 . 输入： 10 1.7777777 9.1 输出： 10 1.78 9.1 我怎么能在 JavaScript 这样做？ -
787 votesanswersviews
十进制vs双！ - 我应该使用哪一个？何时使用？ [重复]
这个问题在这里已有答案： When should I use double instead of decimal? 12个答案 我一直看到人们在C＃中使用双打 . 我知道我读到某个地方，双打有时会失去精确度 . 我的问题是什么时候应该使用双倍，何时应该使用小数类型？哪种类型适合货币计算？ （即超过1亿美元） -
0 votesanswersviews
Mifare，数学挑战
我有两种类型的RFID阅读器在工作 . 一个用于访问控制，壁挂式LCD显示器连接到服务器，一个USB WaveID，pcProx读卡器 . 当我在我的手机中读取带有USB读卡器或NFC读卡器的mifare卡1K时，我得到： HEX: 08 E5 2A 46 (reversed) DEC: 149236294 但是，当我在壁挂式读卡器中读取相同的卡时，我得到： HEX: 42 6C 87 A3 ... -
4 votesanswersviews
在C中将双精度转换为固定小数点
我在C中有一个双变量，并希望将其作为固定的小数点数打印到屏幕上 . 基本上我想知道如何编写一个带有一个小数位和一些小数位的函数，并将数字打印到该小数位数，必要时填充零 . 例如： convert(1.235, 2) 会打印出来的 1.24 和 convert(1, 3) 会打印出来的 1.000 所以这个功能就像 convert(number as double, number of de... -
243 votesanswersviews
我什么时候应该使用double而不是decimal？
我可以说使用 double （或 float ）而不是 decimal 有三个好处： 使用较少的内存 . 更快，因为处理器本身支持浮点数学运算 . 可以代表更大范围的数字 . 但这些优势似乎只适用于计算密集型操作，例如建模软件中的操作 . 当然，在需要精确度时，不应使用双精度数，例如财务计算 . 那么在"normal"应用程序中选择 double （或 floa... -
0 votesanswersviews
将十进制转换为单精度IEEE 754
(-128.4875) base 10 to Single-Precision IEEE 754 将（128.4875）基数10转换为BINARY为： 1000 0000 . 0111 1100 1100 1100 1100... 二进制文件的科学记录是： 1 . 0000 0000 1111 1001 1001 1001... x 2^7 SIGN BIT是： 1 （1位） MANTISSA是 ... -
183 votesanswersviews
使用JavaScript获取数字的小数部分
我有像 3.2 和 1.6 这样的浮动数字 . 我需要将数字分成整数和小数部分 . 例如， 3.2 的值将分为两个数字，即 3 和 0.2 获取整数部分很简单： n = Math.floor(n); 但是我无法获得小数部分 . 我试过这个： remainer = n % 2; //obtem a parte decimal do rating 但它并不总是正常工作 . 前面的代码具有以下输出：... -
114 votesanswersviews
Android - 小数点后2位[重复]
可能重复：将小数点后的两位有效数字舍入为2 我知道有很多关于如何围绕这种数字的例子 . 但有人可以告诉我如何圆形加倍，以获得我可以显示为字符串的值，并且总是有2位小数？