淘客熙熙

主题:【原创】 测试的故事 - 黑猩猩测试法、丢了几百万、布什先生很安全 -- 山而王

共:💬22 🌺54
全看分页树展 · 主题 跟帖
家园 要么说是瞎猜呢(兼回楼主)

科学计数法说到底还是看有效数字。在32位机上,双精度数有17位有效数字。

我说的程序其实包含三部分:

。后台系统(即数据库)

。前台程序

。前后台交换数据的部分(包含数字和字符串的转换--假设用了SQL)

因为明确提到了13位(而不是十几位),如果不是只作用于1000-9999之间的数字(假设是股价),那么最后一部分(交换数据)出错的可能最大--我觉得就是那个数字和字符串的转换有可能是4位(小数点前)加13位。

我也不了解前台是什么语言编的,后台是何类型的数据库,还有系统如何,所以是瞎猜

另外,小数点后13位,已经是十万亿级的了,还能做手脚,这帮搞金融的人脑子不知是咋长的--要是俺编那个程序,估计也就是用双精度数

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河