全站数据
8 4 2 0 5 8 1

什么叫做浮点运算

工程游侠 | 简单学习,快乐成才!         
问题更新日期:2024-10-11 14:45:57

问题描述

什么叫做浮点运算求高手给解答
精选答案
最佳答案

就是无理数运算,无理数就是一个小数点后面没完没了的数字,比如3分之1化为小数后就是无理数,浮点运算存在一个精确度问题,我们说CPU性能的时候,就有双精度浮点和单精度浮点,浮点运算性能越高意味着运算精度越高,数字的运算本质上就分两个,整数运算和分数运算,分数运算就可理解为浮点运算(这个分数是指,化为小数后是无理数的分数)