pythonDecimal解决计算问题
pythonDecimal解决计算问题
1、当python中的浮点类型计算出现不准确结果时,Decimal用于纠正。经验证,Decimal不直接处理浮点类型数据,而是将浮点类型数据转换成字符串数据。
2、如果使用金额或要求特别准确,可以使用decimal。
实例
fromdecimalimport*
getcontext().prec=6
Decimal(1)/Decimal(7)
#结果为Decimal('0.142857'),六个有效数字
以上就是pythonDecimal解决计算问题,希望对大家有所帮助。更多Python学习教程请关注IT培训机构:千锋教育。
相关推荐HOT
更多>>python代码中编译是什么
python代码中编译是什么说明1、在执行Python代码时,在Python解释器用四个过程“拆解”我们的代码,最终被CPU执行返回给用户。2、当用户键入代...详情>>
2023-11-10 22:50:25pythonconfusion_matrix()是什么
pythonconfusion_matrix()是什么说明1、计算分类器预测结果的混淆矩阵C。2、混淆矩阵C使得C_ij等于已知在第i组中并且预计在第j组中的观测次数。...详情>>
2023-11-10 20:26:14pythonos.system执行cmd指令
pythonos.system执行cmd指令1、执行cmd指令,在cmd输出的内容会直接在控制台输出,返回结果为0表示执行成功。2、在调用完shell脚本后,返回一个...详情>>
2023-11-10 19:52:30pythonTKinter的绑定方法
python中TKinter的绑定方法1、bind_all全局绑定,默认是全局快捷键,比如F1是帮助文档。2、bind_class接受三个参数,第一个是类名,第二个是事...详情>>
2023-11-10 18:47:02