W4-3-3 浮点运算精度举例

Loading...
From the course by Nanjing University
计算机系统基础(一) :程序的表示、转换与链接
33 ratings
Nanjing University

计算机系统基础(一) :程序的表示、转换与链接

33 ratings
From the lesson
WEEK4
基于运算电路基础,介绍高级语言中的整数乘除运算与底层实现之间的关系;然后介绍浮点数的运算,特别是浮点运算中的精度问题。

Meet the Instructors

  • 袁春风
    袁春风
    教授
    计算机科学与技术系