팁
[Tip] float 나누기연산에 대해..
Binceline
2016. 9. 8. 08:04
툴 제작하고 있는데 이런 문제가...
float형으로
1을 0.5로 나눈다고 치자.
근데 이게 가끔..
0.5가 아니라
0.50000000001
혹은
0.49999999999
이런 식일 때가 있다.
이러면 1을 0.5로 나눈 것 같아도 정확히 2가 되지 않는다.
하지만 정확하게 2가 떨어지는 것을 원할 때가 있다.
이런 경우, C#인 경우 Math.Round 함수 같은 것으로 반올림을 이용하는 게 좋은 방법인 것 같다.
반응형