[Tip] float 나누기연산에 대해..

Binceline 2016. 9. 8. 08:04
툴 제작하고 있는데 이런 문제가...


float형으로


1을 0.5로 나눈다고 치자.


근데 이게 가끔..


0.5가 아니라 


0.50000000001 


혹은 


0.49999999999


이런 식일 때가 있다.


이러면 1을 0.5로 나눈 것 같아도 정확히 2가 되지 않는다.


하지만 정확하게 2가 떨어지는 것을 원할 때가 있다.


이런 경우, C#인 경우 Math.Round 함수 같은 것으로 반올림을 이용하는 게 좋은 방법인 것 같다.


반응형