기타/Python
-
FLOAT vs DECIMAL기타/Python 2024. 11. 6. 22:06
1. 들어가면서입사후 며칠안되었을때, 수치 데이터를 다뤄야 하는 미션이 있었는데 그때 정리한 글을 올려본다. 2. FLOAT (부동소수점)부동소수점 연산: 소수를 근사치로 표현하며, 상대적인 정확성을 가진다.( 즉 정확하지 않다 )메모리 효율성: 데이터 저장 시 메모리 사용량이 적다.성능: 연산 속도가 빠르며, 대규모 데이터 처리에 유리하다.( 하드웨어 레벨에서 부동 소수점만 연산하기 위한 FPU가 있다..) 2. DECIMAL (고정소수점)고정소수점 연산: 정확하게 소수를 표현하며, 정확성을 가진다메모리 사용량: 더 많은 메모리를 사용하여 정확성을 보장한다.성능: 부동소수점에 비해 연산속도가 느리다.3. 이런 현상이 벌어지는 이유2진법으로 소수를 정확하게 표현할 수 없기때문이다.예를들어 0.1을 이진법..