본문 바로가기
개발공부/CS 스터디

Computer Science 스터디_1주차_실수를 표현하는 방법(3)

by 또깽판 2022. 1. 19.
  • 실수를 표현하는 방법 
    2진 소수점을 표현하는 방법

  • 고정소수점 표현법 (p 68 표 확인하기)
    2비트는 10진수의 소수점의 오른쪽에 있는 숫자와 비슷하게 분수를 표현 
    다만, 1/10,1/100 등 거듭제곱을 분모로 사용하는 10진 소수와 달리 1/2, 1/4 등 2의 거듭제곱을 분모로 사용 

    but, 실수값으로 표현하기엔 비트개수가 너무 많기 때문에 범용 컴퓨터에서는 이런방식을 사용하는 경우가 드물다 
  • 부동소수점 표현법 (p70 표 확인하기)
    상수부터 아보가드로 수 이르는 범위의 값을 2진수로 표현하는 문제를 해결하기 위해 나온 표현법 ( = 큰수의 범위를 2진수로 표현하기 위한 방법)

    가수: 소수점 왼쪽이 한 자리뿐인 소수 
    지수: 가수에 거듭제곱한 값을 곱하는 방신 

    ex ) 과학법표기법 : 0.0012
          10진법표기법 : 1.2*10^-3

  • IEEE부동소수점 수 표준 
    낭비되는 비트 조합을 최소화하고 반올림을 쉽게 하기 위한 여러가지 트릭이 사용되는데 , IEEE 754라는 표준은 이 모든 기능을 정희 

    예시, 똑같은 비트를 사용하더라도 정밀도를 높이기 위하 사용한 트릭 "정규화"
    - 정규화는 가수를 조정해서 맨 앞에 0을 없게 만드는 트릭
    - 이런 가수를 조정하려면 지수를 조정해야하는데 여기서 나온 트릭은 "디지털 이큅먼트"
      ㄴ 가수 맨 왼쪽비트가 1이라는 사실을 알고 있으므로 이 부분을 생략하며 가수에 1비트를 더 사용 할 수 있도록 하는 트릭
     

     

댓글