4차시 - 오차해석(1)

1. 진법

1) 수와 진법의 표기법

수의 표기법

• 수를 나타내는 방법에는 명수법과 기수법이 있음
• 명수법은 하나, 둘, 셋... 과 같이 수를 말로 나타내는 것
• 기수법은 1, 2, 3, ... 과 같이 수를 기호로 나타내는 것

 

 

기수법

• 기수법에는 10진법을 비롯하여 2진법, 5진법, 12진법, 60진법 등이 있음
• 오늘날 일반적으로 사용하고 있는 진법은 10개의 숫자를 사용하는 10진법

 

 

진법 변환

 

 

 

 

2. 수의 표시법

1) 수의 표시법

• 컴퓨터의 기억장치나 연산장치는 양(+), 음(-)(또는 0과 1)만을 구별할 수 있는 비트들로 구성되어 있음.
• 따라서 컴퓨터에서는 우리가 사용하는 10진법보다 2진법을 많이 사용
• 컴퓨터에서 수를 표현할 때는 고정소수점 표시법이나 부동소수점 표시법을 사용함.
• 정수에서는 주로 고정소수점, 실수에서는 주로 부동소수점 표시법을 사용함.

 

 

고정소수점 표시

• 소수점을 항상 일정한 위치에 놓는 표시법
• 일반적으로는 소수점의 위치를 그 수의 제일 오른쪽에 있다고 가정하여 정수계산에서만 사용
• 실수계산에서도 사용할 수 있으나 프로그램할 때 소수점 위치에 상당히 신경써야 하므로 잘 사용하지 않음.

 

 

부동소수점 표시

• 소수점의 위치를 일정하게 하지 않고 따로 지시해주는 표시법
• 실수계산에서는 주로 이 방법을 사용함.
• 32비트를 한 단어로 사용하는 컴퓨터의 경우에는 0비트는 부호, 1~7비트는 지수, 8~31비트는 가수 부분을 나타냄.

 

 

2) 정규형태

• 컴퓨터에서 실수를 기억시킬 때는 가수부의 제일 높은 자리에 0 이외의 유효숫자가 올 때까지 지수값을 변환시켜 기억함.
• 이렇게 표시된 수를 정규형태라 함.
• 컴퓨터에서는 모든 숫자를 반드시 정규형태로 변화시켜 처리
• 모든 실수는 7비트와 8비트 사이에 소수점이 있는 것으로 간주하여 지수값을 변환시켜 기억

 

 

단정도 표현

• 32비트를 한 단어로 사용
• 가수부에 7자리 정도의 10진수를 기억시킴.

 

 

배정도 표현

• 64비트를 한 단어로 사용
• 가수부에 16자리 정도의 10진수를 기억시킴.

 

 

 

3. 전환오차

1) 전환오차

• 컴퓨터에서 프로그래밍 할 때, 실수를 입력한 다음 그 결과를 축력 했을 때, 값이 바뀌는 경우가 있음.
  - 예) (단정도 표현) 0.23456789 → 0.23456790
• 입출력 과정에서 생기는 오차