Диапазоны вычислений, количество знаков и точность, Диапазон вычисления и точность, Диапазоны ввода и точность вычисления функций – Инструкция по эксплуатации Casio fx-570ES PLUS

Страница 43: R-42

Advertising
background image

R-42

17: pc

' km

18: km

' pc

19: km/h

' m/s

20: m/s

' km/h

21: oz

' g

22: g

' oz

23: lb

' kg

24: kg

' lb

25: atm

' Pa

26: Pa

' atm

27: mmHg

' Pa 28: Pa ' mmHg

29: hp

' kW

30: kW

' hp

31: kgf/cm

2

' Pa 32: Pa ' kgf/cm

2

33: kgf

m

' J

34: J

' kgf

m

35: lbf/in

2

' kPa 36: kPa ' lbf/in

2

37: °F

' °C

38: °C

' °F

39: J

' cal

40: cal

' J

Формулы перевода основаны на «Национальный институт по
стандартизации и технологии (NIST), специальное издание 811
(1995)».
Примечание: Данные перевода J

'cal приведены при температуре

15°С.

Диапазоны вычислений, количество
знаков и точность

Диапазон выражения, количество цифр, используемых для внутренних
вычислений и точность вычисления зависят от типа выполняемого
расчета.

Диапазон вычисления и точность

Диапазон вычисления

± 1 × 10

–99

до

± 9,999999999 × 10

99

или 0

Количество цифр для
внутреннего вычисления

15 цифр

Точность

В общем

± 1 на 10 разрядов при

отдельном вычислении. Точность
экспоненциального отображения равна

± 1 на наименьший значащий разряд. В
случае последовательных вычислений
ошибки накапливаются.

Диапазоны ввода и точность вычисления
функций

Функции

Диапазон ввода

sin

x

DEG 0

 |

x

|  9 × 10

9

RAD 0

 |

x

|  157079632,7

GRA 0

 |

x

|  1 × 10

10

cos

x

DEG 0

 |

x

|  9 × 10

9

RAD 0

 |

x

|  157079632,7

GRA 0

 |

x

|  1 × 10

10

tan

x

DEG Как и для sin

x

, кроме когда

|

x

| = (2

n

–1)

× 90.

RAD Как и для sin

x

, кроме когда

|

x

| = (2

n

–1)

× π /2.

GRA Как и для sin

x

, кроме когда

|

x

| = (2

n

–1)

× 100.

sin

–1

x

0

 |

x

|  1

cos

–1

x

tan

–1

x

0

 |

x

|  9,999999999 Ч 10

99

Advertising
Эта инструкция подходит к следующим моделям: