Intervalos, número de dígitos e precisão de cálculo
O intervalo de cálculo, o número de dígitos usados para cálculo interno e a precisão de cálculo dependem do tipo de cálculo que você estiver executando.
Intervalo e precisão de cálculo
Intervalo de cálculo | ±1 × 10-99 até ±9,999999999 × 1099 ou 0 |
---|---|
Número de dígitos para cálculo interno | 15 dígitos |
Precisão | Em geral, ±1 no 10º dígito para um cálculo simples. A precisão da exibição exponencial é ±1 no dígito menos significativo. Os erros são cumulativos no caso de cálculos consecutivos. |
Intervalo e precisão de inserção de cálculo de funções
Funções | Intervalo de inserção | |
---|---|---|
sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
Rad | 0 ≦ |x| < 157079632,7> | |
Gra | 0 ≦ |x| < 1 × 1010 | |
tanx | Deg | O mesmo que sinx, exceto quando |x| = (2n-1) × 90. |
Rad | O mesmo que sinx, exceto quando |x| = (2n-1) × π/2. | |
Gra | O mesmo que sinx, exceto quando |x| = (2n-1) × 100. | |
sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
√x | 0 ≦ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
3√x | |x| < 1 × 10100 | |
x! | 0 ≦ x ≦ 69 (x é um número inteiro) | |
nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r são números inteiros) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r são números inteiros) 1 ≦ n!/r! < 1 × 10100 ou 1 ≦ n!/(n-r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Igual a sinx |
|
°’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c O valor de segundos exibido está sujeito a um erro de ±1 na segunda casa decimal. |
|
|x| < 1 × 10100 Conversões decimais ↔ sexagesimais 0°0°0° ≦ |x| ≦ 9999999°59° |
||
xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n , 12n+1 (n é um número inteiro) No entanto: -1 × 10100 < ylog |x| < 100> | |
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n é um número inteiro) No entanto: -1 × 10100 < 1/x log |y| < 100> | |
ab/c | O total de número inteiro, numerador e denominador precisa ser 10 dígitos ou menos (incluindo os traços de fração). | |
RanInt#(a, b) | a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 (a , b são números inteiros) |
A precisão é basicamente a mesma que a indicada acima em "Intervalo e precisão de cálculo".
Cálculos que usem qualquer uma das funções ou configurações mostradas a seguir requerem que cálculos internos consecutivos sejam realizados, o que pode causar acumulação de erro que ocorre com cada cálculo.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (Unidade de ângulo: Rad); σx, sx, coeficiente de regressão.
O erro é acumulado e tende a ser maior próximo a funções de ponto único e ponto de inflexão.
Durante cálculo estatístico, o erro é cumulativo quando os valores de dados possuem uma grande quantidade de dígitos e as diferenças entre os valores de dados são pequenas. O erro será grande quando os valores de dados forem maiores que seis dígitos.