Rangos de cálculo, cantidad de dígitos y precisión
Rangos de introducción de cálculo de funciones y precisión
| Funciones | Rango de introducción | |
|---|---|---|
| senx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | El mismo que senx, excepto cuando |x| = (2n-1) × 90. |
| Rad | El mismo que senx, excepto cuando |x| = (2n-1) × π/2. | |
| Gra | El mismo que senx, excepto cuando |x| = (2n-1) × 100. | |
| sen-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| senhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| senh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x es un entero) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r son enteros) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r son enteros) 1 ≦ n!/r! < 1 × 10100 o 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: El mismo que senx |
|
| °’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c El segundo valor mostrado está sujeto a un error de ±1 en la segunda posición decimal. |
|
| |x| < 1 × 10100 Conversiones Decimal ↔ Sexagesimal 0°0°0° ≦ |x| ≦ 9999999°59° |
||
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n es un entero) Sin embargo: -1 × 10100 < ylog |x| < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n es un entero) Sin embargo: -1 × 10100 < 1/x log |y| < 100 |
|
| ab/c | La cantidad total de dígitos de esta expresión, incluyendo la parte entera, el numerador y el denominador debe ser de hasta 10 dígitos (incluyendo el símbolo de división). | |
La precisión es esencialmente la misma que se describe en ″Rango de cálculo y precisión″ anteriormente.
Los cálculos que utilizan cualquiera de las funciones o configuraciones que se muestran a continuación requieren la realización de cálculos internos consecutivos, que pueden generar una acumulación de errores de cada cálculo.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (unidad de ángulo: Rad); σx, sx, coeficiente de regresión.
El error es acumulativo y tiende a ser grande en la vecindad del punto singular de la función y punto de inflexión.
Durante el cálculo estadístico, el error es acumulativo cuando los valores de los datos tienen una gran cantidad de dígitos y las diferencias entre dichos valores son pequeñas. El error será grande si los valores de los datos tienen más de seis dígitos.
