Tecnología

Inicio

Cómo determinar numérico de precisión en FORTRAN

Cómo determinar numérico de precisión en FORTRAN


Para procesar los datos, cada función en un programa de ordenador debe ser informado de antemano qué tipo de datos que esperar. Los lenguajes de programación hacen distinciones que los humanos podrían encontrar insignificante. La mayoría de la gente encontraría poca diferencia entre los números 2147483647 y 2147483648. Para el lenguaje de programación FORTRAN sin embargo, estos dos números son completamente diferentes tipos de datos. Del mismo modo, los números 34 y 34.001 no pueden ser tratados como el mismo tipo de información. operaciones automáticas de redondeo y conversión están disponibles para recuperar respuestas aproximadas a operaciones matemáticas. Cuando la precisión numérica es importante, un programador debe especificar el tipo de datos exacto para cada variable de entrada, así como la precisión deseada para la respuesta.

Instrucciones

1 Declarar un tipo de variable de número entero para las operaciones de aceptación y devolución de valores de números enteros entre --2,147,483,648 y 2147483647. La razón de la diferencia de un dígito en el valor de retorno es la inclusión de 0 como un número positivo.

2 Declarar una variable de tipo REAL para los números con un punto decimal con valores entre 10 ^ -38 y 10 ^ + 38 (10 elevado a la potencia negativa o positiva 38a).

3 Aumentar la precisión de un número real de duplicar la cantidad de números después del punto decimal se incluye en los cálculos de la declaración de variables y respuestas como doble precisión. Esta declaración incluye un número más o menos en el rango de 10 ^ -76 a la 10 ^ + 76.

Consejos y advertencias

  • Llamar a un tipo de datos de alta precisión con una baja precisión en los resultados de la función de redondeo. La respuesta devuelto por la función es correcta sólo al número de dígitos permitidos por la función que llama. Para el cálculo exacto con los resultados más altos de precisión, que coincida con el tipo de datos con el tipo de retorno de la función.