Presicion con Datos Double
Publicado por zilzeratul (29 intervenciones) el 30/11/2004 22:29:44
Hola
Estoy haciendo un compresor aritmetico. Bueno el caso es que trabajo con numeros entre 0 y 1. por lo que necesito una alta presicion en los resultados de sumas, multiplicaciones y diviciones de valores que esten en ese rango. Lo que me pasa es que en la aplicacion, una simple suma de 0.1+0.2 en ves de dar 0.3, el resultado es 0.300000004
y eso en la medida que sigo haciendo operaciones me va aumentando ese error. Que Creen que pueda hacer para eliminar este error.
Lo que se me ocurre es hacer que el double tenga solo 5 lugares de spues de la coma. Como puedo hacer esto???
O diganme algo con lo que pueda eliminar ese error
Gracias
Estoy haciendo un compresor aritmetico. Bueno el caso es que trabajo con numeros entre 0 y 1. por lo que necesito una alta presicion en los resultados de sumas, multiplicaciones y diviciones de valores que esten en ese rango. Lo que me pasa es que en la aplicacion, una simple suma de 0.1+0.2 en ves de dar 0.3, el resultado es 0.300000004
y eso en la medida que sigo haciendo operaciones me va aumentando ese error. Que Creen que pueda hacer para eliminar este error.
Lo que se me ocurre es hacer que el double tenga solo 5 lugares de spues de la coma. Como puedo hacer esto???
O diganme algo con lo que pueda eliminar ese error
Gracias
Valora esta pregunta


0