domingo, 7 de noviembre de 2010

Error en función entero de hojas electrónicas

En fecha reciente realizando un simple cálculo en la hoja electrónica de OpenOffice, me topé que la función INT (en inglés) o ENTERO genera un error de 18 billonésimas 1x10-12 y en una comparativa con Excell 2007 encontré el mismo error, probado en diferentes computadoras con diferentes procesadores y sistemas operativos, por loque se comprueba que no es un error de procesador y se reafirma la eficiencia de OpenOffice como alternativa al MS-Office.



Cantidad con 2 decimas en C3 sin mas cifras significativas 5325.200000000000000


Cálculo del entero con funcion =INT(C3) o ENTERO 5325


Resta del número menos su entero (aparentemente sin problema) C3-C5 0.2
Añadí ceros para apreciar el error con el mismo cálculo C3-C5 0.199999999999818


El error generado equivale a 18 billonésimas 1.82E-013



No hay comentarios:

Publicar un comentario