heldercorreia Posted October 28, 2009 at 05:39 PM Report Share #293744 Posted October 28, 2009 at 05:39 PM Malta, como é que funcionam os cálculos do excel? No meu trabalho tenho que fazer referência à precisão dos cálculos que faço, ou seja casas decimais.. casa decimais que o excel usa.. Por exemplo em relação às casa decimais de resultados face aos dados, os dados terão que utilizar o máximo de casa decimais que um dos dados tenha, até aqui tudo bem, mas e em relação ao que o excel utiliza? Em cálculos intermédios é natural que se utilizem o máximo de casa decimais.. Bom vou resumir isto a: O excel usa internamente o que? Double por exemplo? Double já dava 16 bits salvo erro não é ? Link to comment Share on other sites More sharing options...
MetalFatigue Posted October 29, 2009 at 10:30 AM Report Share #293822 Posted October 29, 2009 at 10:30 AM Vê isto e isto. Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados. Mas li de relance. A precisão é de apenas 15 digitos. Podes fazer um teste simples e rápido: A1: 0,000123456789012345 A2: 1 A3: =A1+A2 Vais ver que não dá o resultado esperado e adultera-o. A explicação está nos sites que coloquei. Link to comment Share on other sites More sharing options...
pedrosorio Posted October 29, 2009 at 10:40 AM Report Share #293824 Posted October 29, 2009 at 10:40 AM Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados. "O Microsoft Excel foi concebido com base na especificação IEEE 754 relativa ao armazenamento e cálculo de números de vírgula flutuante." Isto é exactamente aquilo a que estamos habituados... Não respondo a dúvidas por mensagem. Link to comment Share on other sites More sharing options...
MetalFatigue Posted October 29, 2009 at 01:00 PM Report Share #293846 Posted October 29, 2009 at 01:00 PM Como disse li de relance...obrigado pelo esclarecimento. Link to comment Share on other sites More sharing options...
Recommended Posts
Create an account or sign in to comment
You need to be a member in order to leave a comment
Create an account
Sign up for a new account in our community. It's easy!
Register a new accountSign in
Already have an account? Sign in here.
Sign In Now