Ir para o conteúdo
  • Revista PROGRAMAR: Já está disponível a edição #57 da revista programar. Faz já o download aqui!

heldercorreia

Precisão dos cálculos em excel

Mensagens Recomendadas

heldercorreia    0
heldercorreia

Malta, como é que funcionam os cálculos do excel? No meu trabalho tenho que fazer referência à precisão dos cálculos que faço, ou seja casas decimais.. casa decimais que o excel usa..

Por exemplo em relação às casa decimais de resultados face aos dados, os dados terão que utilizar o máximo de casa decimais que um dos dados tenha, até aqui tudo bem, mas e em relação ao que o excel utiliza? Em cálculos intermédios é natural que se utilizem o máximo de casa decimais..

Bom vou resumir isto a: O excel usa internamente o que? Double por exemplo?

Double já dava 16 bits salvo erro não é ?

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites
MetalFatigue    1
MetalFatigue

isto e isto.

Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados. Mas li de relance. A precisão é de apenas 15 digitos. Podes fazer um teste simples e rápido:

A1: 0,000123456789012345
A2: 1
A3: =A1+A2

Vais ver que não dá o resultado esperado e adultera-o. A explicação está nos sites que coloquei.

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites
pedrosorio    5
pedrosorio

Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados.

"O Microsoft Excel foi concebido com base na especificação IEEE 754 relativa ao armazenamento e cálculo de números de vírgula flutuante."

Isto é exactamente aquilo a que estamos habituados...

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

Crie uma conta ou ligue-se para comentar

Só membros podem comentar

Criar nova conta

Registe para ter uma conta na nossa comunidade. É fácil!

Registar nova conta

Entra

Já tem conta? Inicie sessão aqui.

Entrar Agora


×

Aviso Sobre Cookies

Ao usar este site você aceita a nossa Política de Privacidade