• Revista PROGRAMAR: Já está disponível a edição #53 da revista programar. Faz já o download aqui!

heldercorreia

Precisão dos cálculos em excel

4 mensagens neste tópico

Malta, como é que funcionam os cálculos do excel? No meu trabalho tenho que fazer referência à precisão dos cálculos que faço, ou seja casas decimais.. casa decimais que o excel usa..

Por exemplo em relação às casa decimais de resultados face aos dados, os dados terão que utilizar o máximo de casa decimais que um dos dados tenha, até aqui tudo bem, mas e em relação ao que o excel utiliza? Em cálculos intermédios é natural que se utilizem o máximo de casa decimais..

Bom vou resumir isto a: O excel usa internamente o que? Double por exemplo?

Double já dava 16 bits salvo erro não é ?

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

isto e isto.

Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados. Mas li de relance. A precisão é de apenas 15 digitos. Podes fazer um teste simples e rápido:

A1: 0,000123456789012345
A2: 1
A3: =A1+A2

Vais ver que não dá o resultado esperado e adultera-o. A explicação está nos sites que coloquei.

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

Pelo que entendi usa internamente um tipo próprio diferente do que estamos habituados.

"O Microsoft Excel foi concebido com base na especificação IEEE 754 relativa ao armazenamento e cálculo de números de vírgula flutuante."

Isto é exactamente aquilo a que estamos habituados...

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

Crie uma conta ou ligue-se para comentar

Só membros podem comentar

Criar nova conta

Registe para ter uma conta na nossa comunidade. É fácil!


Registar nova conta

Entra

Já tem conta? Inicie sessão aqui.


Entrar Agora