• Revista PROGRAMAR: Já está disponível a edição #53 da revista programar. Faz já o download aqui!

watt

Problema com o resto de uma divisão

3 mensagens neste tópico

Boa tarde!

Actualmente estou com um problema mt estranho, estou a tentar verificar o resto de uma divisão, e o resultado que o flash nem sempre bate bem...

o código que tenho é o seguinte.

var t:Number, r:Number;

var bet:String;

var sb:String;

sb = Number(Number(sblind).toFixed(2));

bet =Number(Number(str).toFixed(2));

r = Number(bet) % Number(sb);

trace("bet=" + bet);

trace("sb="+sb);

trace("R="+r);

if ( Number(bet) >  Number(lbet))

{

if (r==0){

                                        ...

                                }

                              ...

                        }

o que stou a fazer de errdo ??

as vezes tenho este output:

bet=0.12

sb=0.02

R=0.019999999999999993

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

Estas a utilizar String com Numbers e depois convertes Numbers para strings...

Não me parece boa política...

Começa por meter tudo com numbers...

Deopis apenas  só deverás utilizar ".toFixed(2)" quando estás a efectuar um output de qql coisa para calculos deixa ele ter os numeros que pretender para ser o mais rigoroso possivel...

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

ja resolvi!

fiz a divisão normal, depois usei  o .toFixed(2) e a seguir usei substring para tirar o que está depois do . se for 00 ok caso contrario temos pena nao satisfaz o que quero. e deu bem :confused:

0

Partilhar esta mensagem


Link para a mensagem
Partilhar noutros sites

Crie uma conta ou ligue-se para comentar

Só membros podem comentar

Criar nova conta

Registe para ter uma conta na nossa comunidade. É fácil!


Registar nova conta

Entra

Já tem conta? Inicie sessão aqui.


Entrar Agora