[NLA] beduidende cijfers
Posted: Thu Apr 01, 2010 6:57 pm
Voor het berekenen van het # beduidende cijfers, hebben we vorig jaar bij NLA een formule gezien namelijk deze:
waarbij afgeronde het afgeronde getal is en uitkomst de werkelijke uitkomst. (Deze formule komt van de relative fout)
Nu als ik dit dus uitreken, kom ik een ander (lager) getal uit dan het aantal (werkelijke) beduidende cijfers dat ik tel door gewoon met de hand het aantal overeenkomende bits te tellen. Is dit normaal?
Code: Select all
bc = floor(abs(log2((afgerond-uitkomst)/uitkomst)))
Nu als ik dit dus uitreken, kom ik een ander (lager) getal uit dan het aantal (werkelijke) beduidende cijfers dat ik tel door gewoon met de hand het aantal overeenkomende bits te tellen. Is dit normaal?