Tweet
Vandaag een Excel probleem gekregen van mijn collega. Die dacht dat ze spoken zag, maar na een tijd en nog een andere collega erbij zagen we met 3 spoken.
Even het probleem schetsen, geen detail waar de waarden vandaan komen, het gaat erover waarom de berekening fout loopt. En ja, het loopt fout, Excel is er naast. Nu we "weten" wat er misloopt, maar de vraag is vooral hoe kunnen we dit omzeilen zonder "foefelfactoren".
Probleem: we mometen bepalen hoeveel keer iets volledig 0.1 eenheden afwijkt van een beginwaarde van 67. Dus als de input in vak a2, 66.95 is, dan is dat "0 volledige keren 0.1". Als de input 66.9 is, dan moet dat "1 volledige maal 0.1" zijn, een input van 66 moet "10 volledige keren 0.1" geven, etc... Je zou dat met een geneste "ALS" kunnen doen, maar er zijn zo 40 stappen. Dus de formule was:
Dit geeft nu inderdaad de gewenste waarde, BEHALVE VOOR 66.9. Dan geeft dit 0 ipv 1.
Het eigenaardige is dat dit lijkt te draaien rond de (67-66.9)/0.1. Elke formule die we konden bedenken waar dit in voorkomt loopt het mis. Ook met QUOTIENT en REST, Maakt niet uit of je eerst alles x10 of x100 doet. Als je echter direct 0.1/0.1 doet, dan werkt het wel. Maar als de teller het resultaat is van een berekening loopt het mis.
Het enige dat helpt is ervan te maken:
Op mijn pc in mijn test werkblad werkte het ook als ik de optie "precisie instellen als weergegeven" instelde. Maar dat werkte niet op haar pc of in de definitieve file.
Op het gevoel: het loopt mis wegens de voorstelling van de getallen in binair.
Voor de leut heb ik hetzelfde eens in OO Calc gedaan en het resultaat is hetzelfde als in Excel. Ook fout!
Even het probleem schetsen, geen detail waar de waarden vandaan komen, het gaat erover waarom de berekening fout loopt. En ja, het loopt fout, Excel is er naast. Nu we "weten" wat er misloopt, maar de vraag is vooral hoe kunnen we dit omzeilen zonder "foefelfactoren".
Probleem: we mometen bepalen hoeveel keer iets volledig 0.1 eenheden afwijkt van een beginwaarde van 67. Dus als de input in vak a2, 66.95 is, dan is dat "0 volledige keren 0.1". Als de input 66.9 is, dan moet dat "1 volledige maal 0.1" zijn, een input van 66 moet "10 volledige keren 0.1" geven, etc... Je zou dat met een geneste "ALS" kunnen doen, maar er zijn zo 40 stappen. Dus de formule was:
=afronden.naar.beneden((67-a2)/0,1;0)
Het eigenaardige is dat dit lijkt te draaien rond de (67-66.9)/0.1. Elke formule die we konden bedenken waar dit in voorkomt loopt het mis. Ook met QUOTIENT en REST, Maakt niet uit of je eerst alles x10 of x100 doet. Als je echter direct 0.1/0.1 doet, dan werkt het wel. Maar als de teller het resultaat is van een berekening loopt het mis.
Het enige dat helpt is ervan te maken:
=afronden.naar.beneden((67-a2)/0.099999999999)
Op het gevoel: het loopt mis wegens de voorstelling van de getallen in binair.
Voor de leut heb ik hetzelfde eens in OO Calc gedaan en het resultaat is hetzelfde als in Excel. Ook fout!
Comment