Projet

Général

Profil

Development #48513

decimal / ne pas arrondir les float

Ajouté par Frédéric Péters il y a plus de 3 ans. Mis à jour il y a plus de 3 ans.

Statut:
Fermé
Priorité:
Normal
Assigné à:
Version cible:
-
Début:
13 novembre 2020
Echéance:
% réalisé:

0%

Temps estimé:
Patch proposed:
Oui
Planning:
Non

Description

Aujourd'hui on passe tout dans parse_decimal(), ex:

@register.filter
def multiply(term1, term2):
    return parse_decimal(term1) * parse_decimal(term2)

et si jamais un des termes était un float, ça fait perdre en précision vu que parse_decimal fait

        return Decimal(value).quantize(Decimal('1.0000')).normalize()

Proposition pour les float de juste faire Decimal().


Fichiers

Révisions associées

Révision b3378e55 (diff)
Ajouté par Frédéric Péters il y a plus de 3 ans

misc: increase decimal precision (#48513)

Historique

#1

Mis à jour par Frédéric Péters il y a plus de 3 ans

Plutôt les arrondir quand même parce que sinon le côté flottant va laisser des nombres genre 1.299999999999999988897769754 plutôt que 1.3.

#3

Mis à jour par Thomas Noël il y a plus de 3 ans

  • Statut changé de Solution proposée à Solution validée

Je ne mesure pas trop les éventuels effets de bord, mais je n'en vois pas vraiment... go, 2 semaines en recette, ça sera bien.

#4

Mis à jour par Frédéric Péters il y a plus de 3 ans

  • Statut changé de Solution validée à Résolu (à déployer)
commit b3378e553e38ecbe9e0257667605857909ca2398
Author: Frédéric Péters <fpeters@entrouvert.com>
Date:   Fri Nov 13 10:04:47 2020 +0100

    misc: increase decimal precision (#48513)
#5

Mis à jour par Frédéric Péters il y a plus de 3 ans

  • Statut changé de Résolu (à déployer) à Solution déployée

Formats disponibles : Atom PDF