Revisiter l’arrondi stochastique pour éviter la stagnation des systèmes informatiques

Revisiter l'arrondi stochastique pour éviter la stagnation des systèmes informatiques

Alignement des bits dans les algorithmes d’arrondi stochastique basés sur des sommes. Les bits aléatoires sont ajoutés au signifiant mt suivi de sa troncature. La façon dont les bits sont générés et ajoutés dépend de l’implémentation – nous ne pouvons ajouter que le k morceaux vers le haut k bits de la partie inférieure du significande, puis utilisez un bit de report pour contrôler l’arrondi de mr après la troncature, ou nous pouvons emballer le k bits aléatoires dans un mot tant que mt et ajoutez-le à mt en utilisant l’arithmétique entière : le report de propagation entraînera un arrondi dans le haut p morceaux. Crédit: Science ouverte de la Société royale (2022). DOI : 10.1098/rsos.211631

Une petite équipe de chercheurs des États-Unis, du Royaume-Uni et de France a jeté un regard neuf sur la possibilité d’utiliser l’arrondi stochastique (SR) dans certaines applications informatiques pour réduire la stagnation. Dans leur article publié dans la revue Science ouverte de la Société royalele groupe décrit son approche pour étudier l’utilisation de la SR dans des applications telles que l’apprentissage automatique.

L’approche la plus courante consiste à arrondir les nombres inférieurs à une certaine valeur, tandis que ceux qui sont supérieurs à cette valeur sont arrondis. Arrondir 3,4, par exemple, jusqu’à 3 et 3,7 jusqu’à 4. Ici, la valeur d’arrondi est de 0,5. Dans de tels cas, les nombres qui tombent sur la valeur d’arrondi sont choisis au hasard. Dans cet exemple, 3,5 peut être arrondi vers le haut ou vers le bas, selon le caprice de la personne ou de l’ordinateur qui effectue l’arrondi. Les ordinateurs doivent également effectuer des opérations d’arrondi lors de la manipulation d’expressions infinies telles que π. Pour les humains, arrondir vers le haut ou vers le bas peut être un outil utile pour des estimations rapides, en additionnant tous les prix des marchandises dans un panier, par exemple, pour s’assurer qu’il y a suffisamment d’argent liquide au moment de passer à la caisse. L’arrondi est également utile pour les ordinateurs, car il permet d’effectuer des calculs avec des constantes mathématiques telles que π, mais il introduit également un problème : la stagnation.

Avec les ordinateurs, la stagnation se produit lorsque de longues sommes de petites quantités, telles que 0,1, sont perdues à cause de l’arrondi. Il existe un certain nombre d’approches du problème dans les applications générales, mais la stagnation est un problème majeur avec les applications d’apprentissage automatique. Dans ce nouvel effort, les chercheurs étudient la possibilité d’utiliser SR dans de telles applications.

SR est une approche d’arrondi pour les ordinateurs qui existe depuis plus d’un demi-siècle, mais dont l’utilisation est limitée. Les programmes utilisant SR arrondissent un nombre donné en utilisant des probabilités basées sur sa distance par rapport à ce nombre. À titre d’exemple, le nombre 2,6 a 60 % de chances d’être arrondi à 3 et 40 % de chances d’être arrondi à 2. De telles probabilités peuvent être utilisées, notent les chercheurs, car elles représentent ce pourcentage “en cours de route” vers le nombre cible. 2,6, par exemple, est de 60 % sur le chemin de 3. Dans SR, le point médian est considéré comme étant également susceptible d’être arrondi vers le haut ou vers le bas. Dans de tels scénarios, la direction est toujours considérée comme aléatoire. L’utilisation de cette approche, selon les chercheurs, pourrait empêcher l’arrondi d’aller trop souvent dans la même direction et aider à éviter la stagnation. Le hic, bien sûr, est le manque de véritables générateurs de nombres aléatoires sur la plupart des systèmes informatiques. Pour surmonter ce problème, les chercheurs suggèrent l’utilisation de plusieurs types d’arrondis.


Les femmes en post-partum préfèrent l’arrondissement tardif du médecin


Plus d’information:
Matteo Croci et al, Arrondi stochastique : implémentation, analyse d’erreurs et applications, Science ouverte de la Société royale (2022). DOI : 10.1098/rsos.211631

© 2022 Réseau Science X

Citation: Un autre regard sur l’arrondi stochastique pour éviter la stagnation dans les systèmes informatiques (2022, 23 mars) récupéré le 23 mars 2022 sur https://techxplore.com/news/2022-03-stochastic-rounding-stagnation.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.