Preplnenie celého čísla

Autor: Louise Ward
Dátum Stvorenia: 11 Február 2021
Dátum Aktualizácie: 1 V Júli 2024
Anonim
Preplnenie celého čísla - Technológie
Preplnenie celého čísla - Technológie

Obsah

Definícia - Čo znamená Integer Overflow?

Celočíselné pretečenie je výsledkom pokusu CPU aritmeticky vygenerovať číslo väčšie, ako sa môže zmestiť do vyhradeného pamäťového priestoru. Aritmetické operácie majú vždy potenciál vracať neočakávané hodnoty, čo môže spôsobiť chybu, ktorá núti celý program vypnúť sa. Z tohto dôvodu väčšina programátorov uprednostňuje vykonávanie matematických operácií v rámci výnimky, ktorý namiesto toho vracia výnimku v prípade celočíselného pretečenia.


Celočíselný prepad je známy aj ako aritmetický prepad.

Úvod do programu Microsoft Azure a Microsoft Cloud V tejto príručke sa dozviete, o čom všetko je cloud computing a ako vám môže Microsoft Azure pomôcť migrovať a podnikať z cloudu.

Techopedia vysvetľuje Integer Overflow

Jeden príklad celočíselného pretečenia sa môže vyskytnúť, keď vývojár programu neumožňuje výskyt záporného čísla. V takom prípade, ak premenná vykonáva operáciu vedúcu k zápornému číslu, dôjde k pretečeniu a premenná sa vráti ako kladné celé číslo. Ďalším príkladom celočíselného pretečenia by bolo delenie čísla nulou, čo matematicky vedie k veľkému číslu s nekonečnou hodnotou.

Správanie procesorov v prípade pretečenia celého čísla sa medzi jednotlivými procesormi líši. Grafické spracovateľské jednotky a procesory digitálnych signálov sú navrhnuté tak, aby zvládli množstvo aritmetických podmienok vrátane celočíselného pretečenia. V prípade celočíselného pretečenia vracajú títo spracovatelia zvyčajne maximálny povolený počet.