บ้าน พัฒนาการ จำนวนเต็มล้นคืออะไร - คำจำกัดความจาก techopedia

จำนวนเต็มล้นคืออะไร - คำจำกัดความจาก techopedia

สารบัญ:

Anonim

คำจำกัดความ - จำนวนเต็มล้นหมายถึงอะไร

การโอเวอร์โฟลจำนวนเต็มเป็นผลมาจากความพยายามของ CPU ในการสร้างเลขจำนวนที่ใหญ่กว่าสิ่งที่สามารถพอดีกับพื้นที่เก็บข้อมูลหน่วยความจำโดยเฉพาะ การดำเนินการทางคณิตศาสตร์มักจะมีศักยภาพในการส่งคืนค่าที่ไม่คาดคิดซึ่งอาจทำให้เกิดข้อผิดพลาดที่บังคับให้ปิดโปรแกรมทั้งหมด ด้วยเหตุนี้โปรแกรมเมอร์ส่วนใหญ่ต้องการดำเนินการทางคณิตศาสตร์ภายในกรอบข้อยกเว้นซึ่งจะส่งกลับข้อยกเว้นในกรณีของจำนวนเต็มล้นแทน

จำนวนเต็มล้นเป็นที่รู้จักกันเป็นเลขคณิตล้น

Techopedia อธิบายจำนวนเต็มล้น

ตัวอย่างหนึ่งของการล้นจำนวนเต็มอาจเกิดขึ้นเมื่อผู้พัฒนาโปรแกรมไม่อนุญาตให้มีการลบจำนวน ในกรณีนี้หากตัวแปรทำการดำเนินการที่ทำให้เกิดจำนวนลบจะเกิดการล้นและตัวแปรจะถูกส่งกลับเป็นจำนวนเต็มบวก อีกตัวอย่างของการล้นจำนวนเต็มจะหารจำนวนด้วยศูนย์ซึ่งทางคณิตศาสตร์ให้จำนวนมากด้วยค่าอนันต์

พฤติกรรมของโปรเซสเซอร์ในกรณีที่โอเวอร์โฟลว์จำนวนเต็มแตกต่างจากโปรเซสเซอร์หนึ่งไปอีกโปรเซสเซอร์หนึ่ง หน่วยประมวลผลกราฟิกและตัวประมวลผลสัญญาณดิจิตอลได้รับการออกแบบมาเพื่อจัดการกับเงื่อนไขทางคณิตศาสตร์มากมายรวมถึงจำนวนเต็มล้น ในอินสแตนซ์ของจำนวนเต็มมากเกินไปตัวประมวลผลเหล่านี้มักส่งคืนจำนวนสูงสุดที่อนุญาต

จำนวนเต็มล้นคืออะไร - คำจำกัดความจาก techopedia