Flytpunkt

Vad varje datavetare borde veta om aritmetik med flyttal
Varför behöver vi aritmetik med flyttal? Ett flyttalssystem kan användas för att representera, med ett fast antal siffror, antal av olika storleksordn...
Sats om förlust av precision
Vad är förlust av precision? Förlust av signifikans är en oönskad effekt i beräkningar med aritmetik med ändlig precision, såsom aritmetik med flyttal...
Vad används flyttalsenheten till på processorsystemet?
Vad är en flyttalsprocessor? Flyttalsprocessorn tillhandahåller instruktioner för att utföra aritmetik, jämförelse och andra operationer. POWER®-famil...