Om Brukerhåndbok i Query/400 - IBM

Eksempel:
X12 = (1,2998 −P−Q)/((R + S) * (T − U)) + 6
I stedet for å definere resultatfeltet X12 i ett trinn, slik som ovenfor, kan du dele uttrykket opp i tre:
X12DEL1 = 1,2998 −P−Q
X12DEL2 = (R + S) * (T − U)
X12 = X12PART1/X12PART2 + 6
Hvis du vet at X12DEL1 alltid er et tall mellom 0 og 1,2998, kan du oppgi 5 i kolonnen Len og 4 i kolonnen
Des (på skjermbildet Definere resultatfelt) for feltet X12DEL1. Dette reduserer lengden på X12.
Lengde og antall desimaler som brukes i interne numeriske
beregninger
Formlene nedenfor definerer maksimumslengde og maksimalt antall desimaler som brukes internt av
Query til desimalberegninger for numeriske resultatfelt. Maksimumslengde og maksimalt antall desimaler
tilsvarer ikke nødvendigvis presentasjonslengden og desimalene som tildeles av Query. Symbolene p og d
står for lengden og antall desimaler for den første operanden. Symbolene p 1 og d 1 står for lengden og
antall desimaler for den andre operanden.
Addisjon og subtraksjon
Maksimumslengde på resultatfeltet:
min(31,maks(p-d,p 1 -d 1 )+maks(d,d 1 )+1).
Maksimalt antall desimaler:
maks(d,d 1 ).
Multiplikasjon
Maksimumslengde på resultatfeltet:
min(31,p+p 1 )
Maksimalt antall desimaler:
min(31,d+d 1 ).
Divisjon
Maksimumslengde på resultatfeltet:
31
Maksimalt antall desimaler:
31-p+d-d 1 .
Eksempel på hvordan du øker desimalpresisjonen for resultatfelt
I figur 7 på side 196 vises det et resultatfelt med en gjeldende maksimumslengde på 31 og maksimalt
antall desimaler på 2. Desimalpresisjonen ble utledet av beregningen 31-29+9-9.
Kapittel 17. Tilleggsinformasjon til programmerere 195