4.1. Форматы чисел с плавающей запятой
Применяются несколько форматов чисел с ПЗ. При этом в любом формате обязательно присутствуют мантисса и порядок. Транслятор dska поддерживает четыре формата: два простых и два IEEE (с обычной и повышенной точностью).
Простые форматы (мантисса в дополнительном коде и обычный порядок): с обычной точностью (2 слова): .efloat (m16·2p16)
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
мл | -20 | 2-1 | 2-2 | 2-3 | 2-4 | 2-5 | 2-6 | 2-7 | 2-8 | 2-9 | 2-10 | 2-11 | 2-12 | 2-13 | 2-14 | 2-15 |
| ms | m14 | m13 | m12 | m11 | m10 | m9 | m8 | m7 | m6 | m5 | m4 | m3 | m2 | m1 | m0 |
|
|
|
|
|
|
|
|
|
|
| ||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
ст | -215 | 214 | 213 | 212 | 211 | 210 | 29 | 28 | 27 | 26 | 25 | 24 | 23 | 22 | 21 | 20 |
| ps | p14 | p13 | p12 | p11 | p10 | p9 | p8 | p7 | p6 | p5 | p4 | p3 | p2 | p1 | p0 |
с повышенной точностью (3 слова): .bfloat(m32·2p16) |
|
|
|
|
| |||||||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
мл | 2-16 | 2-17 | 2-18 | 2-19 | 2-20 | 2-21 | 2-22 | 2-23 | 2-24 | 2-25 | 2-26 | 2-27 | 2-28 | 2-29 | 2-30 | 2-31 |
| m15 | m14 | m13 | m12 | m11 | m10 | m9 | m8 | m7 | m6 | m5 | m4 | m3 | m2 | m1 | m0 |
|
|
|
|
|
|
|
|
|
|
| ||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
| -20 | 2-1 | 2-2 | 2-3 | 2-4 | 2-5 | 2-6 | 2-7 | 2-8 | 2-9 | 2-10 | 2-11 | 2-12 | 2-13 | 2-14 | 2-15 |
| ms | m30 | m29 | m28 | m27 | m26 | m25 | m24 | m23 | m22 | m21 | m20 | m19 | m18 | m17 | m16 |
|
|
|
|
|
|
|
|
|
|
| ||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
ст | -215 | 214 | 213 | 212 | 211 | 210 | 29 | 28 | 27 | 26 | 25 | 24 | 23 | 22 | 21 | 20 |
| ps | p14 | p13 | p12 | p11 | p10 | p9 | p8 | p7 | p6 | p5 | p4 | p3 | p2 | p1 | p0 |
Форматы IEEE (нормализованная мантисса в прямом коде, порядок со смещением и знак мантиссы):
с обычной точностью (2 слова): .float (-1ms·(1+m23)·2p8-127)
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
мл | 2-8 | 2-9 | 2-10 | 2-11 | 2-12 | 2-13 | 2-14 | 2-15 | 2-16 | 2-17 | 2-18 | 2-19 | 2-20 | 2-21 | 2-22 | 2-23 |
| m15 | m14 | m13 | m12 | m11 | m10 | m9 | m8 | m7 | m6 | m5 | m4 | m3 | m2 | m1 | m0 |
|
|
|
|
|
|
|
|
|
|
| ||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
ст |
| 27 | 26 | 25 | 24 | 23 | 22 | 21 | 20 | 2-1 | 2-2 | 2-3 | 2-4 | 2-5 | 2-6 | 2-7 |
| ms | p7 | p6 | p5 | p4 | p3 | p2 | p1 | p0 | m22 | m21 | m20 | m19 | m18 | m17 | m16 |
с повышенной точностью (4 слова): .double(-1ms·(1+m52)·2p11-1023) |
|
| ||||||||||||||
| D15 | D14 | D13 | D12 | D11 | D10 | D9 | D8 | D7 | D6 | D5 | D4 | D3 | D2 | D1 | D0 |
мл | 2-37 | 2-38 | 2-39 | 2-40 | 2-41 | 2-42 | 2-43 | 2-44 | 2-45 | 2-46 | 2-47 | 2-48 | 2-49 | 2-50 | 2-51 | 2-52 |
| m15 | m14 | m13 | m12 | m11 | m10 | m9 | m8 | m7 | m6 | m5 | m4 | m3 | m2 | m1 | m0 |
- 2.4. Точностные характеристики цифровых фильтров
- 2.4.2.Ошибки квантования в цифровых фильтрах
- 3.2. Реализация частных случаев вычисления «бабочки»
- 3.4. Основные алгоритмы БПФ по модулю 2 с замещением
- 3.5. Алгоритм БПФ с поблочно-плавающей запятой
- 4. ВЫПОЛНЕНИЕ ОПЕРАЦИЙ С ПЛАВАЮЩЕЙ ЗАПЯТОЙ
- 4.1. Форматы чисел с плавающей запятой
- Операция умножения с плавающей запятой
- 5.3. Метод кодирования A-Law
- 6.1. Многомерный формирующий фильтр