Всплески (вейвлеты)

Всплески (вейвлеты)
англ. wavelet – небольшая волна, рябь

L2(R)
(f , g) =
R
f (x)g(x) dx, f = (f , f )
Кратномасштабный анализ (multiresolution analysis)
Последовательность пространств аппроксимации
Vj
• . . . ⊂ V−2 ⊂ V−1 ⊂ V0 ⊂ V1 ⊂ V2 ⊂ . . .
• clos (∪j∈ZVj) = L 2 (R)
• ∩j∈ZVj = {0}
• f (x) ∈ Vj ⇔ f (2x) ∈ Vj+1, j ∈ Z ⇔ f (2jx) ∈ V0
• f ∈ V0 ⇒ f (x − k) ∈ V0, k ∈ Z
(f ∈ Vj ⇒ f (x − 2jk) ∈ Vj, k ∈ Z )
• существует ϕ ∈ V0 такая, что ϕ0,k(x) = ϕ(x − k)
является ОНБ V0
j∈Z
k∈Z

Тогда существует функция ψ такая, что
ψj,k(x) = 2 j/2 ψ(2 j x − k)
j,k∈Z является ОНБ L2 (R) и для всех
f ∈ L 2 (R)
Pj+1f (x) = Pjf (x) +
k∈Z
dj,kψj,k(x), dj,k = (f , ψj,k)
Обозначим через Wj ортогональное дополнение Vj до Vj+1, т. е.
В частности,
Vj ⊕ Wj = Vj+1 и Vj ⊥ Wj.
V0 ⊕ W0 = V1 и V0 ⊥ W0.
V0 = clos
{ϕ0,k}k∈Z , W0 = clos {ψ0,k}k∈Z
ϕ0,k(x) = ϕ(x − k), ψ0,k(x) = ψ(x − k)
ϕj,k(x) = 2 j/2 ϕ(2 j x − k) = 2 j/2
ϕ 2 j x − k сжатая в 2 j раз и сдвинутая на k
2 j по x
ψj,k(x) = 2 j/2 ψ(2 j x − k)
2 j
,

ϕ(x) =
hk · 2 1/2 ϕ(2x − k) =
hk · ϕ1,k(x)
k
ψ(x) =
gk · ϕ1,k(x) =
k
(ϕ, ψ) = hk · ϕ1,k,
k
ℓ
k
k
(−1) k h1−k · ϕ1,k(x), gk = (−1) k h1−k
(−1) ℓ h1−ℓ · ϕ1,ℓ
=
k
hk(−1) k h1−k
. . . h−2 h−1 h0 h1 h2 h3 h4
. . .
. . . h3 −h2 h1 −h0 h−1 −h−2 h−3 . . .
ϕj,k ⊥ ϕj,ℓ, ψj,k ⊥ ψj,ℓ, ϕj,k ⊥ ψj,ℓ, ϕj,k = ψj,k = 1

Пирамидальный алгоритм
Выразим функции на j − 1 слое, через функции на j
с помощью равенства
ϕ(x) =
hk · 2 1/2 ϕ(2x − k) =
hk · ϕ1,k(x)
k
ϕj−1,ℓ(x) = 2 (j−1)/2 ϕ(2 j−1 x − ℓ) =
(j−1)/2
= 2 hk · 2 1/2
ϕ 2(2 j−1
x − ℓ) − k =
=
k
=
k
k
hk · 2 j/2 ϕ
hk · ϕj,2ℓ+k =
2 j
x − (2ℓ + k) =
ϕj−1,ℓ(x) =
k
2ℓ + k = k ′
k
ψj−1,ℓ(x) =
k
hk−2ℓ · ϕj,k
gk−2ℓ · ϕj,k
=
k ′
hk ′ −2ℓ · ϕj,k ′

Заготовим
ϕj,k, ϕj−1,ℓ =
ϕj,k, ψj−1,ℓ =
ϕj,k,
hk ′ −2ℓ · ϕj,k ′
k ′
ϕj,k,
gk ′ −2ℓ · ϕj,k ′
k ′
= hk−2ℓ
= gk−2ℓ

Пусть теперь f (x) =
a0,k · ϕ0,k(x) = f0(x).
k
Поскольку V0 = V−1 ⊕ W−1, то f можно разложить по
функциям из V−1 и W−1:
f0 =
a0,k · ϕ0,k =
a1,k · ϕ−1,k + d1,k · ψ−1,k
k
k
a1,ℓ = (f0, ϕ−1,ℓ) =
a0,k(ϕ0,k, ϕ−1,ℓ) =
k
a0,k · hk−2ℓ
k
d1,ℓ = (f0, ψ−1,ℓ) =
a0,k(ϕ0,k, ψ−1,ℓ) =
a0,k · gk−2ℓ
k
Далее, берем f1 = a1,k · ϕ−1,k =
a2,k · ϕ−2,k + d2,k · ψ−2,k
и находим a2,k, d2,k. . .
k
k

На j-ом шаге имеем
fj = aj,k · ϕ−j,k =
k
=
aj+1,k · ϕ −(j+1),k + dj+1,k · ψ −(j+1),k
aj+1,ℓ =
fj, ϕ−(j+1),ℓ aj,k ϕ−j,k, ϕ−(j+1),ℓ k
dj+1,ℓ = (yj, ψ−(j+1),ℓ) =
aj,k · gk−2ℓ
k
=
k
aj,k · hk−2ℓ
Начав с набора {a0,k}k, получаем на j-ом уровне разложения
наборы
aj,k – коэффициенты грубого приближения f
k
– коэффициенты оставшихся деталей
d1,k
k ,. . . , dj,k
k

Обратно, стартуем с некоторого уровня j, на котором имеем
коэффициенты
aj,k k и
d1,k k , . . . ,
dj,k k .
fj−1 = aj−1,k · ϕ −(j−1),k =
aj−1,ℓ =
fj, ϕ−(j−1),ℓ =
=
k
aj,k ϕ−(j−1),ℓ, ϕ−j,k
=
aj,k · hℓ−2k + dj,k · gℓ−2k
k
k
aj,k · ϕ−j,k + dj,k · ψ−j,k
+ dj,k ϕ−(j−1),ℓ, ψ−j,k =

Свертка
Есть две последовательности ak и bk.
Их сверткой называется новая последовательность a ∗ b
a ∗ b
ℓ
= ak · bℓ−k =
aℓ−k · bk = b ∗ a
k
. . . a−1 a0 a1 a2 a3 a4
. . .
. . . b1 b0 b−1 b−2 b−3 b−4 . . .
0
. . . a−1 a0 a1 a2 a3 a4 . . .
. . . b2 b1 b0 b−1 b−2 b−3 b−4 . . .
1
. . .
· · ·
a−1 a0 a1
· · ·
a2 a3
· · ·
a4
. . .
. . . bℓ+1 bℓ bℓ−1 bℓ−2 bℓ−3 bℓ−4 . . .
k
ℓ
ℓ

Запишем разложение и восстановление в терминах свертки
a ∗ b = ak · bℓ−k.
ℓ
k
Положим hk = h−k, gk = g−k = (−1) kh1−(−k) = (−1) kh1+k Разложение
aj+1,ℓ =
aj,k · hk−2ℓ =
k
k
aj,k ·h2ℓ−k = (aj ∗h)2ℓ
aj+1 = (aj ∗h) ↓
dj+1,ℓ =
aj,k · gk−2ℓ =
aj,k · g2ℓ−k = (aj ∗ g)2ℓ
k
dj+1 = (aj ∗ g) ↓
• Свертка сh и g.
• «Децимация» т. е. удаление из
aj+1,k
нечетных компонент.
k
k и dj+1,k
k

Восстановление
aj = (. . . , a−1, 0, a0, 0, a1, 0, a2, . . .) = aj ↑
dj = (. . . , d−1, 0, d0, 0, d1, 0, d2, . . .) = dj ↑
aj−1,ℓ =
aj,k · hℓ−2k + dj,k · gℓ−2k =
aj,k · hℓ−k + dj,k · gℓ−k =
k
= aj ∗ h
ℓ + dj ∗ g
ℓ
• Разбавление
aj,k k и
di,k нулями (т. е. построение новых
k
последовательностей с нечетными 0 компонентами и с четными
компонентами, заданными
aj,k k и
di,k k ).
• Свертка с h и g.
h и g – банк фильтров анализа
h и g – банк фильтров синтеза
k

ϕ(x) =
hk · 2 1/2 ϕ(2x − k) =
hk · ϕ1,k(x)
k
ψ(x) =
gk · ϕ1,k(x) =
(ϕ, ψ) =
k
=
ℓ
k
gk = (−1) k h1−k+2s, s ∈ Z
k
k
(−1) k h1−k+2m · ϕ1,k(x),
hk(−1) k h1−k+2s = [−k + s = −ℓ] =
hℓ+s(−1) ℓ+s h1−ℓ+s = (−1)
s
ℓ
hℓ+s(−1) ℓ h1−ℓ+s
. . . h−2+s h−1+s h0+s h1+s h2+s h3+s h4+s . . .
. . . h3+s −h2+s h1+s −h0+s h−1+s −h−2+s h−3+s . . .

h, g – банк фильтров анализа
h, g – банк фильтров синтеза
h = (h0, h1, . . . , hm)
gk = (−1) k h1−k+2s,
hk = h−k,
Пример. m = 3, s = 2
gk = g−k = (−1) k h 1−(−k) = (−1) k h1+k
h : h0 h1 h2 h3
g : h3 −h2 h1 −h0
h : h3 h2 h1 h0
g : −h0 h1 −h2 h3

Вейвлет-преобразование конечной
последовательности
Периодическое продолжение
f0, f1, . . . , fn – исходная последовательность коэффициентов
(сигнал), n = 2 N − 1,
h0,h1, . . . ,hm – фильтр
Периодически продолжим сигнал, период n + 1:
. . . , f0, f1, . . . , fn, f0, f1, . . . , fn, f0, f1, . . . , fn, f0, f1, . . . , fn, . . .
Сворачивая его с фильтром, получим периодическую
последовательность c тем же периодом n + 1:
. . . , a0, a1, . . . , an, a0, a1, . . . , an, a0, a1, . . . , an, a0, a1, . . . , an, . . .
В силу периодичность, достаточно запомнить n + 1 = 2 N
подряд идущих коэффициентов. После прореживания
останется половина коэффициентов, т. е. 2 N−1 .

Матричная форма записи вейвлет-преобразования для периодического
продолжения конечной последовательности длиной 2 N
Разложение
Восстановление
h : h0 h1 h2 h3
g : h3 −h2 h1 −h0
h : h3 h2 h1 h0
g : −h0 h1 −h2 h3
⎡
⎢
⎣
a1,0
a1,1
a1,2
a1,3
d1,0
d1,1
d1,2
d1,3
⎤
a1
=
d1
⎡
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ = ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎦ ⎣
h0 h1 h2 h3
h0 h1 h2 h3
h0 h1 h2 h3
h2 h3 h0 h1
g0 g1 g2 g3
g0 g1 g2 g3
g0 g1 g2 g3
g2 g3 g0 g1
h f
,
g
f = h T g T =
−1 h
=
g
a1
d1
T h
g
⎤ ⎡
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎥ ⎢
⎦ ⎣
= hT
T g
f0,0
f0,1
f0,2
f0,3
f0,4
f0,5
f0,6
f0,7
⎤
⎥
⎦

Характеристики всплесков
• Длина носителя (фильтра)
• Симметрия
• Количество нулевых моментов
• Гладкость (для сжатия наиболее широко используются
базисы, имеющие одну или две непрерывные производные)
• Ортогональность / биортогональность
µℓ =
R
x ℓ ψ(x) dx ℓ-ый момент
Пусть ψ имеет 3 нулевых момента: µ0 = 0, µ1 = 0, µ2 = 0.
Тогда, если f (x) = f (0) + f ′ (0)x + f ′′ (0)x 2 + o(x 2 ),
то (f , ψ) = (o(x 2 ), ψ).

h, g – банк фильтров анализа
h, g – банк фильтров синтеза (можно менять местами)
Ортогональные всплески
h
{Vj}, Vj ⊕ Wj = Vj+1, Vj ⊥ Wj, Wj ⊥ Wi
hk = h−k,
gk = (−1) k h1−k+2s, s ∈ Z gk = g−k = (−1) k h1+k
Биортогональные всплески
{Vj}, { Vj}, Vj + Wj = Vj+1, Vj + Wj = Vj+1,
Vj ⊥ Wj, Vj ⊥ Wj, Wj ⊥ Wi
Длина фильтра нечетна: hk = h−k (симметр. относительно 0)
Длина фильтра четна: h1+k = h−k (симметр. относительно 1/2)
h
gk = (−1) k h1−k
h
gk = (−1) k h1−k

Примеры банков фильтров
Банк фильтров Хаара
h = 1
√ 2 (1, 1) g = 1
√ 2 (−1, 1)
h = 1
√ 2 (1, 1) g = 1
√ 2 (1, −1)
Целочисленный банк фильтров (5,3)
h0 = 3/4 h±1 = 1/4 h±2 = −1/8
g0 = 1 g±1 = 1/2
h−1 = 1 h−2 = h0 = −1/2
g1 = 3/4 g2 = g0 = −1/4 g−1 = g3 = −1/8
−2 −1 0 1 2
h −1/8 1/4 3/4 1/4 −1/8
g 1/2 1 1/2
h −1/2 1 −1/2
g −1/8 −1/4 3/4 −1/4 −1/8

Банк (9,7)
h0 = +0.602949018236360,
h−1 = h1 = +0.266864118442875, h−2 = h2 = −0.078223266528990,
h−3 = h3 = −0.016864118442875, h−4 = h4 = +0.026748757410810
g−1 = +1.115087052457000, g−2 = g0 = −0.591271763114250,
g−3 = g1 = −0.057543526228500, g−4 = g2 = +0.091271763114250
h0 = +1.115087052457000, h−1 = h1 = +0.591271763114250,
h−2 = h2 = −0.057543526228500, h−3 = h3 = −0.091271763114250
g1 = +0.602949018236360,
g0 = g2 = −0.266864118442875, g−1 = g3 = −0.078223266528990,
g−2 = g4 = +0.016864118442875, g−3 = g5 = +0.026748757410810

Всплески Добеши (ортогональные)
Наибольшее число нулевых моментов ψ, совместимое
с длинной носителя
+ наименьшая ассиметрия
«Койфлеты» (ортогональные)
Наибольшее число нулевых моментов ϕ, ψ, совместимое
с длинной носителя
x ℓ ψ(x) dx = 0, ℓ = 0, . . . , L − 1
R
R
L – порядок койфлета
x ℓ ϕ(x) dx = 0, ℓ = 1, . . . , L − 1

Двумерное вейвлет-разложение
Одномерное разложение применяется к каждой строке, затем к
каждому столбцу.
В результате получается 4 диапазона: 1LL, 1HL, 1HH, 1HL.
Далее та же процедура применяется к диапазону 1LL.
В результате вновь получается 4 диапазона: 2LL, 2HL, 2HH,
2HL, и т. д.

Пример двумерного всплескового разложения
Исходное изображение Всплесковое разложение до 3 уровня
3LL 3LH
3HL 3HH 2LH
2HL 2HH 1LH
1HL 1HH

Преобразование цветовых пространств
и квантование в JPEG 2000

RGB → YCrCb (сжатие с потерями)
⎡ ⎤
Y
⎡
0.299 0.587 0.114
⎤ ⎡ ⎤
R
⎣Cr
⎦ = ⎣−0.16875
−0.33136 0.5 ⎦ · ⎣G⎦
Cb 0.5 −0.41869 −0.08131 B
⎡ ⎤ ⎡
R
⎣G⎦
= ⎣
B
1 0 1.402
⎤ ⎡ ⎤
Y
1 −0.34413 −0.71414⎦
· ⎣Cr
⎦
1 1.772 0 Cb
RGB → YUV (сжатие без потерь)
R + 2G + B
Y =
,
4
U + V
G = Y − ,
4
U = R − G,
R = U + G,
V = B − G
B = V + G

Квантование
Yb(u, v)
qb(u, v)
b – один из диапазонов LL, HL, LH, HH
Yb(u, v) – исходный коэффициент из диапазона b
qb(u, v) – квантованный коэффициент

|Yb(u, v)|
qb(u, v) = sign(Yb(u, v))
∆b = 2 R b−ε b
1 + µb
211
Rb – число бит на отсчет (число бит для хранения Yb(u, v))
Для хранения εb отводится 5 бит, для хранения µb – 11 бит
1) (εb, µb) передается для каждого диапазона LL, HL, LH, HH
2) передается одна пара (ε0, µ0), затем применяется формула
∆b
(εb, µb) = (ε0 − N + jb, µ0)
N – общее количество уровней разложения
jb – уровень разложения, соответствующий диапазону b
В этом случае ∆b изменяется на степень двойки в зависимости
от jb.
При сжатии без потерь ∆b = 1 (εb = Rb, µb = 0).

Обратное квантование
Rqb(u, v) – восстановленный коэффициент
0 γ < 1
⎧
⎪⎨ (qb(u, v) + γ)∆b, qb(u, v) > 0,
Rqb(u, v) = (qb(u, v) − γ)∆b,
⎪⎩
0,
qb(u, v) < 0,
иначе
γ = 0.5 восстанавливает значение в средней точке
γ < 0.5 улучшает PSNR восстановленного изображения, если
в разложении количество больших коэффициентов мало
Pекомендуемое значение γ = 0.375

Сравнение JPEG и JPEG2000