Dekomposisi Nilai Singular
Bab 10 dan Bab 15 membahas cara memfaktorkan matriks persegi menjadi bentuk diagonal menggunakan nilai eigen dan sumbu utama. Namun, batasan ruang tersebut sangat kaku: dekomposisi konvensional langsung runtuh ketika menghadapi matriks non-persegi (persegi panjang). Bab ini menghadirkan puncak mahkota terpenting dari seluruh disiplin ilmu aljabar linear terapan: Dekomposisi Nilai Singular (Singular Value Decomposition atau SVD). SVD membebaskan kita dari batasan dimensi persegi, memungkinkan sebarang matriks berukuran berapa pun untuk dipecah secara stabil menjadi sepasang matriks ortogonal dan satu matriks diagonal. Struktur universal ini bertindak sebagai alat analitis paling perkasa dalam algoritma kompresi data, pemrosesan citra digital, serta estimasi solusi pseudo-invers dunia nyata.
16.1 Motivasi: Diagonalisasi Matriks Non-Persegi
Mari kita evaluasi batasan teoretis dari materi diagonalisasi $A = PDP^{-1}$ yang telah dibahas pada Bab 10. Agar formulasi tersebut dapat dikonstruksi, kita membutuhkan dua syarat mutlak: matriks $A$ harus berbentuk persegi ($n \times n$), dan ia wajib memuat sebanyak tepat $n$ buah vektor eigen yang bebas linear. Jika kita memiliki matriks data berukuran persegi panjang ($m \times n$), konsep nilai eigen tidak dapat didefinisikan karena perkalian dimensi $A\mathbf{x} = \lambda\mathbf{x}$ akan menghasilkan kontradiksi ukuran ruang antara domain $\mathbb{R}^n$ dengan kodomain $\mathbb{R}^m$.
Dekomposisi Nilai Singular (SVD) menjawab tantangan geometri tersebut dengan cara mencari sepasang basis ortonormal yang berbeda untuk menjembatani ruang asal dengan ruang tujuan secara terpisah:
- Kita mencari sebuah basis ortonormal untuk ruang domain $\mathbb{R}^n$ yang disusun ke dalam kolom-kolom matriks ortogonal $V$.
- Kita mencari sebuah basis ortonormal untuk ruang kodomain $\mathbb{R}^m$ yang disusun ke dalam kolom-kolom matriks ortogonal $U$.
Untuk menghubungkan kedua ruang yang berbeda ukuran tersebut tanpa merusak sifat ketegaklurusan, kita memanfaatkan karakteristik dari matriks produk simetris. Jika matriks koefisien awal $A$ berukuran $m \times n$, kita dapat mengalikan matriks tersebut dengan transpose-nya sendiri dari dua arah terpisah untuk melahirkan dua buah matriks persegi simetris yang bersifat riil:
Berdasarkan kepastian hukum dari Teorema Spektral Matriks Simetris (Teorema 15.4), kedua matriks produk di atas dijamin selalu dapat didiagonalkan secara ortogonal, memuat seluruh nilai eigen bernilai riil, serta tidak pernah memuat karakteristik cacat ruang. Eksistensi inilah yang melahirkan fondasi mekanis pembentukan nilai singular.
Misalkan $\lambda$ adalah sebarang nilai eigen dari matriks produk $A^T A$ yang berpasangan dengan vektor eigen tak-nol $\mathbf{x}$. Mari kita hitung nilai norma kuadrat dari hasil perkalian $A\mathbf{x}$:
Karena nilai norma kuadrat $\|A\mathbf{x}\|^2 \geq 0$ dan $\|\mathbf{x}\|^2 > 0$ berdasarkan aksioma positif definit, maka hubungan aljabar di atas memaksa nilai eigen untuk selalu bernilai non-negatif:
Fakta ini memastikan kita selalu aman untuk melakukan operasi penarikan akar kuadrat terhadap seluruh nilai eigen produk tanpa perlu menghadapi bilangan imajiner.
16.2 Teorema Utama SVD: $A = U\Sigma V^T$
Dekomposisi Nilai Singular menyatakan bahwa sebarang matriks real berukuran persegi panjang dapat difaktorkan menjadi produk perkalian tiga matriks khusus. Sepasang matriks bertindak sebagai operator rotasi ortogonal, dan satu matriks penengah bertindak sebagai operator regangan diagonal.
Misalkan $A$ adalah sebuah matriks real sebarang berukuran $m \times n$ dengan rank sebesar $r$. Maka matriks $A$ dijamin dapat didekomposisikan menjadi perkalian berantai tiga matriks:
Di mana karakteristik dan dimensi dari masing-masing komponen didefinisikan sebagai:
- Matriks $U$ (Left Singular Vectors): Matriks ortogonal berukuran $m \times m$ yang kolom-kolomnya berisi vektor satuan ortonormal pembentuk ruang kolom dan ruang kosong kiri dari matriks $A$.
- Matriks $V$ (Right Singular Vectors): Matriks ortogonal berukuran $n \times n$ yang kolom-kolomnya berisi vektor satuan ortonormal pembentuk ruang baris dan ruang kosong dari matriks $A$.
- Matriks $\Sigma$ (Matriks Nilai Singular): Matriks persegi panjang berukuran $m \times n$ yang memuat entri diagonal berupa nilai-nilai singular, disusun secara monoton menurun.
Hubungan penentuan komponen diikat melalui operasi penarikan akar kuadrat dari spektrum nilai eigen positif matriks $A^T A$:
Konstanta real positif $\sigma_i$ ini disebut sebagai nilai singular (singular values) dari matriks $A$. Jika $r < n$, maka seluruh entri diagonal sisa dari posisi ke-$(r+1)$ hingga akhir akan diisi oleh nilai nol.
| Komponen | Dimensi | Sifat Aljabar | Asal Usul Konstruksi |
|---|---|---|---|
| $U$ | $m \times m$ | Ortogonal ($U^{-1} = U^T$) | Vektor eigen ortonormal dari $AA^T$. |
| $\Sigma$ | $m \times n$ | Diagonal Semu | Akar kuadrat nilai eigen $A^TA$, disusun menurun, sisa diisi nol. |
| $V^T$ | $n \times n$ | Ortogonal ($V^{-1} = V^T$) | Transpose dari vektor eigen ortonormal $A^TA$. |
Formulasi $A = U\Sigma V^T$ membongkar mekanika pemetaan linear dari sebarang matriks. Ketika sebuah matriks mengalikan sebuah vektor, aksi tersebut dieksekusi melalui tiga tahapan geometri berurutan, dibaca dari kanan ke kiri:
- Perkalian pertama dengan $V^T$ melakukan operasi rotasi atau refleksi pada ruang domain $\mathbb{R}^n$ tanpa mengubah panjang objek.
- Perkalian kedua dengan $\Sigma$ melakukan operasi peregangan atau penyusutan skala sepanjang sumbu utama berdasarkan magnitudo masing-masing nilai singular.
- Perkalian terakhir dengan $U$ melakukan operasi rotasi final untuk menempatkan objek di dalam ruang tujuan $\mathbb{R}^m$.
Abstraksi ini membuktikan bahwa sebarang pemetaan linear serumit apa pun dapat didekonstruksi menjadi kombinasi sederhana rotasi–regangan–rotasi.
16.3 Prosedur Runtut Menghitung Komponen SVD
Untuk mengonstruksi komponen dekomposisi $A = U\Sigma V^T$ secara manual, aljabar menyediakan urutan langkah komputasi yang teratur. Kunci stabilitasnya terletak pada pembentukan matriks $V$ dan $\Sigma$ terlebih dahulu melalui analisis spektral $A^T A$, diikuti dengan penurunan kolom-kolom matriks $U$ secara berantai.
Diberikan sebarang matriks $A$ berukuran $m \times n$, seluruh komponen dikunci melalui rangkaian tahapan berikut:
- Bentuk matriks persegi simetris $A^T A$ berukuran $n \times n$.
- Hitung seluruh nilai eigen $\lambda_i$ dan urutkan dari terbesar hingga terkecil ($\lambda_1 \geq \lambda_2 \geq \ldots \geq 0$).
- Konstruksikan entri matriks $\Sigma$ berukuran $m \times n$ dengan meletakkan $\sigma_i = \sqrt{\lambda_i}$ pada posisi diagonal utama semu.
- Cari vektor eigen dari $A^T A$. Lakukan normalisasi untuk menyusun kolom-kolom matriks ortogonal $V$.
- Konstruksi Vektor $\mathbf{u}_i$: Kolom-kolom matriks $U$ untuk indeks $i \leq r$ dihitung dari vektor-vektor $V$ menggunakan rumus:
\[ \mathbf{u}_i = \frac{1}{\sigma_i} A \mathbf{v}_i \]
- Jika $r < m$, lengkapi kolom sisa matriks $U$ menggunakan basis ruang kosong kiri via $A^T \mathbf{u} = \mathbf{0}$ dan normalisasi Gram-Schmidt.
Dekomposisikan matriks $A = \begin{bmatrix} 3 & 2 \\ 2 & 0 \end{bmatrix}$ menjadi $U\Sigma V^T$.
Penyelesaian Analitis:
Langkah 1: Bentuk $A^T A$ dan Hitung Nilai Eigen
Nilai eigen: $\lambda_1 = 16$, $\lambda_2 = 1$. Nilai singular: $\sigma_1 = 4$, $\sigma_2 = 1$.
Langkah 2: Konstruksi Matriks $\Sigma$
Langkah 3: Cari Vektor Eigen $A^T A$ untuk Membangun $V$
Untuk $\lambda_1 = 16$: $\begin{bmatrix} -3 & 6 \\ 6 & -12 \end{bmatrix}\mathbf{x} = \mathbf{0} \implies x_1 = 2x_2$. Basis: $\begin{bmatrix} 2 \\ 1 \end{bmatrix}$, dinormalisasi: $\mathbf{v}_1 = \frac{1}{\sqrt{5}}\begin{bmatrix} 2 \\ 1 \end{bmatrix}$.
Untuk $\lambda_2 = 1$: $\begin{bmatrix} 12 & 6 \\ 6 & 3 \end{bmatrix}\mathbf{x} = \mathbf{0} \implies x_1 = -\tfrac{1}{2}x_2$. Basis: $\begin{bmatrix} -1 \\ 2 \end{bmatrix}$, dinormalisasi: $\mathbf{v}_2 = \frac{1}{\sqrt{5}}\begin{bmatrix} -1 \\ 2 \end{bmatrix}$.
Verifikasi ortogonalitas: $\mathbf{v}_1 \cdot \mathbf{v}_2 = \frac{1}{5}(-2+2) = 0$ (\checkmark).
Langkah 4: Konstruksi Kolom Matriks $U$
Langkah 5: Verifikasi Rekonstruksi
Kesimpulan: SVD lengkap: $A = U\Sigma V^T$ dengan komponen di atas. ∎
Dekomposisikan matriks $A = \begin{bmatrix} 3 & 2 & 2 \\ 2 & 3 & -2 \end{bmatrix}$ menjadi $U\Sigma V^T$.
Penyelesaian Analitis:
Langkah 1: Bentuk $A^T A$ dan Hitung Nilai Eigen
Evaluasi $\det(A^T A - \lambda I_3)$ dengan ekspansi kofaktor sepanjang baris ketiga:
Nilai eigen: $\lambda_1 = 25$, $\lambda_2 = 9$, $\lambda_3 = 0$. Nilai singular: $\sigma_1 = 5$, $\sigma_2 = 3$, $\sigma_3 = 0$. Rank: $r = 2$.
Langkah 2: Konstruksi $\Sigma$
Langkah 3: Cari Vektor Eigen $A^T A$ untuk Membangun $V$
Untuk $\lambda_1 = 25$: $(A^TA - 25I)\mathbf{x} = \mathbf{0}$. Reduksi baris menghasilkan $x_1 = x_2$, $x_3 = 0$. Basis: $\begin{bmatrix}1\\1\\0\end{bmatrix}$.
Untuk $\lambda_2 = 9$: $(A^TA - 9I)\mathbf{x} = \mathbf{0}$. Reduksi baris menghasilkan $x_1 = \tfrac{1}{4}x_3$, $x_2 = -\tfrac{1}{4}x_3$. Basis: $\begin{bmatrix}1\\-1\\4\end{bmatrix}$.
Untuk $\lambda_3 = 0$: $A^TA\mathbf{x} = \mathbf{0}$. Reduksi baris menghasilkan $x_1 = -2x_3$, $x_2 = 2x_3$. Basis: $\begin{bmatrix}2\\-2\\-1\end{bmatrix}$.
Normalisasi seluruh vektor dan susun menjadi matriks $V$:
Langkah 4: Konstruksi Kolom Matriks $U$
Karena $r = m = 2$, tidak perlu kolom tambahan. Matriks $U$ berukuran $2 \times 2$:
Kesimpulan: Dekomposisi SVD dari matriks $2 \times 3$ berhasil dikonstruksi secara lengkap. ∎
16.4 Formulasi Kompaktifikasi Thin SVD
Dalam era pemrosesan data masif, menyimpan matriks SVD dalam format ordo penuh (Full SVD) terbukti sangat memboroskan memori. Jika kita memiliki matriks citra berukuran $10000 \times 100$, matriks $U$ penuh akan memakan ruang $10000 \times 10000$ elemen — sebuah beban yang tidak efisien.
Karena rank maksimal $r$ dibatasi oleh dimensi terkecil matriks, seluruh baris dan kolom yang mengikat entri nilai singular nol pada matriks $\Sigma$ dapat dipangkas total dari memori tanpa mengubah hasil perkalian akhir. Format ringkas ini disebut sebagai Thin SVD:
Di mana $U_r$ berukuran $m \times r$, $\Sigma_r$ berbentuk persegi diagonal berukuran $r \times r$, dan $V_r^T$ berukuran $r \times n$.
Tuliskan bentuk Thin SVD dari matriks pada Contoh 16.2 dan bandingkan jumlah elemen penyimpanan.
Penyelesaian Analitis:
Karena $r = 2$, kita pangkas matriks $\Sigma$ dari $2 \times 3$ menjadi $\Sigma_r$ berukuran $2 \times 2$ dengan membuang kolom ketiga (yang seluruhnya nol). Demikian pula, kita ambil hanya 2 kolom pertama dari $V$:
Perbandingan Penyimpanan:
- Full SVD: $U$ ($2 \times 2 = 4$) $+$ $\Sigma$ ($2 \times 3 = 6$) $+$ $V$ ($3 \times 3 = 9$) = 19 elemen.
- Thin SVD: $U_2$ ($2 \times 2 = 4$) $+$ $\Sigma_2$ ($2 \times 2 = 4$) $+$ $V_2^T$ ($2 \times 3 = 6$) = 14 elemen.
- Matriks asli $A$: 6 elemen.
Pada kasus ini penghematan belum signifikan karena dimensi kecil. Namun untuk matriks $m \times n$ dengan $r \ll \min(m,n)$, penghematan menjadi sangat drastis. ∎
16.5 Konseptualisasi Pseudoinvers Moore-Penrose
Pada Bab 4, kita menegaskan bahwa operasi invers matriks konvensional ($A^{-1}$) hanya terdefinisi untuk matriks persegi non-singular. Masalah besar muncul ketika kita dituntut untuk mencari inversi dari matriks berukuran persegi panjang.
Dengan memanfaatkan struktur SVD, aljabar linear memperkenalkan Pseudoinvers Moore-Penrose, dinotasikan $A^+$ (baca: A plus). Konseptualisasi ini memberikan generalisasi inversi terbaik yang bekerja untuk sebarang ukuran matriks.
Misalkan $A = U\Sigma V^T$ adalah dekomposisi SVD dari matriks berukuran $m \times n$. Matriks pseudoinvers $A^+$ berukuran $n \times m$ didefinisikan melalui:
Di mana $\Sigma^+$ berukuran $n \times m$ dikonstruksi dengan mengambil invers dari setiap nilai singular non-nol ($1/\sigma_i$), sementara entri nol dipertahankan nol.
Jika sistem $A\mathbf{x} = \mathbf{b}$ inkonsisten, maka $\hat{\mathbf{x}} = A^+ \mathbf{b}$ menghasilkan solusi kuadrat terkecil yang persis sama dengan rumusan persamaan normal (Teorema 14.4). Jika kolom-kolom $A$ tidak bebas linear, operator $A^+$ akan memilih solusi unik dengan norma terkecil ($\|\hat{\mathbf{x}}\|$ minimum) dari tak hingga solusi yang tersedia.
Hitunglah pseudoinvers $A^+$ dari matriks $A = \begin{bmatrix} 3 & 2 \\ 2 & 0 \end{bmatrix}$ menggunakan SVD dari Contoh 16.1, lalu bandingkan dengan invers konvensional $A^{-1}$.
Penyelesaian Analitis:
Dari Contoh 16.1: $U = \frac{1}{\sqrt{5}}\begin{bmatrix} 2 & 1 \\ 1 & -2 \end{bmatrix}$, $\Sigma = \begin{bmatrix} 4 & 0 \\ 0 & 1 \end{bmatrix}$, $V = \frac{1}{\sqrt{5}}\begin{bmatrix} 2 & -1 \\ 1 & 2 \end{bmatrix}$.
Langkah 1: Konstruksi $\Sigma^+$
Invers setiap nilai singular pada diagonal: $\frac{1}{4}$ dan $\frac{1}{1}$:
Langkah 2: Hitung $A^+ = V\Sigma^+U^T$
Langkah 3: Bandingkan dengan $A^{-1}$
Kesimpulan: $A^+ = A^{-1}$ secara identik (\checkmark). Untuk matriks persegi invertibel, pseudoinvers Moore-Penrose tepat sama dengan invers konvensional. Ini menunjukkan bahwa $A^+$ merupakan perluasan konsisten dari konsep inversi klasik. ∎
16.6 Struktur SVD dan Empat Subruang Fundamental
Dekomposisi SVD bertindak sebagai instrumen analitis tertinggi karena ia mampu menyingkap anatomi geometri dari empat subruang fundamental milik suatu matriks secara simultan. Kolom-kolom ortonormal dari matriks $U$ dan $V$ membagi ruang tersebut secara presisi berdasarkan rank $r$.
Misalkan $A = U\Sigma V^T$ adalah dekomposisi SVD dari matriks berukuran $m \times n$ dengan rank $r$. Maka kolom-kolom ortonormal dari $U$ dan $V$ mengunci himpunan basis berikut:
- Basis Ruang Kolom ($\text{Col}(A)$): $\{\mathbf{u}_1, \mathbf{u}_2, \ldots, \mathbf{u}_r\}$ — $r$ kolom pertama $U$.
- Basis Ruang Kosong Kiri ($\text{Null}(A^T)$): $\{\mathbf{u}_{r+1}, \ldots, \mathbf{u}_m\}$ — sisa kolom $U$.
- Basis Ruang Baris ($\text{Row}(A)$): $\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_r\}$ — $r$ kolom pertama $V$.
- Basis Ruang Kosong ($\text{Null}(A)$): $\{\mathbf{v}_{r+1}, \ldots, \mathbf{v}_n\}$ — sisa kolom $V$.
Gunakan hasil SVD dari Contoh 16.2 untuk mengidentifikasi keempat subruang fundamental dari matriks $A = \begin{bmatrix} 3 & 2 & 2 \\ 2 & 3 & -2 \end{bmatrix}$.
Penyelesaian Analitis:
Dari Contoh 16.2: $r = 2$, $m = 2$, $n = 3$.
1. Ruang Kolom $\text{Col}(A) \subseteq \mathbb{R}^2$:
Basis: $\{\mathbf{u}_1, \mathbf{u}_2\} = \left\{\frac{1}{\sqrt{2}}\begin{bmatrix}1\\1\end{bmatrix},\; \frac{1}{\sqrt{2}}\begin{bmatrix}1\\-1\end{bmatrix}\right\}$.
Karena $r = m = 2$, ruang kolom memenuhi seluruh $\mathbb{R}^2$. Ini konsisten: dua kolom $A$ yang bebas linear sudah cukup membentang $\mathbb{R}^2$.
2. Ruang Kosong Kiri $\text{Null}(A^T) \subseteq \mathbb{R}^2$:
Tidak ada kolom sisa pada $U$ (karena $r = m$), sehingga $\text{Null}(A^T) = \{\mathbf{0}\}$. Ini konsisten dengan Rank–Nullity: $\dim\text{Null}(A^T) = m - r = 0$.
3. Ruang Baris $\text{Row}(A) \subseteq \mathbb{R}^3$:
Basis: $\{\mathbf{v}_1, \mathbf{v}_2\} = \left\{\frac{1}{\sqrt{2}}\begin{bmatrix}1\\1\\0\end{bmatrix},\; \frac{1}{3\sqrt{2}}\begin{bmatrix}1\\-1\\4\end{bmatrix}\right\}$.
Ini adalah subruang berdimensi 2 di dalam $\mathbb{R}^3$ — sebuah bidang yang melalui titik asal.
4. Ruang Kosong $\text{Null}(A) \subseteq \mathbb{R}^3$:
Basis: $\{\mathbf{v}_3\} = \left\{\frac{1}{3}\begin{bmatrix}2\\-2\\-1\end{bmatrix}\right\}$.
Verifikasi: $A\mathbf{v}_3 = \begin{bmatrix}3&2&2\\2&3&-2\end{bmatrix}\frac{1}{3}\begin{bmatrix}2\\-2\\-1\end{bmatrix} = \frac{1}{3}\begin{bmatrix}6-4-2\\4-6+2\end{bmatrix} = \begin{bmatrix}0\\0\end{bmatrix}$ (\checkmark).
Verifikasi Ortogonalitas Komplemen:
Ruang Baris $\perp$ Ruang Kosong sesuai hukum komplemen ortogonal (Bab 12). ∎
16.7 Teorema Aproksimasi Matriks Low-Rank
Salah satu kekuatan SVD di dalam dunia kecerdasan buatan dan analisis data adalah kemampuannya untuk mengurai matriks data masif menjadi jumlah akumulasi matriks rank-satu. Ekspansi aljabar ini dituliskan sebagai:
Karena nilai-nilai singular disusun secara monoton menurun ($\sigma_1 \geq \sigma_2 \geq \dots \geq 0$), suku-suku awal menampung porsi terbesar informasi. Sifat ini melahirkan algoritma kompresi data melalui aproksimasi rank rendah.
Misalkan $A$ berukuran $m \times n$ dengan rank $r$ dan ekspansi SVD luar. Jika kita ingin mencari matriks hampiran $A_k$ berukuran sama dengan rank $k < r$ yang meminimalkan galat norma Frobenius, maka pilihan terbaik dikunci secara eksklusif dengan mengambil $k$ suku pertama:
Matriks $A_k$ disebut sebagai matriks aproksimasi rank rendah terbaik (best low-rank approximation) bagi $A$, dengan galat $\|A - A_k\|_F = \sqrt{\sigma_{k+1}^2 + \cdots + \sigma_r^2}$.
Gunakan ekspansi SVD dari Contoh 16.2 untuk mengkonstruksi matriks aproksimasi rank-satu $A_1$, lalu verifikasi bahwa galat norma Frobenius bernilai sama dengan $\sigma_2$.
Penyelesaian Analitis:
Langkah 1: Konstruksi $A_1 = \sigma_1 \mathbf{u}_1\mathbf{v}_1^T$
Langkah 2: Hitung Matriks Residu
Langkah 3: Verifikasi Galat Norma Frobenius
Kesimpulan: Galat aproksimasi rank-satu tepat sama dengan nilai singular kedua, sesuai prediksi Teorema Eckart-Young-Mirsky. Matriks $A_1$ menggunakan hanya $2+3+1 = 6$ parameter (dua entri $\mathbf{u}_1$, tiga entri $\mathbf{v}_1^T$, satu skalar $\sigma_1$), dibandingkan 6 entri matriks asli. Pada dimensi kecil ini penghematan belum terlihat, namun untuk matriks $1000 \times 1000$ dengan rank 10, penghematan menjadi sangat signifikan: $10 \times (1000+1000+1) \approx 20\,000$ parameter versus $1\,000\,000$ entri asli — pengurangan 98%. ∎
16.8 Aplikasi Komputasi: Kompresi Citra Digital
Dalam rekayasa multimedia, sebuah citra digital hitam-putih (grayscale) sejatinya berwujud sebuah matriks raksasa berukuran $m \times n$, di mana setiap entri menyimpan nilai intensitas kecerahan piksel.
Melalui implementasi Teorema Eckart-Young-Mirsky, kita dapat mengompresi ukuran file gambar secara dramatis tanpa merusak kualitas visual secara kasat mata. Alih-alih menyimpan seluruh matriks padat $A$ ($m \times n$ elemen), komputer cukup menyimpan $k$ buah vektor left singular, $k$ buah vektor right singular, bersama $k$ buah nilai singular. Rasio penghematan dievaluasi melalui:
Skenario reduksi ini memotong kebutuhan memori hingga lebih dari delapan puluh persen, menjadikannya fondasi utama di dalam algoritma prapemrosesan data masif.
Bab 16 melambangkan puncak pencapaian kurikulum aljabar linear. Kita berhasil membebaskan seluruh teori fungsional dari batasan ordo persegi yang mengikat kita sejak awal.
Melalui dekomposisi SVD ($A = U\Sigma V^T$), sebarang matriks persegi panjang dapat dijinakkan menjadi kombinasi geometri sederhana rotasi–regangan–rotasi. Konsep pseudoinvers Moore-Penrose ($A^+$) melengkapi Teorema Invertibel Matriks ke ranah matriks non-persegi, membuktikan bahwa operasi pembagian aljabar selalu terdefinisi bagi sebarang dimensi. Penemuan Teorema Eckart-Young-Mirsky membuktikan bahwa penataan nilai singular bertindak sebagai filter penyaring informasi yang cerdas.
Tiga pilar ini — unifikasi empat subruang fundamental (Teorema 16.2), stabilitas faktorisasi universal, dan efisiensi penyimpanan Thin SVD — bertindak sebagai motor penggerak industri terpenting yang akan langsung kita aplikasikan untuk memproses ekstraksi fitur data utama pada Bab 19 (Analisis Data: PCA & Regresi) serta pemodelan regresi ridge tingkat lanjut.
- Dekomposisikan matriks $A = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}$ menjadi komponen SVD $U\Sigma V^T$. (Petunjuk: Ikuti alur langkah yang sama dengan Contoh 16.1.)
- Diberikan hasil SVD dari Contoh 16.2:
\[ U = \frac{1}{\sqrt{2}}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}, \qquad \Sigma = \begin{bmatrix} 5 & 0 & 0 \\ 0 & 3 & 0 \end{bmatrix}, \qquad V = \begin{bmatrix} \frac{1}{\sqrt{2}} & \frac{1}{3\sqrt{2}} & \frac{2}{3} \\[4pt] \frac{1}{\sqrt{2}} & -\frac{1}{3\sqrt{2}} & -\frac{2}{3} \\[4pt] 0 & \frac{4}{3\sqrt{2}} & -\frac{1}{3} \end{bmatrix} \]
- (a) Konstruksikan matriks Pseudoinvers Moore-Penrose ($A^+$) berukuran $3 \times 2$ menggunakan rumus $A^+ = V\Sigma^+U^T$. (Petunjuk: Tentukan $\Sigma^+$ terlebih dahulu, lalu ikuti pola perhitungan pada Contoh 16.4.)
- (b) Verifikasi bahwa $AA^+ = I_2$.
- Tuliskan bentuk Thin SVD dari matriks pada soal nomor 1. Berapa penghematan elemen yang diperoleh dibandingkan Full SVD? (Petunjuk: Bandingkan dengan Contoh 16.3.)
- Gunakan komponen SVD dari Contoh 16.2 untuk mengkonstruksi matriks aproksimasi rank-satu $A_1$ (seperti pada Contoh 16.6), lalu hitung persentase informasi yang dipertahankan: $\frac{\sigma_1^2}{\sigma_1^2+\sigma_2^2} \times 100\%$. Interpretasikan hasilnya dalam konteks kompresi data.
- Soal Pemikiran Analitis Sifat Invarian SVD: Buktikan secara formal menggunakan manipulasi aljabar bahwa matriks $A^T A$ dan $AA^T$ memiliki himpunan nilai eigen positif yang sama. Hubungkan pembuktian ini dengan alasan mengapa nilai singular ($\sigma_i$) bersifat unik terlepas dari apakah kita memulai perhitungan dari $A^TA$ atau $AA^T$.
- Soal Pemikiran Hubungan SVD–Kuadrat Terkecil: Jelaskan secara konseptual mengapa pemakaian $\hat{\mathbf{x}} = A^+\mathbf{b}$ untuk sistem overdetermined inkonsisten menghasilkan solusi kuadrat terkecil yang identik dengan $\hat{\mathbf{x}} = (A^TA)^{-1}A^T\mathbf{b}$. Petunjuk: substitusikan $A = U\Sigma V^T$ ke dalam kedua rumus dan manfaatkan sifat ortogonal.