3.10 تحليل القيم المفردة (Singular Value Decomposition) 

    تحليل القيم المفردة (singular value decomposition) هو أسلوب عددي موثوق لحساب الرتبة (rank) وفضاء المدى (range space) وفضاء العدم (null space) لمصفوفة، كما رأينا في الأقسام السابقة. لذا فإن الإلمام به مفيد. أما نتيجته النظرية فلن تُستخدم إلا في القسم 7.10، ولذلك يمكن ربط دراسته بذلك القسم.

    لتكن $ \mathbf{H} $ مصفوفة حقيقية (real) بأبعاد $ m \times n $ . عرّف $ \mathbf{M} := \mathbf{H}'\mathbf{H} $ . من الواضح أن $ \mathbf{M} $ ذات أبعاد $ n \times n $ ، متناظرة وشبه موجبة التعريف (semidefinite). لذا فإن جميع قيمها الذاتية حقيقية وغير سالبة (صفرية أو موجبة). لتكن $ r $ عدد قيمها الذاتية الموجبة. عندئذ يمكن ترتيب القيم الذاتية للمصفوفة $ \mathbf{M} = \mathbf{H}'\mathbf{H} $ كما يلي

    $$ \lambda_ {1} ^ {2} \geq \lambda_ {2} ^ {2} \geq \dots \lambda_ {r} ^ {2} > 0 = \lambda_ {r + 1} = \dots = \lambda_ {n} $$

    ولتكن $ \bar{n} \coloneqq \min(m, n) $ . عندئذ تكون المجموعة

    $$ \lambda_ {1} \geq \lambda_ {2} \geq \dots \lambda_ {r} > 0 = \lambda_ {r + 1} = \dots = \lambda_ {\bar {n}} $$

    هي القيم المفردة (singular values) للمصفوفة $ \mathbf{H} $ . عادةً تُرتَّب القيم المفردة ترتيبًا تنازليًا في المقدار.

    مثال 3.10.1 اعتبر المصفوفة $ 2 \times 3 $

    $$ \mathbf {H} = \left[ \begin{array}{r r r} - 4 & - 1 & 2 \\ 2 & 0. 5 & - 1 \end{array} \right] $$

    نحسب

    $$ \mathbf {M} = \mathbf {H} ^ {\prime} \mathbf {H} = \left[ \begin{array}{r r r} 2 0 & 5 & - 1 0 \\ 5 & 1. 2 5 & - 2. 5 \\ - 1 0 & - 2. 5 & 5 \end{array} \right] $$

    ونحسب كثير حدودها المميِّز كما يلي

    $$ \det (\lambda \mathbf {I} - \mathbf {M}) = \lambda^ {3} - 2 6. 2 5 \lambda^ {2} = \lambda^ {2} (\lambda - 2 6. 2 5) $$

    وبالتالي فإن القيم الذاتية لـ $ \mathbf{H}'\mathbf{H} $ هي 26.25 و0 و0، والقيم المفردة لـ $ \mathbf{H} $ هي $ \sqrt{26.25} = 5.1235 $ و0. لاحظ أن عدد القيم المفردة يساوي $ \min(n,m) $ .

    وبالنظر إلى (3.70)، يمكننا أيضًا حساب القيم المفردة لـ $ \mathbf{H} $ من القيم الذاتية لـ $ \mathbf{HH}' $ . بالفعل، لدينا

    $$ \bar {\mathbf {M}} := \mathbf {H} \mathbf {H} ^ {\prime} = \left[ \begin{array}{r r} 2 1 & - 1 0. 5 \\ - 1 0. 5 & 5. 2 5 \end{array} \right] $$

    و

    $$ \det (\lambda \mathbf {I} - \bar {\mathbf {M}}) = \lambda^ {2} - 2 6. 2 5 \lambda = \lambda (\lambda - 2 6. 2 5) $$

    وعليه فإن القيم الذاتية لـ $ \mathbf{HH}' $ هي 26.25 و0 والقيم المفردة لـ $ \mathbf{H}' $ هي 5.1235 و0. نرى أن القيم الذاتية لـ $ \mathbf{H}'\mathbf{H} $ تختلف عن قيم $ \mathbf{HH}' $ فقط في عدد القيم الذاتية الصفرية، وأن القيم المفردة لـ $ \mathbf{H} $ تساوي القيم المفردة لـ $ \mathbf{H}' $ .

    بالنسبة إلى $ \mathbf{M} = \mathbf{H}'\mathbf{H} $ ، توجد، وفقًا لنظرية 3.6، مصفوفة متعامدة $ \mathbf{Q} $ بحيث

    $$ \mathbf {Q} ^ {\prime} \mathbf {H} ^ {\prime} \mathbf {H Q} = \mathbf {D} =: \mathbf {S} ^ {\prime} \mathbf {S} \tag {3.71} $$

    حيث إن $ \mathbf{D} $ مصفوفة قطرية $ n \times n $ تحتوي $ \lambda_i^2 $ على القطر. المصفوفة $ \mathbf{S} $ هي $ m \times n $ وتحتوي القيم المفردة $ \lambda_i $ على القطر. سيؤدي التلاعب في (3.71) في النهاية إلى النظرية التالية.

    نظرية 3.9 (تحليل القيم المفردة (Singular value decomposition)) 

    يمكن تحويل كل مصفوفة $ m \times n $ هي $ \mathbf{H} $ إلى الصورة

    $$ \mathbf {H} = \mathbf {R S Q} ^ {\prime} $$

    بحيث $ \mathbf{R}'\mathbf{R} = \mathbf{R}\mathbf{R}' = \mathbf{I}_m $ ، و $ \mathbf{Q}'\mathbf{Q} = \mathbf{Q}\mathbf{Q}' = \mathbf{I}_n $ ، و $ \mathbf{S} $ مصفوفة $ m \times n $ تحتوي القيم المفردة لـ $ \mathbf{H} $ على القطر.

    أعمدة $ \mathbf{Q} $ هي متجهات ذاتية مُطبَّعة متعامدة (orthonormalized eigenvectors) للمصفوفة $ \mathbf{H}'\mathbf{H} $ ، وأعمدة $ \mathbf{R} $ هي متجهات ذاتية مُطبَّعة متعامدة لـ $ \mathbf{HH'} $ . بعد حساب $ \mathbf{R} $ و $ \mathbf{S} $ و $ \mathbf{Q} $ ، تكون رتبة $ \mathbf{H} $ مساوية لعدد القيم المفردة غير الصفرية. إذا كانت رتبة $ \mathbf{H} $ هي $ r $ ، فإن الأعمدة $ r $ الأولى من $ \mathbf{R} $ تشكّل أساسًا متعامدًا معياريًا (orthonormal basis) لفضاء المدى لـ $ \mathbf{H} $ . أما الأعمدة $ (n - r) $ الأخيرة من $ \mathbf{Q} $ فتشكّل أساسًا متعامدًا معياريًا لفضاء العدم لـ $ \mathbf{H} $ . على الرغم من أن حساب تحليل القيم المفردة يستغرق وقتًا، فإنه موثوق جدًا ويعطي مقياسًا كميًا للرتبة. لذا يُستخدم في MATLAB لحساب الرتبة وفضاء المدى وفضاء العدم. في MATLAB، يمكن الحصول على القيم المفردة لـ $ \mathbf{H} $ بكتابة $ s = svd(H) $ . كتابة

    $ \left[\mathbb{R}, \mathbb{S}, \mathbb{Q}\right] = \operatorname{svd}(\mathbb{H}) $ تعطي المصفوفات الثلاث في النظرية. كتابة $ \operatorname{orth}(\mathbb{H}) $ و null $ (\mathbb{H}) $ تعطي، على الترتيب، أسسًا متعامدة معيارياً لفضاء المدى وفضاء العدم للمصفوفة $ \mathbf{H} $ . ستُستخدم الدالة null مرارًا في الفصل 7.

    مثال 3.10.2 اعتبر المصفوفة في (3.11). نكتب

    $$ a = \left[ 0 \quad 1 \quad 1 \quad 2; 1 \quad 2 \quad 3 \quad 4; 2 \quad 0 \quad 2 \quad 0 \right]; $$
    $$ [ r, s, q ] = \operatorname {s v d} (a) $$

    والتي تعطي

    $$ r = \left[ \begin{array}{c c c} - 0. 3 7 8 2 & - 0. 3 0 8 4 & 0. 8 7 2 9 \\ - 0. 8 8 7 7 & - 0. 1 4 6 8 & - 0. 4 3 6 4 \\ - 0. 2 6 2 7 & 0. 9 3 9 9 & 0. 2 1 8 2 \end{array} \right], \qquad s = \left[ \begin{array}{c c c c} 6. 1 5 6 8 & 0 & 0 & 0 \\ 0 & 2. 4 6 8 6 & 0 & 0 \\ 0 & 0 & 0 & 0 \end{array} \right] $$
    $$ q = \left[ \begin{array}{r r r r} - 0. 2 2 9 5 & 0. 7 0 2 0 & - 0. 6 1 9 4 & - 0. 2 6 6 2 \\ - 0. 3 4 9 8 & - 0. 2 4 3 9 & 0. 2 2 9 3 & - 0 8 7 5 0 \\ - 0. 5 7 9 3 & 0. 4 5 8 1 & 0. 6 1 9 4 & 0. 2 6 6 2 \\ - 0. 6 9 9 6 & - 0. 4 8 7 7 & - 0. 4 2 4 3 & - 0. 3 0 4 4 \end{array} \right] $$

    وهكذا فإن القيم المفردة للمصفوفة $ \mathbf{A} $ في (3.11) هي 6.1568 و2.4686 و0. للمصفوفة قيمتان مفردتان غير صفريتين، لذا رتبتها 2، وبالتالي عدمّيتها $ 4 - \rho(\mathbf{A}) = 2 $ . العمودان الأولان من $ r $ هما أساس متعامد معياريًا في (3.13) تقريبًا، والعمودان الأخيران من $ q $ هما الأساس المتعامد المعياري في (3.14).