3.9 الصيغة التربيعية (Quadratic Form) والتعريف الموجب (Positive Definiteness) 

    تُسمّى المصفوفة الحقيقية (real) $ \mathbf{M} $ ذات الأبعاد $ n \times n $ متناظرة (symmetric) إذا كان منقولها يساوي نفسها. تُسمّى الدالة القياسية (scalar function) $ \mathbf{x}'\mathbf{M}\mathbf{x} $ ، حيث إن $ \mathbf{x} $ متجه حقيقي بأبعاد $ n \times 1 $ و $ \mathbf{M}' = \mathbf{M} $ ، صيغة تربيعية (quadratic form). نبيّن أن جميع القيم الذاتية للمصفوفة المتناظرة $ \mathbf{M} $ حقيقية.

    القيم الذاتية والمتجهات الذاتية للمصفوفات الحقيقية قد تكون مركبة، كما في المثال 3.5.2. لذلك يجب أن نسمح لـ $ \mathbf{x} $ بأن تكون مركبة مؤقتًا وننظر إلى الدالة القياسية $ \mathbf{x}^{*}\mathbf{M}\mathbf{x} $ ، حيث إن $ \mathbf{x}^{*} $ هو المنقول المرافق (complex conjugate transpose) للمتجه $ \mathbf{x} $ . أخذ المنقول المرافق لـ $ \mathbf{x}^{*}\mathbf{M}\mathbf{x} $ يعطي

    $$ \left(\mathbf {x} ^ {*} \mathbf {M} \mathbf {x}\right) ^ {*} = \mathbf {x} ^ {*} \mathbf {M} ^ {*} \mathbf {x} = \mathbf {x} ^ {*} \mathbf {M} ^ {\prime} \mathbf {x} = \mathbf {x} ^ {*} \mathbf {M} \mathbf {x} \tag {3.67} $$

    حيث استخدمنا حقيقة أن المنقول المرافق لمصفوفة حقيقية $ \mathbf{M} $ يختزل إلى المنقول فقط. وبالتالي فإن $ \mathbf{x}^{*}\mathbf{M}\mathbf{x} $ حقيقية لأي $ \mathbf{x} $ مركب. لا يصح هذا الادعاء إذا لم تكن $ \mathbf{M} $ متناظرة. لتكن $ \lambda $ قيمة ذاتية لـ $ \mathbf{M} $ ولتكن $ \mathbf{v} $ متجهها الذاتي، أي $ \mathbf{M}\mathbf{v} = \lambda \mathbf{v} $ . وبما أن

    $$ \mathbf {v} ^ {*} \mathbf {M} \mathbf {v} = \mathbf {v} ^ {*} \lambda \mathbf {v} = \lambda \left(\mathbf {v} ^ {*} \mathbf {v}\right) \tag {3.68} $$

    وبما أن كلًا من $ \mathbf{v}^{*}\mathbf{M}\mathbf{v} $ و $ \mathbf{v}^{*}\mathbf{v} $ عددان حقيقيان، فإن القيمة الذاتية $ \lambda $ يجب أن تكون حقيقية. وهذا يبيّن أن جميع القيم الذاتية للمصفوفة المتناظرة $ \mathbf{M} $ حقيقية. وبعد إثبات هذه الحقيقة، يمكننا العودة لدراسة المتجه الحقيقي $ \mathbf{x} $ حصريًا.

    القيم الذاتية لمصفوفة متناظرة $ \mathbf{M} $ كلها قيم حقيقية؛ ويمكن أن تكون بسيطة أو مكررة. افترض أن $ \mathbf{M} $ لها قيمة ذاتية مكررة بتعددية $ m $ ، عندئذ توجد $ m $ متجهات ذاتية (eigenvectors) مستقلة خطيًا مرتبطة بهذه القيمة الذاتية، كما نُبيّن في المثال 3.9.1 لـ $ m = 2 $ . وبالتالي لا تحتوي على كتلة Jordan من الرتبة 2 أو أكثر. وبعبارة أخرى، فإن $ \mathbf{M} $ قابلة للقطرنة (diagonalizable) كما في آخر مصفوفة في (3.39). لذا بالنسبة للمصفوفة المتناظرة $ \mathbf{M} $ ذات القيم الذاتية البسيطة أو المكررة، توجد مصفوفة غير منفردة $ \mathbf{Q} $ بحيث

    $$ \mathbf {D} = \mathbf {Q} ^ {- 1} \mathbf {M} \mathbf {Q} \quad \text{or} \quad \mathbf {M} = \mathbf {Q D Q} ^ {- 1} \tag {3.69} $$

    حيث إن $ \mathbf{D} $ مصفوفة قطرية (diagonal matrix) تحتوي القيم الذاتية الحقيقية لـ $ \mathbf{M} $ على القطر. بأخذ المنقول للمعادلة (3.69)، وباستخدام $ (\mathbf{AB})' = \mathbf{B}'\mathbf{A}' $ ، نحصل على

    $$ \mathbf {M} ^ {\prime} = (\mathbf {Q D Q} ^ {- 1}) ^ {\prime} = (\mathbf {Q} ^ {- 1}) ^ {\prime} \mathbf {D} ^ {\prime} \mathbf {Q} ^ {\prime} $$

    وهذا يصبح، باستخدام $ \mathbf{M}' = \mathbf{M} $ (حسب الفرض) و $ \mathbf{D}' = \mathbf{D} $ (لأن $ \mathbf{D} $ قطرية)،

    $$ \mathbf {M} = \left(\mathbf {Q} ^ {- 1}\right) ^ {\prime} \mathbf {D} \mathbf {Q} ^ {\prime} $$

    وبمقارنته مع (3.69) نحصل على $ \mathbf{Q}^{-1} = \mathbf{Q}' $ . وبالتالي فإن $ \mathbf{Q} $ مصفوفة متعامدة (orthogonal). ويُذكر هذا في نظرية.

    نظرية 3.6 

    لكل مصفوفة متناظرة حقيقية $ \mathbf{M} $ ، توجد مصفوفة متعامدة $ \mathbf{Q} $ بحيث

    $$ \mathbf {M} = \mathbf {Q D Q} ^ {\prime} \quad \text{or} \quad \mathbf {D} = \mathbf {Q} ^ {\prime} \mathbf {M} \mathbf {Q} $$

    حيث إن $ \mathbf{D} $ مصفوفة قطرية تحتوي القيم الذاتية لـ $ \mathbf{M} $ ، وهي كلها حقيقية، على القطر.

    مثال 3.9.1 اعتبر المصفوفة المتناظرة $ 3 \times 3 $

    $$ \mathbf {M} = \left[ \begin{array}{l l l} 3 & 2 & 0 \\ 2 & 0 & 0 \\ 0 & 0 & 4 \end{array} \right] $$

    نحسب كثير الحدود المميِّز:

    $$ \begin{array}{l} \det (\lambda \mathbf {I} - \mathbf {M}) = \det \left[ \begin{array}{r r r} \lambda - 3 & - 2 & 0 \\ - 2 & \lambda & 0 \\ 0 & 0 & \lambda - 4 \end{array} \right] \\ = (\lambda^ {2} - 3 \lambda - 4) (\lambda - 4) = (\lambda + 1) (\lambda - 4) ^ {2} \\ \end{array} $$

    وبالتالي فإن $ \mathbf{M} $ لها ثلاث قيم ذاتية حقيقية $ \lambda_{1} = -1, \lambda_{2} = 4 $ ، و $ \lambda_{3} = 4 $ .

    نحسب متجهًا ذاتيًا لـ $ \mathbf{M} $ مرتبطًا بـ $ \lambda_{1} = -1 $ :

    $$ (\mathbf {M} - \lambda_ {1} \mathbf {I}) \mathbf {q} _ {1} = \left[ \begin{array}{l l l} 4 & 2 & 0 \\ 2 & 1 & 0 \\ 0 & 0 & 5 \end{array} \right] \mathbf {q} _ {1} = \mathbf {0} $$

    من الواضح أن $ \bar{\mathbf{q}}_1 = [1 - 20]^{\prime} $ حل. وبما أن $ \bar{\mathbf{q}}_1^{\prime}\bar{\mathbf{q}}_1 = 5 $ ، نقسم كل عنصر من $ \bar{\mathbf{q}}_1 $ على $ \sqrt{5} $ لنحصل على $ \mathbf{q}_1 = [1 / \sqrt{5} - 2 / \sqrt{5} 0]^{\prime} $ وهو متجه ذاتي مُطبَّع (normalized) لـ $ \mathbf{M} $ مرتبط بـ $ \lambda_1 $ . للقيمة الذاتية المكررة $ \lambda_2 = \lambda_3 = 4 $ ، نحل

    $$ (\mathbf {M} - \lambda_ {2} \mathbf {I}) \mathbf {q} _ {1} = \left[ \begin{array}{r r r} - 1 & 2 & 0 \\ 2 & - 4 & 0 \\ 0 & 0 & 0 \end{array} \right] \mathbf {q} _ {2} = \mathbf {0} $$

    للمصفوفة رتبة 1 وعدمّية (nullity) 2. لذا يمكن إيجاد حلين مستقلين خطيًا (نظرية 3.3). هما $ \mathbf{q}_2 = [0 0 1]' $ و $ \bar{\mathbf{q}}_3 = [2 1 0]' $ أو $ \mathbf{q}_3 = [2 / \sqrt{5} 1 / \sqrt{5} 0]' $ بعد التطبيع. المتجهات الثلاثة $ \mathbf{q}_i $ لـ $ i = 1,2,3 $ متعامدة معيارياً (orthonormal) بوضوح. وبالتالي فإن المصفوفة المتعامدة

    $$ \mathbf {Q} = \left[ \begin{array}{c c c} 1 / \sqrt {5} & 0 & 2 / \sqrt {5} \\ - 2 / \sqrt {5} & 0 & 1 / \sqrt {5} \\ 0 & 1 & 0 \end{array} \right], \quad \mathbf {Q} ^ {- 1} = \mathbf {Q} ^ {\prime} = \left[ \begin{array}{c c c} 1 / \sqrt {5} & - 2 / \sqrt {5} & 0 \\ 0 & 0 & 1 \\ 2 / \sqrt {5} & 1 / \sqrt {5} & 0 \end{array} \right] $$

    تحوّل $ \mathbf{M} $ إلى المصفوفة القطرية $ \mathbf{D} = \mathrm{diag}[-1,4,4] $ . نتحقق من $ \mathbf{M} = \mathbf{Q}\mathbf{D}\mathbf{Q}' $ أو، بشكل مكافئ، $ \mathbf{MQ} = \mathbf{Q}\mathbf{D} $ . نحسب

    $$ \mathbf {M Q} = \left[ \begin{array}{l l l} 3 & 2 & 0 \\ 2 & 0 & 0 \\ 0 & 0 & 4 \end{array} \right] \left[ \begin{array}{c c c} 1 / \sqrt {5} & 0 & 2 / \sqrt {5} \\ - 2 / \sqrt {5} & 0 & 1 / \sqrt {5} \\ 0 & 1 & 0 \end{array} \right] = \left[ \begin{array}{c c c} - 1 / \sqrt {5} & 0 & 8 / \sqrt {5} \\ 2 / \sqrt {5} & 0 & 4 / \sqrt {5} \\ 0 & 4 & 0 \end{array} \right] $$

    و

    $$ \mathbf {Q D} = \left[ \begin{array}{c c c} 1 / \sqrt {5} & 0 & 2 / \sqrt {5} \\ - 2 / \sqrt {5} & 0 & 1 / \sqrt {5} \\ 0 & 1 & 0 \end{array} \right] \left[ \begin{array}{c c c} - 1 & 0 & 0 \\ 0 & 4 & 0 \\ 0 & 0 & 4 \end{array} \right] = \left[ \begin{array}{c c c} - 1 / \sqrt {5} & 0 & 8 / \sqrt {5} \\ 2 / \sqrt {5} & 0 & 4 / \sqrt {5} \\ 0 & 4 & 0 \end{array} \right] $$

    وهما بالفعل متساويتان. لاحظ أن دالة MATLAB $ [q, d] = eig(m) $ ستولد أيضًا $ Q $ و $ D $ .

    تُسمّى المصفوفة المتناظرة $ \mathbf{M} $ موجبة التعريف (positive definite)، ويرمز لها بـ $ \mathbf{M} > 0 $ ، إذا كان $ \mathbf{x}'\mathbf{M}\mathbf{x} > 0 $ لكل $ \mathbf{x} $ غير صفري. وتُسمّى شبه موجبة التعريف (positive semidefinite)، ويرمز لها بـ $ \mathbf{M} \geq 0 $ ، إذا كان $ \mathbf{x}'\mathbf{M}\mathbf{x} \geq 0 $ لكل $ \mathbf{x} $ غير صفري. إذا كانت $ \mathbf{M} > 0 $ ، فإن $ \mathbf{x}'\mathbf{M}\mathbf{x} = 0 $ إذا وفقط إذا كان $ \mathbf{x} = \mathbf{0} $ . وإذا كانت $ \mathbf{M} $ شبه موجبة التعريف، فهناك $ \mathbf{x} $ غير صفري بحيث $ \mathbf{x}'\mathbf{M}\mathbf{x} = 0 $ . ستُستخدم هذه الخاصية مرارًا لاحقًا.

    نظرية 3.7 

    المصفوفة المتناظرة $ \mathbf{M} $ ذات الأبعاد $ n \times n $ تكون موجبة التعريف (positive definite) أو شبه موجبة التعريف (positive semidefinite) إذا وفقط إذا تحقق أي شرط من الشروط الآتية.

    1. كل قيمة ذاتية لـ $ \mathbf{M} $ موجبة (صفرية أو موجبة).

    2. جميع المينورات الرئيسية القائدة (leading principal minors) لـ $ \mathbf{M} $ موجبة (جميع المينورات الرئيسية (principal minors) لـ $ \mathbf{M} $ صفرية أو موجبة).

    3. توجد مصفوفة غير منفردة $ n \times n $ هي $ \mathbf{N} $ (مصفوفة منفردة $ n \times n $ هي $ \mathbf{N} $ أو مصفوفة $ m \times n $ هي $ \mathbf{N} $ مع $ m < n $ ) بحيث $ \mathbf{M} = \mathbf{N}'\mathbf{N} $ .

    يمكن إثبات الشرط 1 بسهولة باستخدام نظرية 3.6. بعد ذلك ننظر في الشرط 3. إذا كانت $ \mathbf{M} = \mathbf{N}'\mathbf{N} $ ، فإن

    $$ \mathbf {x} ^ {\prime} \mathbf {M} \mathbf {x} = \mathbf {x} ^ {\prime} \mathbf {N} ^ {\prime} \mathbf {N} \mathbf {x} = (\mathbf {N} \mathbf {x}) ^ {\prime} (\mathbf {N} \mathbf {x}) = | | \mathbf {N} \mathbf {x} | | _ {2} ^ {2} \geq 0 $$

    لأي $ \mathbf{x} $ . إذا كانت $ \mathbf{N} $ غير منفردة، فإن المتجه الوحيد $ \mathbf{x} $ الذي يجعل $ \mathbf{Nx} = \mathbf{0} $ هو $ \mathbf{x} = \mathbf{0} $ . وبالتالي فإن $ \mathbf{M} $ موجبة التعريف. وإذا كانت $ \mathbf{N} $ منفردة، فهناك $ \mathbf{x} $ غير صفري يجعل $ \mathbf{Nx} = \mathbf{0} $ . وبالتالي فإن $ \mathbf{M} $ شبه موجبة التعريف. لإثبات الشرط 2، انظر المرجع 13.

    نستخدم مثالًا لتوضيح المينورات الرئيسية والمينورات الرئيسية القائدة. اعتبر

    $$ \mathbf {M} = \left[ \begin{array}{l l l} m _ {1 1} & m _ {1 2} & m _ {1 3} \\ m _ {2 1} & m _ {2 2} & m _ {2 3} \\ m _ {3 1} & m _ {3 2} & m _ {3 3} \end{array} \right] $$

    المينورات الرئيسية هي $ m_{11}, m_{22}, m_{33} $ ،

    $$ \det \left[ \begin{array}{l l} m _ {1 1} & m _ {1 2} \\ m _ {2 1} & m _ {2 2} \end{array} \right], \quad \det \left[ \begin{array}{l l} m _ {1 1} & m _ {1 3} \\ m _ {3 1} & m _ {3 3} \end{array} \right], \quad \det \left[ \begin{array}{l l} m _ {2 2} & m _ {2 3} \\ m _ {3 2} & m _ {3 3} \end{array} \right], $$

    و $ \det \mathbf{M} $ . وبالتالي فإن المينورات الرئيسية هي محددات جميع المصفوفات الفرعية لـ $ \mathbf{M} $ التي تتطابق أقطارها مع قطر $ \mathbf{M} $ . أما المينورات الرئيسية القائدة لـ $ \mathbf{M} $ فهي $ m_{11} $ ، $ \det \left[ \begin{array}{cc} m_{11} & m_{12} \\ m_{21} & m_{22} \end{array} \right] $ ، و $ \det \mathbf{M} $ . وبالتالي فإن المينورات الرئيسية القائدة لـ $ \mathbf{M} $ هي محددات المصفوفات الفرعية لـ $ \mathbf{M} $ الناتجة بحذف آخر $ k $ أعمدة وآخر $ k $ صفوف لـ $ k = 2, 1, 0 $ .

    نظرية 3.8 

    1. مصفوفة $ m \times n $ هي $ \mathbf{H} $ ، حيث $ m \geq n $ ، لها رتبة $ n $ ، إذا وفقط إذا كانت المصفوفة $ n \times n $ $ \mathbf{H}'\mathbf{H} $ لها رتبة $ n $ أو $ \det(\mathbf{H}'\mathbf{H}) \neq 0 $ .
    2. مصفوفة $ m \times n $ هي $ \mathbf{H} $ ، حيث $ m \leq n $ ، لها رتبة $ m $ ، إذا وفقط إذا كانت المصفوفة $ m \times m $ $ \mathbf{HH'} $ لها رتبة $ m $ أو $ \det(\mathbf{HH'}) \neq 0 $ .

    المصفوفة المتناظرة $ \mathbf{H}'\mathbf{H} $ تكون دائمًا شبه موجبة التعريف. وتصبح موجبة التعريف إذا كانت $ \mathbf{H}'\mathbf{H} $ غير منفردة. سنقدّم برهانًا لهذه النظرية. ستُستخدم الحجة في البرهان لإثبات النتائج الرئيسية في الفصل 6؛ لذلك نعرض البرهان بتفصيل.

    برهان: الضرورة: الشرط $ \rho(\mathbf{H}'\mathbf{H}) = n $ يستلزم $ \rho(\mathbf{H}) = n $ . نبرهن ذلك بالتناقض. افترض أن $ \rho(\mathbf{H}'\mathbf{H}) = n $ ولكن $ \rho(\mathbf{H}) < n $ . عندئذ يوجد متجه غير صفري $ \mathbf{v} $ بحيث $ \mathbf{H}\mathbf{v} = \mathbf{0} $ مما يستلزم $ \mathbf{H}'\mathbf{H}\mathbf{v} = \mathbf{0} $ . وهذا يناقض $ \rho(\mathbf{H}'\mathbf{H}) = n $ . وبالتالي فإن $ \rho(\mathbf{H}'\mathbf{H}) = n $ يستلزم $ \rho(\mathbf{H}) = n $ .

    الكفاية: الشرط $ \rho(\mathbf{H}) = n $ يستلزم $ \rho(\mathbf{H}'\mathbf{H}) = n $ . افترض العكس، أي $ \rho(\mathbf{H}'\mathbf{H}) < n $ ، عندئذ يوجد متجه غير صفري $ \mathbf{v} $ بحيث $ \mathbf{H}'\mathbf{H}\mathbf{v} = \mathbf{0} $ مما يستلزم $ \mathbf{v}'\mathbf{H}'\mathbf{H}\mathbf{v} = 0 $ أو

    $$ 0 = \mathbf {v} ^ {\prime} \mathbf {H} ^ {\prime} \mathbf {H} \mathbf {v} = (\mathbf {H} \mathbf {v}) ^ {\prime} (\mathbf {H} \mathbf {v}) = | | \mathbf {H} \mathbf {v} | | _ {2} ^ {2} $$

    وبالتالي $ \mathbf{H}\mathbf{v} = \mathbf{0} $ . وهذا يناقض فرضيتَي $ \mathbf{v} \neq 0 $ و $ \rho(\mathbf{H}) = n $ . لذا فإن $ \rho(\mathbf{H}) = \text{implies } \rho(\mathbf{H}'\mathbf{H}) = n $ . وهذا يثبت الجزء الأول من نظرية 3.8. ويمكن إثبات الجزء الثاني بصورة مماثلة. Q.E.D.

    نناقش العلاقة بين القيم الذاتية لـ $ \mathbf{H}'\mathbf{H} $ وتلك الخاصة بـ $ \mathbf{HH}' $ . وبما أن $ \mathbf{H}'\mathbf{H} $ و $ \mathbf{HH}' $ كلتاهما متناظرتان وشبه موجبتين للتعريف، فإن قيمهما الذاتية حقيقية وغير سالبة (صفرية أو موجبة). إذا كانت $ \mathbf{H} $ بأبعاد $ m \times n $ ، فإن $ \mathbf{H}'\mathbf{H} $ لها $ n $ قيم ذاتية و $ \mathbf{HH}' $ لها $ m $ قيم ذاتية. لتكن $ \mathbf{A} = \mathbf{H} $ ، و $ \mathbf{B} = \mathbf{H}' $ . عندئذ تصبح (3.65)

    $$ \det \left(s \mathbf {I} _ {m} - \mathbf {H} \mathbf {H} ^ {\prime}\right) = s ^ {m - n} \det \left(s \mathbf {I} _ {n} - \mathbf {H} ^ {\prime} \mathbf {H}\right) \tag {3.70} $$

    وهذا يعني أن كثيرات الحدود المميِّزة لـ $ \mathbf{HH}' $ و $ \mathbf{H}'\mathbf{H} $ تختلف فقط بعامل $ s^{m - n} $ . لذلك نستنتج أن $ \mathbf{HH}' $ و $ \mathbf{H}'\mathbf{H} $ لهما القيم الذاتية غير الصفرية نفسها، لكن قد يكون لهما أعداد مختلفة من القيم الذاتية الصفرية. علاوة على ذلك، لهما على الأكثر $ \bar{n} \coloneqq \min(m,n) $ عددًا من القيم الذاتية غير الصفرية.