From 5e550eca94d177191cc864dc2fb2850ec1d90598 Mon Sep 17 00:00:00 2001 From: songyc macbook Date: Thu, 20 Aug 2026 02:20:21 +0900 Subject: [PATCH] =?UTF-8?q?4.5=20=EC=A0=84=EB=A9=B4=20=EC=9E=AC=EC=9E=91?= =?UTF-8?q?=EC=84=B1:=20'=EA=B2=B0=EB=A1=A0=20=EB=A8=BC=EC=A0=80=20+=20?= =?UTF-8?q?=EC=96=B4=EB=96=BB=EA=B2=8C=20=EA=B5=AC=ED=95=98=EB=8A=94?= =?UTF-8?q?=EA=B0=80'=20=EC=A4=91=EC=8B=AC=20=EC=9E=AC=EA=B5=AC=EC=84=B1?= =?UTF-8?q?=20(=EC=82=AC=EC=9A=A9=EC=9E=90=20=ED=94=BC=EB=93=9C=EB=B0=B1:?= =?UTF-8?q?=20=EA=B0=9C=EB=85=90=20=EB=82=98=EC=97=B4=EB=BF=90=20=EA=B2=B0?= =?UTF-8?q?=EB=A1=A0=EC=9D=B4=20=EC=97=86=EB=8B=A4)?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - [0단계] 최종 답 3줄(정체·하는 일·구하는 법)을 맨 앞에 배치 - [6단계] ⭐ 계산 레시피 신설: 유형 판정 → ⓐ대각/ⓑ세로/ⓒ가로/ⓓ일반(CR) → 검산 - A=CR 리캡(1.4·3.2 복습) + 식 (3)(4)(7)은 같은 공식의 세 표기라는 오해 교정 - 완전 예제: [[1,2],[3,6]]을 두 방법으로 끝까지 손계산 (÷5 되돌리기·최단해 확인 포함, 수치 전부 검증) - [7단계] 왜 사영인지 정의 3줄 추적 + 숫자 확인 - 각 단계 끝에 '이 단계의 결론' 한 줄, 🧩 한눈 요약표 추가 - 스스로 점검 전면 교체(계산 연습 포함), 연습문제 단계 참조 갱신 (id 보존) Co-Authored-By: Claude Fable 5 Claude-Session: https://claude.ai/code/session_01Ufr6wUhJAzBaqcaBiRJ1xk --- Major Study/pages/4.5 행렬의 유사역행렬.md | 236 ++++++++++++++------- 1 file changed, 156 insertions(+), 80 deletions(-) diff --git a/Major Study/pages/4.5 행렬의 유사역행렬.md b/Major Study/pages/4.5 행렬의 유사역행렬.md index 74133f2..7f501c1 100755 --- a/Major Study/pages/4.5 행렬의 유사역행렬.md +++ b/Major Study/pages/4.5 행렬의 유사역행렬.md @@ -1,23 +1,25 @@ deck:: Logseq/전공공부/선형대수학 - ### 핵심 개념 - - **흐름 지도**: [0단계] 겁먹지 않아도 되는 이유 → [1단계] 문제의식: 역행렬의 빈자리 → [2단계] 3.3 해 유형표와 연결하기 → [3단계] 좌역행렬 = 최소제곱의 화신 → [4단계] 우역행렬 = 최단 해의 화신 → [5단계] $A^{\mathrm{T}}A$ 대 $AA^{\mathrm{T}}$ 정리 → [6단계] 진짜 유사역행렬 $A^{+}$ → [7단계] $A^{+}A$ 와 $AA^{+}$ 의 정체 → [8단계] 계산법과 펜로즈 조건. - - #### [0단계] 겁먹지 않아도 되는 이유 - - **책이 직접 말한다**: "이 절은 필수로 알아두어야 할 내용은 아니다" (p.269). 제대로 된 계산 도구(SVD)는 7장에서 온다. - - 그리고 사실 새 개념이 아니다. 4장 내내 세 번이나 스쳐간 복선의 회수전이다: - - 4.1 [5단계]: "$A$ 는 행공간에서 열공간으로의 **가역변환**이다. 이걸 되돌리는 행렬이 4.5의 $A^{+}$" (그때 이름만 들었던 그것). - - 4.3 [7단계]: 열이 종속일 때 무한한 $\hat{x}$ 중 **최단 해** $x^{+} = (1,1)$ 을 고르는 도구. + - **흐름 지도**: [0단계] 결론 먼저 (이 절의 최종 답 3줄) → [1단계] 왜 필요한가: 역행렬의 빈자리와 3.3 해 유형표 → [2단계] 좌역행렬: 세로 행렬의 처방 → [3단계] 우역행렬: 가로 행렬의 처방 → [4단계] $A^{\mathrm{T}}A$ 대 $AA^{\mathrm{T}}$ 재료 정리 → [5단계] 진짜 유사역행렬 $A^{+}$ 의 정의 → [6단계] ⭐ $A^{+}$ 구하는 법 총정리 (레시피 + 완전 예제) → [7단계] $A^{+}A$ 와 $AA^{+}$ 는 왜 사영인가 → [8단계] 펜로즈 4조건 (검산 체크리스트) → 🧩 한눈 요약표. + - #### [0단계] 결론 먼저: 이 절의 최종 답 3줄 + - 이 절은 개념이 많아 보이지만 최종 결론은 3줄뿐이다. 아래 3줄이 목적지이고, [1]~[8단계]는 전부 이 3줄을 납득시키는 과정이다. + - ① **정체**: $A^{+}$ 는 역행렬이 없는 행렬에게 주는 **최선의 역행렬**이다. 모든 행렬이 가지며, 진짜 역행렬이 있으면 $A^{+} = A^{-1}$ 로 일치한다. + - ② **하는 일**: $A^{+}b$ 는 $Ax = b$ 의 **최소노름 최소제곱해** $x^{+}$ 를 준다. 해가 없으면 오차가 최소인 최선을, 해가 무한하면 그중 길이가 가장 짧은 대표를 준다. + - ③ **구하는 법**: 소거해서 랭크로 유형을 판정하고, 유형에 맞는 공식 하나에 대입한다. 열 독립이면 $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, 행 독립이면 $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$, 둘 다 아니면 $A = CR$ 로 쪼개 $A^{+} = R^{+}C^{+}$. 전체 절차와 손계산 예제는 [6단계]에 있다. + - 💡 부담 조절: 책 스스로 "이 절은 필수로 알아두어야 할 내용은 아니다"라고 말한다 (p.269). 진짜 계산의 왕도(SVD)는 7장에서 배우니, 여기서는 위 3줄과 [6단계] 손계산까지만 가져가면 충분하다. + - 새 개념도 아니다. 4장 내내 세 번 스쳐간 복선의 회수전이다: + - 4.1 [5단계]: "$A$ 는 행공간에서 열공간으로의 가역변환, 이걸 되돌리는 행렬이 4.5의 $A^{+}$" (그때 이름만 들었던 그것). + - 4.3 [7단계]: 열이 종속일 때 무한한 해 중 **최단 해** $x^{+} = (1,1)$ 을 고르던 도구. - 4.4 요약표: $Q^{+} = Q^{\mathrm{T}}$ 라는 칸. - - 이 절의 목표는 하나뿐이다: $A^{+}$ **가 "무엇을 하는 물건"인지의 그림.** 공식 암기가 아니라. - - #### [1단계] 문제의식: 역행렬의 빈자리 - - 진짜 역행렬 $A^{-1}$ 는 사치품이다: **정사각 + 열 독립**일 때만 존재 ($A^{-1}A = I$ 와 $AA^{-1} = I$ 둘 다). 세상 대부분의 행렬(직사각, 랭크 부족)은 못 가진다. - - 그런데 우리는 이미 "되돌리기 비슷한 것"을 해왔다: 해가 없는데 최선을 돌려받았고(최소제곱), 해가 넘치는데 대표를 골라 받았다(최단 해). 4.5는 그 "비슷한 것들"에 **이름을 붙이고 하나로 통합**하는 절이다. + - #### [1단계] 왜 필요한가: 역행렬의 빈자리 + 3.3 해 유형표 + - 진짜 역행렬 $A^{-1}$ 는 사치품이다: **정사각 + 열 독립**일 때만 존재한다 ($A^{-1}A = I$ 와 $AA^{-1} = I$ 둘 다). 직사각이거나 랭크가 부족한 대부분의 행렬은 못 가진다. + - 그런데 4장에서 이미 "되돌리기 비슷한 것"을 해왔다: 해가 없는데 최선을 돌려받았고(4.3 최소제곱), 해가 넘칠 때 대표를 골라 받았다(최단 해). 4.5는 그 "비슷한 것들"에 이름을 붙이고 하나로 통합하는 절이다. - 📌 원문 (p.269): ((6a855f6d-02af-464b-ad44-6cdb61f7973c)) - - 워밍업 미니어처 (p.268 도입 표): 항등행렬조차 열이나 행을 잘라내면 "한쪽 역"만 남는다. + - 워밍업 (p.268 도입 표): 항등행렬조차 열이나 행을 잘라내면 "한쪽 역"만 남는다. - ![역행렬·좌역·우역 3형제 도입 표 (p.268)](../assets/4장_p268_역행렬_3형제_도입표.png) - - $I_L I_R = I$ (이 순서로는 항등) 인데 $I_R I_L \neq I$ (반대 순서는 실패). **곱하는 방향에 따라 역할이 달라진다**는 것이 이 절의 첫 감각이다. - - #### [2단계] 3.3 해 유형표와 연결하기 (여기가 연결 고리!) - - 3.3의 해 유형표를 다시 소환하면 좌역·우역이 태어난 이유가 보인다. **"무엇이 부족한가"가 처방을 정한다**: + - $I_L I_R = I$ (이 순서는 항등)인데 $I_R I_L \neq I$ (반대 순서는 실패). **왼쪽에서 곱할 때만 역이 되는 행렬과 오른쪽에서 곱할 때만 역이 되는 행렬이 따로 있다**는 것이 이 절의 첫 감각이다. + - 3.3 해 유형표에 겹쳐 보면 좌역·우역이 태어난 이유가 보인다. **"무엇이 부족한가"가 처방을 정한다**: - | 모양 | 랭크 | $Ax = b$ 의 해 (3.3) | 부족한 것 | 처방 | 이름 | | --- | --- | --- | --- | --- | --- | | 정사각 가역 | $r = m = n$ | 항상 1개 | 없음 | $A^{-1}$ | 역행렬 | @@ -26,51 +28,54 @@ deck:: Logseq/전공공부/선형대수학 | 둘 다 부족 | $r < m,\ r < n$ | 0 또는 ∞개 | 둘 다 | 두 처방 동시 적용 | 유사역행렬 $A^{+}$ | - (책 비교표의 "유일한 해 혹은 무수히 많은 해"는 정사각 $m = n$ 인 경우까지 포함한 표현이다. 가로로 길면($m < n$) 항상 ∞개.) - 연결 열쇠 한 문장: **존재가 깨지면 → 좌역(최소제곱), 유일성이 깨지면 → 우역(최단 해), 둘 다 깨지면 →** $A^{+}$ (최소노름 최소제곱). - - 책의 좌역·우역 비교표 (이 표가 이 절의 지도다): + - 책의 좌역·우역 비교표 (다음 두 단계의 지도다): - 📌 원문 비교표 (p.269): [🔗 PDF 위치](((6a855f7a-997f-4ca8-95fb-d572477bd8e8))) - ![좌역행렬 vs 우역행렬 비교표 (p.269)](../assets/4장_p269_좌역_우역_비교표.png) - - #### [3단계] 좌역행렬: "이것이 바로 최소제곱법"의 뜻 + - → **이 단계의 결론**: 역행렬이 없어지는 이유는 존재 실패와 유일성 실패 두 가지뿐이다. 각각의 처방이 좌역·우역이고, 둘 다 실패하면 $A^{+}$ 가 나선다. + - #### [2단계] 좌역행렬: 세로 행렬의 처방 = 최소제곱 - 대상: **세로로 긴** $A$ ($m > n$, 열 독립, $r = n$). 방정식이 미지수보다 많아 **해가 없을 수 있는** 상황. - - 이름의 뜻: **왼쪽에서 곱했을 때만** $I$ 가 되는 행렬. $A^{+}A = I$ ($n \times n$). 오른쪽 곱 $AA^{+}$ 는 $I$ 가 아니다. - - 공식은 새로 외울 것이 없다. 이미 아는 재료의 조립이다: - - 열 독립 → $A^{\mathrm{T}}A$ ($n \times n$) 가역 (4.2 [6단계]의 그 정리!) → + - **구하는 법**: 열 독립이면 $A^{\mathrm{T}}A$ ($n \times n$)가 가역이다 (4.2 [6단계]의 그 정리). 그 역행렬로 조립한다: - $$A^{+} = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}} \qquad \text{검산: } A^{+}A = (A^{\mathrm{T}}A)^{-1}(A^{\mathrm{T}}A) = I \ ✓$$ - - ✅ **"이것이 바로 최소제곱법"이 무슨 소리냐면**: 이 $A^{+}$ 를 $b$ 에 곱해보라. + - 이름의 뜻: **왼쪽에서 곱했을 때만** $I$ 가 된다 ($A^{+}A = I$, $n \times n$). + - 오른쪽 곱은 $I$ 가 못 된다: $AA^{+} = A(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, 어디서 많이 봤다. **4.2의 사영행렬** $P$ **그 자체다!** + - 계수 세계($x$ 쪽)에서는 완벽한 역, 벡터 세계($b$ 쪽)에서는 "갈 수 있는 데까지(열공간 사영)"만. + - ✅ 책의 "이것이 바로 최소제곱법이다"의 뜻: 이 $A^{+}$ 를 $b$ 에 곱해보라. - $$A^{+}b = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}b = \hat{x}$$ - - 우변은 **4.3 정규방정식의 해 그 자체**다! 즉 좌역행렬은 "최소제곱해 계산기"를 행렬 하나로 포장한 것. $A^{+}b$ 를 계산하는 행위 = 최소제곱법을 실행하는 행위. 그래서 책이 그 문장을 쓴 것이다. + - 우변은 **4.3 정규방정식의 해 그 자체**다. 좌역행렬은 "최소제곱해 계산기"를 행렬 하나로 포장한 것이다. - $b$ 가 열공간 안이면 정확한 해를, 밖이면 최선의 해를 돌려준다 (4.3에서 확인한 "최소제곱은 상위호환" 그대로). - - 그럼 반대쪽 곱 $AA^{+}$ 는 뭐가 되나: $A(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, 어디서 많이 봤다. **4.2의 사영행렬** $P$ **그 자체!** 왼쪽 곱은 $I$ (계수 세계에서는 완벽), 오른쪽 곱은 열공간 사영 (벡터 세계에서는 "갈 수 있는 데까지만"). - 🔢 제일 작은 예: $A = \begin{bmatrix} 1 \\ 1 \end{bmatrix}$ (세로, $r = n = 1$). - $A^{\mathrm{T}}A = 2$ → $A^{+} = \frac{1}{2}\begin{bmatrix} 1 & 1 \end{bmatrix}$. - $A^{+}A = \frac{1}{2}(1 + 1) = 1 = I_1$ ✓. 반대쪽 $AA^{+} = \frac{1}{2}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}$ = 상수벡터 방향 사영행렬 ($\neq I$). - $A^{+}b = \frac{b_1 + b_2}{2}$ = **평균**! (4.3 문제 12의 "평균 = 사영"이 좌역행렬의 언어로 재등장. 세로 $A = (1,1)$ 의 좌역은 평균 기계다.) - - #### [4단계] 우역행렬: "최소길이 해"의 뜻 + - → **이 단계의 결론**: 세로 행렬(열 독립)의 유사역 = 좌역 $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, 그리고 $A^{+}b$ = 최소제곱해 $\hat{x}$. + - #### [3단계] 우역행렬: 가로 행렬의 처방 = 최단 해 - 대상: **가로로 긴** $A$ ($m < n$, 행 독립, $r = m$). 미지수가 방정식보다 많아 **해가 무한한** 상황. - - 이름의 뜻: **오른쪽에서 곱했을 때만** $I$: $AA^{+} = I$ ($m \times m$). 왼쪽 곱 $A^{+}A$ 는 $I$ 가 아니다. - - 공식도 좌역과 거울 대칭: 행 독립 → $AA^{\mathrm{T}}$ ($m \times m$) 가역 → + - **구하는 법**: 행 독립이면 $AA^{\mathrm{T}}$ ($m \times m$)가 가역이다. 좌역과 거울 대칭으로 조립한다: - $$A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1} \qquad \text{검산: } AA^{+} = (AA^{\mathrm{T}})(AA^{\mathrm{T}})^{-1} = I \ ✓$$ - - ✅ **"최소길이 해(최단거리 해)"가 무슨 소리냐면**: 해가 무한하니 고르는 문제가 남는다. - - 3.3의 완전해: $x = x_p + x_n$ (특수해 + 영공간 아무거나). 전부 같은 $b$ 로 가는 정당한 해들. + - 이름의 뜻: **오른쪽에서 곱했을 때만** $I$ ($AA^{+} = I$, $m \times m$). 왼쪽 곱 $A^{+}A$ 는 $I$ 가 아니다 ([7단계]에서 정체를 밝힌다). + - ✅ 책의 "최소길이 해(최단거리 해)"의 뜻: 해가 무한하니 고르는 문제가 남는다. + - 3.3의 완전해: $x = x_p + x_n$ (특수해 + 영공간 아무거나). 전부 같은 $b$ 로 가는 정당한 해들이다. - 그중 $x^{+} = A^{+}b$ 는 **행공간에 들어 있는 유일한 해**다. 즉 영공간 성분이 0. - 왜 그게 최단인가: 4.1의 직교 분해로 임의의 해는 $x = x^{+} + x_n$ (행공간 성분 ⊥ 영공간 성분) → 피타고라스: - $$\|x\|^2 = \|x^{+}\|^2 + \|x_n\|^2 \geq \|x^{+}\|^2$$ - - 영공간 성분은 **길이만 늘리는 군살**이다. 그걸 0으로 만든 해가 최단. 4.3 [7단계]의 종속 열 예제에서 "최단 해 $x^{+} = (1,1)$"이라 했던 그 말의 정체가 이것이다. + - 영공간 성분은 **길이만 늘리는 군살**이다. 그걸 0으로 만든 해가 최단. 4.3 [7단계]의 "최단 해 $x^{+} = (1,1)$"의 정체가 이것이다. - 🔢 제일 작은 예: $A = \begin{bmatrix} 1 & 1 \end{bmatrix}$ (가로, $r = m = 1$). - $AA^{\mathrm{T}} = 2$ → $A^{+} = \frac{1}{2}\begin{bmatrix} 1 \\ 1 \end{bmatrix}$. $AA^{+} = \frac{1}{2}(1+1) = 1$ ✓. - $Ax = b$ 는 $x_1 + x_2 = b$: 해가 직선 하나 가득. $A^{+}b = (\frac{b}{2}, \frac{b}{2})$ 는 그 직선 위에서 **원점에 가장 가까운 점** (수선의 발!). - 검산: 다른 해 $(b, 0)$ 의 길이는 $|b|$, 최단 해의 길이는 $\frac{|b|}{\sqrt{2}}$. 정말 더 짧다. - - ⚠️ 오해 교정 ("좌역·우역행렬은 $I$ 에 0 붙인 모양?"): 아니다. 좌역·우역행렬 **자신**은 $\frac{1}{2}[1\ 1]$ 처럼 평범한 직사각행렬이다. "$I$ 랭크만큼 + 나머지 0" 모양이 나오는 곳은 두 군데 뿐이다: ① [1단계] 도입 표의 특수 예 ($I$ 를 잘라 만든 $I_L, I_R$), ② [7단계]에서 볼 $A^{+}A$, $AA^{+}$ (사영행렬을 좋은 기저에서 본 모습). 그 인상이 섞인 것. - - #### [5단계] $A^{\mathrm{T}}A$ 대 $AA^{\mathrm{T}}$: 모순이 아니다 (기억 교정) - - 팩트 체크: **둘 다 언제나 정사각이다.** $A$ 가 $m \times n$ 이면 $A^{\mathrm{T}}A$ 는 $n \times n$, $AA^{\mathrm{T}}$ 는 $m \times m$ (4.2 스스로 점검 "내적 표" 문답 그대로: 열 내적 표는 열 개수만큼, 행 내적 표는 행 개수만큼). - - "$AA^{\mathrm{T}}$ 는 정사각이 아니라고 하지 않았나?"는 기억의 혼선이다. 아마 4.4의 "**직사각** $Q$ **에서** $QQ^{\mathrm{T}} \neq I$" 와 섞였을 것. **항등이 아닌 것**과 **정사각이 아닌 것**은 다른 말이다. $QQ^{\mathrm{T}}$ 도 어엿한 $m \times m$ 정사각(사영행렬)이었다. - - 둘의 진짜 차이는 크기가 아니라 **가역성 조건**이다: + - ⚠️ 오해 교정 ("좌역·우역행렬은 $I$ 에 0 붙인 모양?"): 아니다. 좌역·우역행렬 **자신**은 $\frac{1}{2}[1\ 1]$ 처럼 평범한 직사각행렬이다. "$I$ 랭크만큼 + 나머지 0" 모양이 나오는 곳은 두 군데뿐이다: ① [1단계] 도입 표의 특수 예 ($I$ 를 잘라 만든 $I_L, I_R$), ② [7단계]에서 볼 $A^{+}A$, $AA^{+}$ (사영행렬을 좋은 기저에서 본 모습). 그 인상이 섞인 것. + - → **이 단계의 결론**: 가로 행렬(행 독립)의 유사역 = 우역 $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$, 그리고 $A^{+}b$ = 무한한 해 중 최단 해 $x^{+}$. + - #### [4단계] $A^{\mathrm{T}}A$ 대 $AA^{\mathrm{T}}$: 재료 정리 (기억 교정) + - 팩트 체크: **둘 다 언제나 정사각이다**. $A$ 가 $m \times n$ 이면 $A^{\mathrm{T}}A$ 는 $n \times n$ (열 내적 표), $AA^{\mathrm{T}}$ 는 $m \times m$ (행 내적 표). 4.2 스스로 점검의 "내적 표" 문답 그대로. + - "$AA^{\mathrm{T}}$ 는 정사각이 아니라던데?"는 기억의 혼선이다. 아마 4.4의 "직사각 $Q$ 에서 $QQ^{\mathrm{T}} \neq I$" 와 섞였을 것. **항등이 아닌 것**과 **정사각이 아닌 것**은 다른 말이다 ($QQ^{\mathrm{T}}$ 도 어엿한 $m \times m$ 사영행렬이었다). + - 둘의 진짜 차이는 크기가 아니라 **언제 가역인가**다: - | 행렬 | 크기 | 가역 ⟺ | 어느 역행렬의 재료? | | --- | --- | --- | --- | | $A^{\mathrm{T}}A$ | $n \times n$ | 열 독립 ($r = n$) | 좌역 $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ | | $AA^{\mathrm{T}}$ | $m \times m$ | 행 독립 ($r = m$) | 우역 $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$ | - - 세로(열 독립)는 $A^{\mathrm{T}}A$ 가 살아 있어 좌역을, 가로(행 독립)는 $AA^{\mathrm{T}}$ 가 살아 있어 우역을 만든다. 이 대응이 [2단계] 표와 맞물린다. - - #### [6단계] 진짜 유사역행렬 $A^{+}$: 랭크가 둘 다 부족해도 된다 - - 이제 최악의 상황: $r < m$ 이고 $r < n$ (해가 0개 아니면 ∞개, 한쪽 역행렬도 없음). 여기서도 작동하는 만능 되돌리기를 정의한다. + - → **이 단계의 결론**: 세로(열 독립)는 $A^{\mathrm{T}}A$ 가 살아 있어 좌역을 만들 수 있고, 가로(행 독립)는 $AA^{\mathrm{T}}$ 가 살아 있어 우역을 만들 수 있다. + - #### [5단계] 진짜 유사역행렬 $A^{+}$ 의 정의: 랭크가 둘 다 부족해도 된다 + - 이제 최악의 상황: $r < m$ 이고 $r < n$ (해가 0개 아니면 ∞개, 한쪽 역행렬도 없음). 여기서도 작동하는 만능 되돌리기를 **행동 규칙 3줄로** 정의한다. - **정의는 행동강령 3줄이다** (책 ❶❷❸): $\mathbb{R}^m$ 의 임의 벡터 $y$ 를 4.1처럼 직교 분해한다: $y = b + z$ ($b \in$ 열공간, $z \in$ 좌영공간). - ① 열공간 성분 $b$: 그 유일한 조상에게 되돌린다. $b = Ax$ 인 **행공간의 유일한** $x$ 로: $A^{+}b = x$. - ② 좌영공간 성분 $z$: 되돌릴 곳이 없으니 죽인다: $A^{+}z = 0$. @@ -85,7 +90,7 @@ deck:: Logseq/전공공부/선형대수학 - $x$ 자체는 $\mathbb{R}^n$ 아무 데나 있을 수 있지만, $x = x_r + x_n$ 으로 쪼개면 $Ax = Ax_r$ (영공간 성분은 $A$ 가 통째로 버린다). 즉 $A$ 라는 기계가 **실제로 읽는 유효 입력은 행공간 성분뿐**이다. 사각지대(영공간)를 걷어낸 유효 입력 구역 = 행공간. - 🔢 4.1 EX3의 행렬로: $A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}$ (행공간 $(1,2)$ 직선, 영공간 $(2,-1)$ 직선, 열공간 $(1,3)$ 직선). - $A(4,3) = (10, 30)$ 이고 $A(2,4) = (10, 30)$: 다른 입력, 같은 출력. $A$ 는 영공간 성분 차이를 구별 못 한다. - - 행공간만 보면: $c(1,2) \mapsto c(5,15) = 5c \cdot (1,3)$. 행공간 직선의 점 ↔ 열공간 직선의 점, **완벽한 1:1** (배율 5). 이 구간에서 $A$ 는 "5배 기계"라 되돌리기(÷5)가 가능하고, 그 되돌리기를 행렬로 포장한 것이 $A^{+}$ 다. + - 행공간만 보면: $c(1,2) \mapsto c(5,15) = 5c \cdot (1,3)$. 행공간 직선의 점 ↔ 열공간 직선의 점, **완벽한 1:1** (배율 5). 이 구간에서 $A$ 는 "5배 기계"라 되돌리기(÷5)가 가능하고, 그 되돌리기를 행렬로 포장한 것이 $A^{+}$ 다. ([6단계]에서 이 $A^{+}$ 를 실제로 구한다.) - 한 문장 정리: 겉모습은 $A: \mathbb{R}^n \to \mathbb{R}^m$, 실속은 **행공간(**$r$**차원) → 열공간(**$r$**차원)의 1:1**. 행공간은 식의 오른쪽 끝(입력 $x$) 안에 숨어 있어서 "식만 보면 열공간 이야기"로 보이는 것이 당연하다. - 증명도 4.1에서 했던 그대로: 행공간의 $x \neq X$ 가 $Ax = AX$ 라면 $x - X$ 가 행공간과 영공간에 동시에 있어 0. 모순. - $A^{+}$ 는 그 가역변환의 **역** + "복원 불가능한 부분(좌영공간)은 0으로" 규칙을 합친 것. **가능한 경우** $A^{+}$ **는** $A$ **를 역변환한다** (열공간 → 행공간). @@ -94,66 +99,137 @@ deck:: Logseq/전공공부/선형대수학 - **[그림 4.11] = 그림 4.1의 화살표를 전부 거꾸로 돌린 그림**: - 📌 원문 그림 4.11 (p.270): [🔗 PDF 위치](((6a855ff4-89f2-4e1d-a036-be210e4b63ab))) - ![그림 4.11 A⁺의 큰 그림 (p.270)](../assets/4장_p270_그림4.11_A플러스_큰그림.png) - - 읽는 법: $A$ 는 왼쪽(행공간) → 오른쪽(열공간)으로, $A^{+}$ 는 오른쪽 → 왼쪽으로. $A^{+}$ 의 4가지 기본 부분공간은 $A^{\mathrm{T}}$ 와 동일 (행공간↔열공간이 서로 바뀜, 좌영공간은 $A^{+}$ 의 영공간). + - 읽는 법: $A$ 는 왼쪽(행공간) → 오른쪽(열공간)으로, $A^{+}$ 는 오른쪽 → 왼쪽으로. $A^{+}$ 의 4가지 기본 부분공간은 $A^{\mathrm{T}}$ 와 동일하다 (행공간↔열공간이 서로 바뀜, $A$ 의 좌영공간이 $A^{+}$ 의 영공간). - 그래서 일반 $b$ 에 대한 $x^{+} = A^{+}b$ 의 신분: - 📌 원문 (p.269): [🔗 PDF 위치](((6a855fda-fea7-4d81-972e-04718e48d53c))) / ((6a855fcf-ec62-4b22-a9ec-e7d5d880455e)) / ((6a855fe0-2eb2-4a14-91bf-9a54a70ea013)) - ![x⁺는 최소노름 최소제곱해 (p.269)](../assets/4장_p269_최소노름_최소제곱해_박스.png) - - $x^{+}$ 는 **최소노름 최소제곱해**: 오차 $\|Ax - b\|^2$ 을 최소화하는 후보들([3단계] 처방) 중에서 **길이** $\|x\|$ **가 가장 짧은 것**([4단계] 처방). 두 처방의 동시 적용. + - $x^{+}$ 는 **최소노름 최소제곱해**: 오차 $\|Ax - b\|^2$ 을 최소화하는 후보들([2단계] 처방) 중에서 **길이** $\|x\|$ **가 가장 짧은 것**([3단계] 처방). 두 처방의 동시 적용. - 핵심 성질: $x^{+}$ 는 영공간 성분이 0 (행공간 소속). 4.3 종속 열 예제의 $x^{+} = (1, 1)$ 이 드디어 정식으로 정의된 것. + - → **이 단계의 결론**: $A^{+}$ 는 "열공간은 행공간으로 되돌리고, 좌영공간은 0으로 보낸다"는 규칙의 행렬이고, 그래서 $A^{+}b$ 는 언제나 최소노름 최소제곱해다. 남은 질문은 "그래서 행렬로는 어떻게 구하나"뿐이고, 그것이 [6단계]다. + - #### [6단계] ⭐ $A^{+}$ 구하는 법 총정리 (이 절의 실전 파트) + - 계산 절차는 언제나 같다: **1) 소거해서 랭크로 유형 판정 → 2) 유형에 맞는 공식 하나 선택 → 3) 대입 → 4) 검산** ($AA^{+}A = A$). + - **유형 판정과 공식 선택**: + - 대각행렬(또는 대각 꼴)이다 → 지름길 ⓐ. + - $r = n$ (열 독립, 세로) → 공식 ⓑ (좌역, [2단계]). + - $r = m$ (행 독립, 가로) → 공식 ⓒ (우역, [3단계]). + - $r < m$ 이고 $r < n$ (둘 다 부족) → 공식 ⓓ ($A = CR$ 분해). + - **ⓐ 대각행렬**: 공식 없이 즉답. **역수를 취하되** $\frac{1}{0}$ **은 0으로** 두고, 모양은 전치. + - $$D = \begin{bmatrix} 2&0&0 \\ 0&3&0 \\ 0&0&0 \end{bmatrix} \Rightarrow D^{+} = \begin{bmatrix} 1/2&0&0 \\ 0&1/3&0 \\ 0&0&0 \end{bmatrix}$$ + - "역수 없는 자리(0)는 포기하고 0"이 유사역의 정신을 그대로 보여준다 (복원 불가능한 방향은 0으로). + - **ⓑ 세로** ($r = n$): $A^{+} = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$. + - **ⓒ 가로** ($r = m$): $A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$. + - **ⓓ 일반 (둘 다 부족)**: $A = CR$ 로 쪼개서 정복한다. 여기가 이 단계의 하이라이트다. + - 잠깐 복습, $A = CR$ (1.4에서 배우고 3.2에서 소거법으로 완성한 그 분해): + - $C$ ($m \times r$): $A$ 에서 **선형독립인 열** $r$ 개를 그대로 뽑아 세운 것 (열공간의 기저). + - $R$ ($r \times n$): $A$ 의 **기약행사다리꼴** $R_0$ 에서 0행을 버린 것 (행공간의 기저). + - 📌 원문 CR 구성 박스 (p.273): [🔗 PDF 위치](((6a856034-75b4-4025-8463-6bbce9302041))) + - ![A = CR 구성 (p.273)](../assets/4장_p273_CR_구성_박스.png) + - **왜 하필 CR 인가**: $A$ 자신은 한쪽 역도 없지만, 쪼개진 두 조각은 사정이 다르다. + - $C$ 는 **열 독립** (기저니까!) → 좌역 $C^{+} = (C^{\mathrm{T}}C)^{-1}C^{\mathrm{T}}$ 를 갖는다 (공식 ⓑ). + - $R$ 은 **행 독립** (기저니까!) → 우역 $R^{+} = R^{\mathrm{T}}(RR^{\mathrm{T}})^{-1}$ 를 갖는다 (공식 ⓒ). 이것이 책의 식 (3)이다. + - 📌 원문 식 (3) (p.273): [🔗 PDF 위치](((6a85603b-9d37-4456-b37c-0732cb7b80d3))) + - ![식 (3): C⁺와 R⁺ (p.273)](../assets/4장_p273_식3_C플러스_R플러스.png) + - 즉 "나쁜 행렬 $A$ = 좋은 조각 $C$ × 좋은 조각 $R$"로 만들고, 각 조각을 되돌린다. + - **조립**: 곱의 역은 순서가 뒤집힌다 ($(CR)^{-1}$ 이라면 $R^{-1}C^{-1}$ 이듯이). 유사역도 같은 순서로: + - $$A^{+} = R^{+}C^{+}$$ + - ⚠️ 오해 교정 ("식 (3), (4), (7)이 쭉 나열돼 있는데 전부 대입해야 하나?"): 아니다. **셋은 서로 다른 공식이 아니라 같은 공식 하나의 세 가지 표기다**: + - 식 (3) = 부품 명세 ($C^{+}$ 와 $R^{+}$ 각각). + - 식 (4) = 조립도 ($R^{+}C^{+}$ 에 식 (3)을 대입해 전개한 것). + - 식 (7) = 최종 정리본: $A^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}$. 역행렬 계산이 괄호 하나($r \times r$)로 줄어 **손계산이 제일 편한 꼴**이다. + - 실전에서는 **하나만 골라 쓰면 된다**: 부품 2개를 만들어 곱하든(식 3), 식 (7)에 한 번에 대입하든 같은 답이 나온다 (아래 예제에서 둘 다 해본다). + - 📌 원문 식 (4) (p.273): [🔗 PDF 위치](((6a856040-be47-4a73-a52b-d486b76c8d2f))) + - ![식 (4): A⁺ = R⁺C⁺ 전개 (p.273)](../assets/4장_p273_식4_유사역행렬.png) + - 📌 원문 식 (7) (p.275): [🔗 PDF 위치](((6a856077-68be-4fbd-b9af-716de18b6602))) + - ![식 (7): CR의 유사역행렬 (p.275)](../assets/4장_p275_식7_CR_유사역.png) + - 🔢 **완전 예제** ([5단계] 보충의 그 행렬을 끝까지 손계산): + - 0) 준비: $A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}$. 소거하면 피벗 1개 → $r = 1 < 2$: 유형 ⓓ. $C = \begin{bmatrix} 1 \\ 3 \end{bmatrix}$ (독립인 1열), $R = \begin{bmatrix} 1 & 2 \end{bmatrix}$ (기약행사다리꼴의 0 아닌 행). 확인: $CR = A$ ✓. + - 1) 방법 1 (식 3, 부품 조립): $C^{\mathrm{T}}C = 10$ → $C^{+} = \frac{1}{10}\begin{bmatrix} 1 & 3 \end{bmatrix}$. $RR^{\mathrm{T}} = 5$ → $R^{+} = \frac{1}{5}\begin{bmatrix} 1 \\ 2 \end{bmatrix}$. 조립: $A^{+} = R^{+}C^{+} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}$. + - 2) 방법 2 (식 7, 한 번에): $C^{\mathrm{T}}AR^{\mathrm{T}} = \begin{bmatrix} 1&3 \end{bmatrix}\begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}\begin{bmatrix} 1 \\ 2 \end{bmatrix} = 50$ ($1 \times 1$ 숫자!) → $A^{+} = R^{\mathrm{T}} \cdot \frac{1}{50} \cdot C^{\mathrm{T}} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}$. 방법 1과 같은 답 ✓. + - 3) 검산: $AA^{+}A = A$ ✓ ([8단계] 펜로즈 조건 1번). + - 4) 정말 "되돌리기"인가: [5단계] 보충에서 $A$ 는 행공간 방향의 5배 기계였다 ($A(1,2) = (5,15) = 5(1,3)$). 확인: $A^{+}(1,3) = \frac{1}{50}(10, 20) = \frac{1}{5}(1,2)$. 정확히 ÷5 ✓. + - 5) 정말 "최단 해 선택기"인가: $Ax = (10,30)$ 의 해는 $(2,4) + c(2,-1)$ 로 무한하다. $A^{+}(10,30) = \frac{1}{50}(100, 200) = (2,4)$: 행공간 소속(영공간 군살 0), 길이 $\sqrt{20}$. 다른 해 $(4,3)$ 의 길이 $5 = \sqrt{25}$ 보다 정말 짧다 ✓. + - 💡 "$C$, $R$ 대입 계산이 무거워 보인다"는 인상 교정: 역행렬을 취해야 하는 $C^{\mathrm{T}}C$, $RR^{\mathrm{T}}$, $C^{\mathrm{T}}AR^{\mathrm{T}}$ 는 전부 $r \times r$ 이다 (위 예제에서는 전부 $1 \times 1$ 숫자). 랭크가 작을수록 오히려 계산이 짧아지게 설계된 공식이다. + - → **이 단계의 결론**: 유형 판정(소거로 랭크 확인) → ⓐ~ⓓ 중 공식 하나 선택 → 대입 → $AA^{+}A = A$ 검산. 이것이 $A^{+}$ 구하기의 전부다. - #### [7단계] $A^{+}A$ 와 $AA^{+}$ 의 정체: $I$ 가 못 되면 사영이 된다 - - 진짜 역행렬이면 $A^{-1}A = AA^{-1} = I$. 유사역행렬은 거기까지는 못 가고, **갈 수 있는 최선**에 도달한다: + - 진짜 역행렬이면 $A^{-1}A = AA^{-1} = I$. 유사역행렬은 거기까지는 못 가고, **갈 수 있는 최선**에서 멈춘다: - 📌 원문 (p.271, 275): [🔗 PDF 위치](((6a85600c-3cac-4ba4-9f76-bc8e55a4ff1c))) / ((6a856080-57ec-455d-8096-8c361f5939fc)) - ![P_row와 P_column (p.271)](../assets/4장_p271_Prow_Pcolumn_식.png) - $$A^{+}A = P_{\text{row}}\ (\text{행공간 사영, } n \times n) \qquad AA^{+} = P_{\text{column}}\ (\text{열공간 사영, } m \times m)$$ - - 왜 사영인가 (한 줄 추적): $A^{+}Ax$ 에서 $Ax$ 는 $x$ 의 **행공간 성분만** 반영하고 ($Ax_n = 0$), $A^{+}$ 는 그 결과를 행공간으로 되돌린다. 그러니 $x \to (x$ 의 행공간 성분$)$: 정확히 행공간 사영. + - **왜 사영인가**: [5단계] 정의 3줄로 $A^{+}Ax$ 를 한 칸씩 추적하면 나온다. + - 입력을 쪼갠다: $x = x_r + x_n$ (행공간 성분 + 영공간 성분). + - $A$ 를 곱하면: $Ax = Ax_r$ (영공간 성분은 사라진다). 이 결과는 열공간의 벡터이고, 그 "행공간의 유일한 조상"이 바로 $x_r$ 이다. + - $A^{+}$ 를 곱하면 정의 ①에 의해 그 조상으로 돌아간다: $A^{+}(Ax_r) = x_r$. + - 종합: $A^{+}Ax = x_r$. **입력에서 행공간 성분만 남기는 기계**, 이것이 행공간 사영행렬의 정의 그 자체다. ($AA^{+}$ 쪽도 똑같이 추적하면 열공간 사영.) + - 🔢 숫자 확인 ([6단계] 예제 이어서): + - $A^{+}A = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}\begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix} = \frac{1}{5}\begin{bmatrix} 1&2 \\ 2&4 \end{bmatrix}$. 이는 4.2 공식 $\frac{rr^{\mathrm{T}}}{r^{\mathrm{T}}r}$ 에 행공간 방향 $r = (1,2)$ 를 넣은 **직선 사영행렬과 완전히 같다**. + - 실제로 $A^{+}A(4,3) = (2,4)$: 입력 $(4,3)$ 의 $(1,2)$ 방향 사영 그대로다 ✓. + - 마찬가지로 $AA^{+} = \frac{1}{10}\begin{bmatrix} 1&3 \\ 3&9 \end{bmatrix}$ = 열공간 방향 $(1,3)$ 의 직선 사영행렬. - 좋은 기저(행공간 기저 $r$ 개 + 영공간 기저 $n - r$ 개)로 보면 이 사영행렬이 $\begin{bmatrix} I_r & 0 \\ 0 & 0 \end{bmatrix}$ 모양이 된다 (그림 4.11 의 라벨). "랭크만큼 $I$, 나머지 0"이라는 직감이 여기서는 정확히 맞는다. - - 특수화 확인: 좌역 상황($r = n$)이면 행공간 = $\mathbb{R}^n$ 전체 → $P_{\text{row}} = I$ → $A^{+}A = I$ ✓. 우역 상황($r = m$)이면 열공간 = $\mathbb{R}^m$ 전체 → $AA^{+} = I$ ✓. [3]·[4단계]가 이 그림의 특수 케이스였다. - - #### [8단계] 계산법 3종과 펜로즈 조건 (수위 조절: 눈도장 수준이면 충분) - - **① 대각행렬** $D$: 제일 쉬운 경우. 대각 성분의 역수를 취하되 $\frac{1}{0}$ **은 0으로** 두고, 모양은 전치. - - $$D = \begin{bmatrix} 2&0&0 \\ 0&3&0 \\ 0&0&0 \end{bmatrix} \Rightarrow D^{+} = \begin{bmatrix} 1/2&0&0 \\ 0&1/3&0 \\ 0&0&0 \end{bmatrix}$$ - - "역수 없는 자리(0)는 포기하고 0"이 유사역의 정신을 그대로 보여준다 (복원 불가능한 방향은 0으로). - - **② 한쪽 역이 있는 경우**: [3]·[4단계] 공식. 세로 → $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, 가로 → $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$. - - **③ 일반 (랭크 부족)**: $A = CR$ (3장의 그 분해!)로 쪼갠 뒤, $C$ 는 열 독립이니 좌역을, $R$ 는 행 독립이니 우역을 갖는다. 운 좋게 그 둘을 이어 붙이면 끝: - - 📌 원문 (p.273): [🔗 PDF 위치](((6a856034-75b4-4025-8463-6bbce9302041))) / 식 (3) [🔗](((6a85603b-9d37-4456-b37c-0732cb7b80d3))) / 식 (4) [🔗](((6a856040-be47-4a73-a52b-d486b76c8d2f))) - - $$A^{+} = R^{+}C^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}} \quad (\text{식 (7)})$$ - - 📌 원문 식 (7)·(8) (p.275): [🔗 PDF 위치](((6a856077-68be-4fbd-b9af-716de18b6602))) / [🔗 PDF 위치](((6a856088-3271-41fd-b568-8a0c1b029b59))) - - 지금은 "이런 공식이 있다" 눈도장이면 충분하다. 진짜 계산의 왕도는 7장의 SVD ($A = U\Sigma V^{\mathrm{T}} \to A^{+} = V\Sigma^{+}U^{\mathrm{T}}$, 이름만!). - - **펜로즈 4조건** ($A^{+}$ 의 신분증, 식 (5)): + - 특수화 확인: 좌역 상황($r = n$)이면 행공간 = $\mathbb{R}^n$ 전체 → $P_{\text{row}} = I$ → $A^{+}A = I$ ✓. 우역 상황($r = m$)이면 열공간 = $\mathbb{R}^m$ 전체 → $AA^{+} = I$ ✓. [2]·[3단계]가 이 그림의 특수 케이스였다. + - → **이 단계의 결론**: $A^{+}A$ = 행공간 사영, $AA^{+}$ = 열공간 사영. $I$ 는 "사영할 필요가 없을 만큼 공간이 꽉 찼을 때"($r = n$ 또는 $r = m$)의 특수형일 뿐이다. + - #### [8단계] 펜로즈 4조건: $A^{+}$ 의 신분증이자 검산 체크리스트 + - 지금까지는 $A^{+}$ 를 4가지 기본 부분공간으로 설명했다. 무어와 펜로즈는 다른 접근을 했다: **공간 이야기 없이 등식 4개**로 $A^{+}$ 를 정의한 것이다 (식 5). - 📌 원문 식 (5) (p.273): [🔗 PDF 위치](((6a856047-b418-487d-873c-2967c2407488))) - ![펜로즈 조건 (p.273)](../assets/4장_p273_식5_펜로즈_조건.png) - $$AA^{+}A = A, \quad A^{+}AA^{+} = A^{+}, \quad (A^{+}A)^{\mathrm{T}} = A^{+}A, \quad (AA^{+})^{\mathrm{T}} = AA^{+}$$ - - 읽는 법: 앞의 둘 = "서로가 서로를 되돌린다(갈 수 있는 데까지)", 뒤의 둘 = "$A^{+}A, AA^{+}$ 는 대칭 = **직교** 사영" (4.2 의 $P^{\mathrm{T}} = P$ 판정 그대로!). 이 4개를 만족하는 행렬은 **유일**하고 그것이 $A^{+}$. 정체 모를 후보를 검증하는 도구로 쓴다 (연습문제 2·6). - - (읽을거리) **결합행렬 예** (p.274~276): 3.5의 그래프 결합행렬($5 \times 4$, $r = 3$)에 $A = CR$ 공식을 적용해 $A^{+}$ 를 실제로 구해 보이는 예. "A의 행 합 = 0 → $A^{+}$ 의 열 합 = 0" 처럼 $A$ 와 $A^{+}$ 의 4공간이 좌우로 뒤바뀌는 것을 구경하는 것이 포인트. 키르히호프 전류법칙($A^{\mathrm{T}}y = 0$)과의 연결은 교양으로. + - 읽는 법: + - 앞의 둘 = "서로가 서로를 되돌린다 (갈 수 있는 데까지)". + - 뒤의 둘 = "$A^{+}A$ 와 $AA^{+}$ 는 대칭 = **직교** 사영이다" (4.2의 $P^{\mathrm{T}} = P$ 판정 그대로, [7단계]와 일치). + - **용도**: 이 4개를 만족하는 행렬은 **유일**하고 그것이 $A^{+}$ 다. 그래서 정체 모를 후보 행렬이 "진짜 $A^{+}$ 인지" 확인하는 검산 도구로 쓴다 (연습문제 2·6이 정확히 이 연습이다). + - 참고 (이름만): 계산의 왕도는 7장의 SVD다. $A = U\Sigma V^{\mathrm{T}}$ 로 분해되면 $A^{+} = V\Sigma^{+}U^{\mathrm{T}}$ (대각 $\Sigma$ 의 유사역은 ⓐ 지름길로 즉답). 지금은 눈도장이면 충분하다. + - 📌 원문 식 (8) (p.275): [🔗 PDF 위치](((6a856088-3271-41fd-b568-8a0c1b029b59))) + - ![식 (8): (A⁺A)² = A⁺A (p.275)](../assets/4장_p275_식8_사영_확인.png) + - 식 (7)을 두 번 곱해 $(A^{+}A)^2 = A^{+}A$ 를 확인하는 식: "사영행렬은 두 번 해도 한 번과 같다"(4.2 $P^2 = P$)의 재확인이다. + - (읽을거리) **결합행렬 예** (p.274~276): 3.5의 그래프 결합행렬($5 \times 4$, $r = 3$)에 식 (7)을 적용해 $A^{+}$ 를 실제로 구해 보이는 예. "$A$ 의 행 합 = 0 → $A^{+}$ 의 열 합 = 0"처럼 $A$ 와 $A^{+}$ 의 4공간이 좌우로 뒤바뀌는 것을 구경하는 것이 포인트. 키르히호프 전류법칙($A^{\mathrm{T}}y = 0$)과의 연결은 교양으로. + - #### 🧩 한눈 요약표 (이 절 전체) + - | 유형 | 판정 | $A^{+}$ 공식 | $A^{+}A$ | $AA^{+}$ | $A^{+}b$ 의 의미 | + | --- | --- | --- | --- | --- | --- | + | 정사각 가역 | $r = m = n$ | $A^{-1}$ | $I$ | $I$ | 유일한 해 | + | 세로 (열 독립) | $r = n < m$ | $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ | $I$ | $P_{\text{col}}$ | 최소제곱해 $\hat{x}$ | + | 가로 (행 독립) | $r = m < n$ | $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$ | $P_{\text{row}}$ | $I$ | 최단 해 $x^{+}$ | + | 일반 (둘 다 부족) | $r < m,\ r < n$ | $R^{+}C^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}$ | $P_{\text{row}}$ | $P_{\text{col}}$ | 최소노름 최소제곱해 | + - 읽는 법: 아래로 갈수록 조건이 나빠지고, $I$ 였던 칸이 사영으로 바뀐다. 유사역행렬은 위의 세 줄을 전부 특수 케이스로 포함하는 마지막 줄이다. - ### ❓ 스스로 점검 - - 좌역·우역·유사역행렬은 각각 어떤 행렬이 갖는가? 각각 "무엇이 부족한 상황"의 처방인가? - - 좌역: 세로로 긴 열 독립 행렬 ($r = n$). **존재**가 부족한 상황(해 0 또는 1개)의 처방: 최소제곱. - - 우역: 가로로 긴 행 독립 행렬 ($r = m$). **유일성**이 부족한 상황(해 ∞개)의 처방: 최단 해. - - 유사역: 모든 행렬. 둘 다 부족하면 두 처방 동시 적용 (최소노름 최소제곱해). - - 좌역행렬의 공식은? $A^{+}b$ 가 최소제곱해인 이유는? - - $A^{+} = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ (열 독립이라 $A^{\mathrm{T}}A$ 가역). $A^{+}A = I$, 단 $AA^{+}$ 는 열공간 사영행렬 $P$. - - $A^{+}b = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}b$ 는 정규방정식 $A^{\mathrm{T}}A\hat{x} = A^{\mathrm{T}}b$ 의 해 그 자체다. - - 우역행렬의 공식은? $A^{+}b$ 가 최단 해인 이유는? - - $A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$ (행 독립이라 $AA^{\mathrm{T}}$ 가역). $AA^{+} = I$, 단 $A^{+}A$ 는 행공간 사영행렬. - - $A^{+}b$ 는 무한한 해 중 행공간에 있는 유일한 해 = 영공간 성분 0. $\|x\|^2 = \|x^{+}\|^2 + \|x_n\|^2$ (피타고라스)라 영공간 군살이 없는 해가 최단. - - $A^{\mathrm{T}}A$ 와 $AA^{\mathrm{T}}$ 의 크기와 가역 조건은? - - 둘 다 **항상 정사각**: $A^{\mathrm{T}}A$ 는 $n \times n$, $AA^{\mathrm{T}}$ 는 $m \times m$ (내적 표). - - $A^{\mathrm{T}}A$ 가역 ⟺ 열 독립 ($r = n$) / $AA^{\mathrm{T}}$ 가역 ⟺ 행 독립 ($r = m$). - - $A^{+}$ 의 정의를 행동강령 3줄로 말하라. 그 정의가 가능한 근거는? - - $y = b + z$ (열공간 + 좌영공간)로 분해했을 때: $A^{+}b = x$ ($b = Ax$ 인 행공간의 유일한 $x$), $A^{+}z = 0$, 따라서 $A^{+}y = x$. - - 근거: "$A$ 는 행공간 → 열공간의 가역변환" (4.1). $A^{+}$ 는 그 역 + 복원 불가능한 좌영공간은 0. - - $A^{+}A$ 와 $AA^{+}$ 의 정체는? 진짜 역행렬과의 차이는? + - 유사역행렬 $A^{+}$ 는 어떤 행렬이 갖는가? 진짜 역행렬 $A^{-1}$ 와의 관계는? + - **모든 행렬**이 갖는다. 유사역행렬은 역행렬·좌역·우역을 전부 포함하는 상위 개념이다. + - $A$ 가 가역이면 $A^{+} = A^{-1}$ 로 일치한다. + - $A^{+}b$ 는 무엇을 주는가? 세 상황(해가 없다, 해가 무한하다, 둘 다)으로 나눠 말하라. + - 해가 없을 수 있는 상황 (세로, $r = n$): 오차 $\|Ax - b\|$ 를 최소로 하는 **최소제곱해** $\hat{x}$ (정규방정식의 해). + - 해가 무한한 상황 (가로, $r = m$): 그중 길이 $\|x\|$ 가 가장 짧은 **최단 해** $x^{+}$ (행공간 소속, 영공간 성분 0). + - 둘 다인 상황: 두 처방의 동시 적용, **최소노름 최소제곱해**. + - $A^{+}$ 를 구하는 절차를 처음부터 끝까지 말하라. + - 1) 소거해서 랭크 $r$ 로 유형을 판정한다. + - 2) 공식을 선택한다: 대각이면 역수 취하고 전치 모양($\frac{1}{0}$ 은 0), $r = n$ 이면 $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$, $r = m$ 이면 $A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}$, 둘 다 아니면 $A = CR$ 분해 후 $A^{+} = R^{+}C^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}$. + - 3) 검산한다: $AA^{+}A = A$. + - 🔢 계산 연습: $A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}$ 의 $A^{+}$ 를 구하라. + - 소거 → 피벗 1개, $r = 1$ (둘 다 부족) → $C = \begin{bmatrix} 1 \\ 3 \end{bmatrix}$, $R = \begin{bmatrix} 1&2 \end{bmatrix}$. + - $C^{\mathrm{T}}AR^{\mathrm{T}} = 50$ → $A^{+} = R^{\mathrm{T}} \cdot \frac{1}{50} \cdot C^{\mathrm{T}} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}$. + - $A = CR$ 에서 $C$ 와 $R$ 은 무엇이고, 왜 이 분해가 $A^{+}$ 계산을 가능하게 하는가? + - $C$ = $A$ 의 선형독립인 열 $r$ 개 (열공간의 기저), $R$ = 기약행사다리꼴의 0 아닌 행 $r$ 개 (행공간의 기저). + - $C$ 는 열 독립이라 좌역 $C^{+}$ 를, $R$ 은 행 독립이라 우역 $R^{+}$ 를 가진다. + - 즉 한쪽 역도 없는 $A$ 를 "한쪽 역이 있는 좋은 두 조각"으로 쪼개고, 역의 순서를 뒤집어 $A^{+} = R^{+}C^{+}$ 로 조립한다. + - $A^{+}A$ 와 $AA^{+}$ 의 정체는? 왜 그렇게 되는지 한 줄로 추적하라. - $A^{+}A$ = 행공간 사영행렬 ($n \times n$), $AA^{+}$ = 열공간 사영행렬 ($m \times m$). - - 역행렬은 $I$ 를 만들지만 유사역은 "갈 수 있는 최선"인 사영까지 간다. $r = n$ 이면 $A^{+}A = I$, $r = m$ 이면 $AA^{+} = I$ 로 퇴화. + - 추적: $A^{+}Ax = A^{+}(Ax_r) = x_r$. 입력에서 행공간 성분만 남기니 사영의 정의 그대로다. + - 특수화: $r = n$ 이면 $A^{+}A = I$, $r = m$ 이면 $AA^{+} = I$ (좌역·우역 상황). + - $A^{\mathrm{T}}A$ 와 $AA^{\mathrm{T}}$ 의 크기와 가역 조건은? + - 둘 다 **항상 정사각**: $A^{\mathrm{T}}A$ 는 $n \times n$ (열 내적 표), $AA^{\mathrm{T}}$ 는 $m \times m$ (행 내적 표). + - $A^{\mathrm{T}}A$ 가역 ⟺ 열 독립 ($r = n$) / $AA^{\mathrm{T}}$ 가역 ⟺ 행 독립 ($r = m$). + - 펜로즈 4조건은 무엇이고, 무엇에 쓰는 물건인가? + - $AA^{+}A = A$, $A^{+}AA^{+} = A^{+}$, $(A^{+}A)^{\mathrm{T}} = A^{+}A$, $(AA^{+})^{\mathrm{T}} = AA^{+}$. + - 이 4개를 만족하는 행렬은 **유일**하고 그것이 $A^{+}$ 다. 정체 모를 후보가 진짜 $A^{+}$ 인지 확인하는 검산 체크리스트로 쓴다. - ### ✏️ 연습문제 풀이 (솔루션 참고) - **문제 1**: 세 행렬의 유사역행렬을 구하라: $A_1 = \begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}$, $A_2 = \begin{bmatrix} 2&0 \\ 0&4 \\ 0&0 \end{bmatrix}$, $A_3 = \begin{bmatrix} 2&0&0 \\ 0&4&0 \end{bmatrix}$. id:: c7d24191-44a3-4d31-a17a-450ef991aa54 - - 🔁 개념 상기: 세 행렬이 정확히 [2단계] 표의 세 유형이다. $A_1$ 은 랭크 부족(둘 다 부족), $A_2$ 는 세로(좌역), $A_3$ 는 가로(우역). 유형 판정 → 맞는 공식 선택이 풀이의 전부. - - $A_1$ (정사각이지만 $r = 1 < 2$, 한쪽 역도 없음): 랭크 1이라 $A_1 = cr^{\mathrm{T}}$ 꼴 ($c = r = (1,1)$). - - 문제 2의 랭크 1 공식으로: $A_1^{+} = \frac{rc^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} = \frac{1}{2 \cdot 2}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix} = \frac{1}{4}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}$. + - 🔁 개념 상기: 세 행렬이 정확히 [1단계] 표의 세 유형이다. $A_1$ 은 랭크 부족(둘 다 부족), $A_2$ 는 세로(좌역), $A_3$ 는 가로(우역). [6단계] 레시피 그대로 **유형 판정 → 공식 선택**이 풀이의 전부다. + - $A_1$ (정사각이지만 $r = 1 < 2$, 한쪽 역도 없음): 공식 ⓓ, $A = CR$ 로 간다. + - $C = \begin{bmatrix} 1 \\ 1 \end{bmatrix}$ (독립인 열 1개), $R = \begin{bmatrix} 1 & 1 \end{bmatrix}$ (기약행사다리꼴의 0 아닌 행). + - 식 (7)에 대입: $C^{\mathrm{T}}A_1R^{\mathrm{T}} = 4$ → $A_1^{+} = R^{\mathrm{T}} \cdot \frac{1}{4} \cdot C^{\mathrm{T}} = \frac{1}{4}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}$. + - (같은 답이 문제 2의 랭크 1 공식 $\frac{rc^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} = \frac{1}{2 \cdot 2}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}$ 로도 나온다.) - 감각 확인: $A_1(1,1) = (2, 2)$, 즉 $(1,1)$ 방향에서 $A_1$ 은 2배로 불린다. 되돌리기는 그 방향에서 $\frac{1}{2}$ 배여야 하는데, 실제로 $A_1^{+}(2,2) = \frac{1}{4}(4,4) = (1,1)$ ✓ (행렬 계수 $\frac{1}{4}$ 에 $A_1$ 자신의 2배가 합성되어 배율 $\frac{1}{2}$). - - $A_2$ (세로, $r = n = 2$ → 좌역): 대각이라 지름길이 보인다. **역수 취하고** ($\frac{1}{0}$ 은 0), **모양은 전치**: + - $A_2$ (세로, $r = n = 2$ → 좌역): 대각 꼴이라 [6단계] ⓐ 지름길. **역수 취하고** ($\frac{1}{0}$ 은 0), **모양은 전치**: - $$A_2^{+} = \begin{bmatrix} 1/2&0&0 \\ 0&1/4&0 \end{bmatrix} \qquad \text{검산: } A_2^{+}A_2 = I_2 \ ✓,\ A_2A_2^{+} \neq I_3$$ - - 공식으로 해도 같다: $A^{\mathrm{T}}A = \mathrm{diag}(4, 16)$ → $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ = 위와 동일. + - 공식 ⓑ로 해도 같다: $A^{\mathrm{T}}A = \mathrm{diag}(4, 16)$ → $(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ = 위와 동일. - $A_3$ (가로, $r = m = 2$ → 우역): $A_2$ 의 전치니까 답도 전치의 관계: - $$A_3^{+} = \begin{bmatrix} 1/2&0 \\ 0&1/4 \\ 0&0 \end{bmatrix} \qquad \text{검산: } A_3A_3^{+} = I_2 \ ✓$$ - 핵심 문장: 유사역 계산의 1단계는 공식이 아니라 **유형 판정** (세로/가로/랭크부족). 대각 꼴이면 "역수 + 전치 모양 + $\frac{1}{0}$ 은 0"으로 즉답. @@ -166,7 +242,7 @@ deck:: Logseq/전공공부/선형대수학 - 3단계, 조건 2: 같은 수법으로 $A^{+}AA^{+} = A^{+}$ ✓. - 핵심 문장: 랭크 1의 유사역 = "전치 모양($rc^{\mathrm{T}}$)에 두 크기 제곱으로 나누기". 그리고 $A^{+}A, AA^{+}$ 가 행·열공간 사영행렬이 되는 것을 손으로 목격하는 문제. - **문제 4**: $A = \begin{bmatrix} 1&0&0 \\ 0&1&0 \end{bmatrix}$ 의 행공간·열공간은? $A^{\mathrm{T}}$ 와 동일한 4공간을 갖는 $A^{+}$ 는? - - 🔁 개념 상기: [6단계] "$A^{+}$ 와 $A^{\mathrm{T}}$ 는 4공간이 같다" + 4.4 요약표의 $Q^{+} = Q^{\mathrm{T}}$. + - 🔁 개념 상기: [5단계] "$A^{+}$ 와 $A^{\mathrm{T}}$ 는 4공간이 같다" + 4.4 요약표의 $Q^{+} = Q^{\mathrm{T}}$. - 공간 파악: 행공간 = $\mathbb{R}^3$ 안의 $xy$-평면 (행 $(1,0,0), (0,1,0)$ 이 생성), 열공간 = $\mathbb{R}^2$ 전체. - $A^{+}$ 계산: 가로($r = m = 2$)라 우역인데, **행들이 정규직교**라서 $AA^{\mathrm{T}} = I_2$ → $A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1} = A^{\mathrm{T}} \cdot I = A^{\mathrm{T}}$. - $$A^{+} = A^{\mathrm{T}} = \begin{bmatrix} 1&0 \\ 0&1 \\ 0&0 \end{bmatrix}$$ @@ -179,7 +255,7 @@ deck:: Logseq/전공공부/선형대수학 - 왜 직관적으로 당연한가: 사영행렬은 자기 열공간 안에서는 **아무것도 안 하는** 행렬이다 (이미 도착한 벡터는 그대로). "되돌릴 것"이 없으니 되돌리기도 자기 자신. 죽인 성분(여공간)은 유사역도 똑같이 0으로 보내는 게 규칙이고. - 핵심 문장: 사영행렬의 유사역은 자기 자신 ($P^{+} = P$). "사영은 자기 세계 안에서 항등"이라는 문장의 유사역 버전. - **문제 11**: 왜 $A^{+}$ 의 유사역행렬은 항상 $A$ 인가? ($(A^{+})^{+} = A$) - - 🔁 개념 상기: [6단계] 그림 4.11. $A^{+}$ 의 역할을 다시 뒤집으면 무엇이 되는지 생각하는 개념 마무리 문제. + - 🔁 개념 상기: [5단계] 그림 4.11. $A^{+}$ 의 역할을 다시 뒤집으면 무엇이 되는지 생각하는 개념 마무리 문제. - 길 ① (4공간 관점): $A^{+}$ 는 열공간 → 행공간의 가역변환(+ 좌영공간은 0). 그것의 유사역은 "행공간 → 열공간의 가역변환 + 영공간은 0" 이어야 하는데, 그 일을 하는 행렬이 정확히 $A$ 자신이다. - 길 ② (펜로즈 관점): 4조건 $AA^{+}A = A$, $A^{+}AA^{+} = A^{+}$, 대칭 2개는 $A$ 와 $A^{+}$ 를 **맞바꿔도 똑같은 문장**이다. 즉 "$A^{+}$ 의 유사역" 자격 요건을 $A$ 가 그대로 통과하고, 펜로즈 조건의 해는 유일하므로 $(A^{+})^{+} = A$. - 핵심 문장: 되돌리기의 되돌리기 = 원본. 정의(4공간 역할)로도, 신분증(펜로즈 조건의 대칭성)으로도 같은 결론.