Logseq/Major Study/pages/4.5 행렬의 유사역행렬.md

deck:: Logseq/전공공부/선형대수학

• 핵심 개념

  • 흐름 지도: [0단계] 결론 먼저 (이 절의 최종 답 3줄) → [1단계] 왜 필요한가: 역행렬의 빈자리와 3.3 해 유형표 → [2단계] 좌역행렬: 세로 행렬의 처방 → [3단계] 우역행렬: 가로 행렬의 처방 → [4단계] A^{\mathrm{T}}A 대 AA^{\mathrm{T}} 재료 정리 → [5단계] 진짜 유사역행렬 A^{+} 의 정의 → [6단계] ⭐ A^{+} 구하는 법 총정리 (레시피 + 완전 예제) → [7단계] A^{+}A 와 AA^{+} 는 왜 사영인가 → [8단계] 펜로즈 4조건 (검산 체크리스트) → 🧩 한눈 요약표.

  • [0단계] 결론 먼저: 이 절의 최종 답 3줄

    • 이 절은 개념이 많아 보이지만 최종 결론은 3줄뿐이다. 아래 3줄이 목적지이고, [1]~[8단계]는 전부 이 3줄을 납득시키는 과정이다.
      • ① 정체: A^{+} 는 역행렬이 없는 행렬에게 주는 최선의 역행렬이다. 모든 행렬이 가지며, 진짜 역행렬이 있으면 A^{+} = A^{-1} 로 일치한다.
      • ② 하는 일: A^{+}b 는 Ax = b 의 최소노름 최소제곱해 x^{+} 를 준다. 해가 없으면 오차가 최소인 최선을, 해가 무한하면 그중 길이가 가장 짧은 대표를 준다.
      • ③ 구하는 법: 소거해서 랭크로 유형을 판정하고, 유형에 맞는 공식 하나에 대입한다. 열 독립이면 (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}, 행 독립이면 A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}, 둘 다 아니면 A = CR 로 쪼개 A^{+} = R^{+}C^{+}. 전체 절차와 손계산 예제는 [6단계]에 있다.
    • 💡 부담 조절: 책 스스로 "이 절은 필수로 알아두어야 할 내용은 아니다"라고 말한다 (p.269). 진짜 계산의 왕도(SVD)는 7장에서 배우니, 여기서는 위 3줄과 [6단계] 손계산까지만 가져가면 충분하다.
    • 새 개념도 아니다. 4장 내내 세 번 스쳐간 복선의 회수전이다:
      • 4.1 [5단계]: "A 는 행공간에서 열공간으로의 가역변환, 이걸 되돌리는 행렬이 4.5의 $A^{+}$" (그때 이름만 들었던 그것).
      • 4.3 [7단계]: 열이 종속일 때 무한한 해 중 최단 해 x^{+} = (1,1) 을 고르던 도구.
      • 4.4 요약표: Q^{+} = Q^{\mathrm{T}} 라는 칸.

  • [1단계] 왜 필요한가: 역행렬의 빈자리 + 3.3 해 유형표

    • 진짜 역행렬 A^{-1} 는 사치품이다: 정사각 + 열 독립일 때만 존재한다 (A^{-1}A = I 와 AA^{-1} = I 둘 다). 직사각이거나 랭크가 부족한 대부분의 행렬은 못 가진다.
    • 그런데 4장에서 이미 "되돌리기 비슷한 것"을 해왔다: 해가 없는데 최선을 돌려받았고(4.3 최소제곱), 해가 넘칠 때 대표를 골라 받았다(최단 해). 4.5는 그 "비슷한 것들"에 이름을 붙이고 하나로 통합하는 절이다.
      • 📌 원문 (p.269): ((6a855f6d-02af-464b-ad44-6cdb61f7973c))
    • 워밍업 (p.268 도입 표): 항등행렬조차 열이나 행을 잘라내면 "한쪽 역"만 남는다.
      • 
      • I_L I_R = I (이 순서는 항등)인데 I_R I_L \neq I (반대 순서는 실패). 왼쪽에서 곱할 때만 역이 되는 행렬과 오른쪽에서 곱할 때만 역이 되는 행렬이 따로 있다는 것이 이 절의 첫 감각이다.
    • 3.3 해 유형표에 겹쳐 보면 좌역·우역이 태어난 이유가 보인다. "무엇이 부족한가"가 처방을 정한다:

      • 모양	랭크	Ax = b 의 해 (3.3)	부족한 것	처방	이름
        정사각 가역	r = m = n	항상 1개	없음	A^{-1}	역행렬
        세로로 긺	r = n < m	0 또는 1개	존재	해가 없어도 최선을 주자	좌역행렬
        가로로 긺	r = m < n	항상 존재 (∞개)	유일성	넘치는 해 중 대표를 고르자	우역행렬
        둘 다 부족	r < m,\ r < n	0 또는 ∞개	둘 다	두 처방 동시 적용	유사역행렬 A^{+}

      • (책 비교표의 "유일한 해 혹은 무수히 많은 해"는 정사각 m = n 인 경우까지 포함한 표현이다. 가로로 길면(m < n) 항상 ∞개.)
    • 연결 열쇠 한 문장: 존재가 깨지면 → 좌역(최소제곱), 유일성이 깨지면 → 우역(최단 해), 둘 다 깨지면 → A^{+} (최소노름 최소제곱).
    • 책의 좌역·우역 비교표 (다음 두 단계의 지도다):
      • 📌 원문 비교표 (p.269): 🔗 PDF 위치
      • 
    • → 이 단계의 결론: 역행렬이 없어지는 이유는 존재 실패와 유일성 실패 두 가지뿐이다. 각각의 처방이 좌역·우역이고, 둘 다 실패하면 A^{+} 가 나선다.

  • [2단계] 좌역행렬: 세로 행렬의 처방 = 최소제곱

    • 대상: 세로로 긴 A (m > n, 열 독립, r = n). 방정식이 미지수보다 많아 해가 없을 수 있는 상황.
    • 구하는 법: 열 독립이면 A^{\mathrm{T}}A (n \times n)가 가역이다 (4.2 [6단계]의 그 정리). 그 역행렬로 조립한다:
      • A^{+} = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}} \qquad \text{검산: } A^{+}A = (A^{\mathrm{T}}A)^{-1}(A^{\mathrm{T}}A) = I \ ✓
    • 이름의 뜻: 왼쪽에서 곱했을 때만 I 가 된다 (A^{+}A = I, n \times n).
      • 오른쪽 곱은 I 가 못 된다: AA^{+} = A(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}, 어디서 많이 봤다. 4.2의 사영행렬 P 그 자체다!
      • 계수 세계(x 쪽)에서는 완벽한 역, 벡터 세계(b 쪽)에서는 "갈 수 있는 데까지(열공간 사영)"만.
    • ✅ 책의 "이것이 바로 최소제곱법이다"의 뜻: 이 A^{+} 를 b 에 곱해보라.
      • A^{+}b = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}b = \hat{x}
      • 우변은 4.3 정규방정식의 해 그 자체다. 좌역행렬은 "최소제곱해 계산기"를 행렬 하나로 포장한 것이다.
      • b 가 열공간 안이면 정확한 해를, 밖이면 최선의 해를 돌려준다 (4.3에서 확인한 "최소제곱은 상위호환" 그대로).
    • 🔢 제일 작은 예: A = \begin{bmatrix} 1 \\ 1 \end{bmatrix} (세로, r = n = 1).
      • A^{\mathrm{T}}A = 2 → A^{+} = \frac{1}{2}\begin{bmatrix} 1 & 1 \end{bmatrix}.
      • A^{+}A = \frac{1}{2}(1 + 1) = 1 = I_1 ✓. 반대쪽 AA^{+} = \frac{1}{2}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix} = 상수벡터 방향 사영행렬 (\neq I).
      • A^{+}b = \frac{b_1 + b_2}{2} = 평균! (4.3 문제 12의 "평균 = 사영"이 좌역행렬의 언어로 재등장. 세로 A = (1,1) 의 좌역은 평균 기계다.)
    • → 이 단계의 결론: 세로 행렬(열 독립)의 유사역 = 좌역 (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}, 그리고 A^{+}b = 최소제곱해 \hat{x}.

  • [3단계] 우역행렬: 가로 행렬의 처방 = 최단 해

    • 대상: 가로로 긴 A (m < n, 행 독립, r = m). 미지수가 방정식보다 많아 해가 무한한 상황.
    • 구하는 법: 행 독립이면 AA^{\mathrm{T}} (m \times m)가 가역이다. 좌역과 거울 대칭으로 조립한다:
      • A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1} \qquad \text{검산: } AA^{+} = (AA^{\mathrm{T}})(AA^{\mathrm{T}})^{-1} = I \ ✓
    • 이름의 뜻: 오른쪽에서 곱했을 때만 I (AA^{+} = I, m \times m). 왼쪽 곱 A^{+}A 는 I 가 아니다 ([7단계]에서 정체를 밝힌다).
    • ✅ 책의 "최소길이 해(최단거리 해)"의 뜻: 해가 무한하니 고르는 문제가 남는다.
      • 3.3의 완전해: x = x_p + x_n (특수해 + 영공간 아무거나). 전부 같은 b 로 가는 정당한 해들이다.
      • 그중 x^{+} = A^{+}b 는 행공간에 들어 있는 유일한 해다. 즉 영공간 성분이 0.
      • 왜 그게 최단인가: 4.1의 직교 분해로 임의의 해는 x = x^{+} + x_n (행공간 성분 ⊥ 영공간 성분) → 피타고라스:
      • \|x\|^2 = \|x^{+}\|^2 + \|x_n\|^2 \geq \|x^{+}\|^2
      • 영공간 성분은 길이만 늘리는 군살이다. 그걸 0으로 만든 해가 최단. 4.3 [7단계]의 "최단 해 $x^{+} = (1,1)$"의 정체가 이것이다.
    • 🔢 제일 작은 예: A = \begin{bmatrix} 1 & 1 \end{bmatrix} (가로, r = m = 1).
      • AA^{\mathrm{T}} = 2 → A^{+} = \frac{1}{2}\begin{bmatrix} 1 \\ 1 \end{bmatrix}. AA^{+} = \frac{1}{2}(1+1) = 1 ✓.
      • Ax = b 는 x_1 + x_2 = b: 해가 직선 하나 가득. A^{+}b = (\frac{b}{2}, \frac{b}{2}) 는 그 직선 위에서 원점에 가장 가까운 점 (수선의 발!).
      • 검산: 다른 해 (b, 0) 의 길이는 |b|, 최단 해의 길이는 \frac{|b|}{\sqrt{2}}. 정말 더 짧다.
    • ⚠️ 오해 교정 ("좌역·우역행렬은 I 에 0 붙인 모양?"): 아니다. 좌역·우역행렬 자신은 \frac{1}{2}[1\ 1] 처럼 평범한 직사각행렬이다. "I 랭크만큼 + 나머지 0" 모양이 나오는 곳은 두 군데뿐이다: ① [1단계] 도입 표의 특수 예 (I 를 잘라 만든 I_L, I_R), ② [7단계]에서 볼 A^{+}A, AA^{+} (사영행렬을 좋은 기저에서 본 모습). 그 인상이 섞인 것.
    • → 이 단계의 결론: 가로 행렬(행 독립)의 유사역 = 우역 A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}, 그리고 A^{+}b = 무한한 해 중 최단 해 x^{+}.

  • [4단계] A^{\mathrm{T}}A 대 AA^{\mathrm{T}}: 재료 정리 (기억 교정)

    • 팩트 체크: 둘 다 언제나 정사각이다. A 가 m \times n 이면 A^{\mathrm{T}}A 는 n \times n (열 내적 표), AA^{\mathrm{T}} 는 m \times m (행 내적 표). 4.2 스스로 점검의 "내적 표" 문답 그대로.
    • "AA^{\mathrm{T}} 는 정사각이 아니라던데?"는 기억의 혼선이다. 아마 4.4의 "직사각 Q 에서 $QQ^{\mathrm{T}} \neq I$" 와 섞였을 것. 항등이 아닌 것과 정사각이 아닌 것은 다른 말이다 (QQ^{\mathrm{T}} 도 어엿한 m \times m 사영행렬이었다).
    • 둘의 진짜 차이는 크기가 아니라 언제 가역인가다:

      • 행렬	크기	가역 ⟺	어느 역행렬의 재료?
        A^{\mathrm{T}}A	n \times n	열 독립 (r = n)	좌역 (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}
        AA^{\mathrm{T}}	m \times m	행 독립 (r = m)	우역 A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}

    • → 이 단계의 결론: 세로(열 독립)는 A^{\mathrm{T}}A 가 살아 있어 좌역을 만들 수 있고, 가로(행 독립)는 AA^{\mathrm{T}} 가 살아 있어 우역을 만들 수 있다.

  • [5단계] 진짜 유사역행렬 A^{+} 의 정의: 랭크가 둘 다 부족해도 된다

    • 이제 최악의 상황: r < m 이고 r < n (해가 0개 아니면 ∞개, 한쪽 역행렬도 없음). 여기서도 작동하는 만능 되돌리기를 행동 규칙 3줄로 정의한다.
    • 정의는 행동강령 3줄이다 (책 ❶❷❸): \mathbb{R}^m 의 임의 벡터 y 를 4.1처럼 직교 분해한다: y = b + z (b \in 열공간, z \in 좌영공간).
      • ① 열공간 성분 b: 그 유일한 조상에게 되돌린다. b = Ax 인 행공간의 유일한 x 로: A^{+}b = x.
      • ② 좌영공간 성분 z: 되돌릴 곳이 없으니 죽인다: A^{+}z = 0.
      • ③ 합치면: A^{+}y = A^{+}b + A^{+}z = x.
      • 📌 원문 정의 박스 (p.270): 🔗 PDF 위치
      • 
    • 이 정의가 가능한 근거 = 4.1 [5단계]의 그 정리: "A 는 행공간에서 열공간으로의 가역변환이다".
      • 📌 원문 (p.272, 275): ((6a85601e-b15a-432c-a104-43aa309f4d34)) / ((6a85602c-bc22-4eb5-86c2-1079716484c5)) / ((6a856065-6171-48c3-88a1-51dd03f8ea10))
      • 💡 보충: "열들의 선형결합인데 왜 행공간 이야기가 나오나?" (헷갈리기 쉬운 지점):
        • Ax = b 에는 세계가 둘이다. 입력 x 는 \mathbb{R}^n (행공간·영공간이 사는 곳), 출력 b 는 \mathbb{R}^m (열공간·좌영공간이 사는 곳).
        • "Ax = 열들의 선형결합"은 출력이 어디 사는지(도착지 = 열공간)만 말한 문장이다. "행공간에서"는 거기에 출발지 이야기를 더한 것: 그 결합의 계수 벡터 x 는 어디서 오는가?
        • x 자체는 \mathbb{R}^n 아무 데나 있을 수 있지만, x = x_r + x_n 으로 쪼개면 Ax = Ax_r (영공간 성분은 A 가 통째로 버린다). 즉 A 라는 기계가 실제로 읽는 유효 입력은 행공간 성분뿐이다. 사각지대(영공간)를 걷어낸 유효 입력 구역 = 행공간.
        • 🔢 4.1 EX3의 행렬로: A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix} (행공간 (1,2) 직선, 영공간 (2,-1) 직선, 열공간 (1,3) 직선).
          • A(4,3) = (10, 30) 이고 A(2,4) = (10, 30): 다른 입력, 같은 출력. A 는 영공간 성분 차이를 구별 못 한다.
          • 행공간만 보면: c(1,2) \mapsto c(5,15) = 5c \cdot (1,3). 행공간 직선의 점 ↔ 열공간 직선의 점, 완벽한 1:1 (배율 5). 이 구간에서 A 는 "5배 기계"라 되돌리기(÷5)가 가능하고, 그 되돌리기를 행렬로 포장한 것이 A^{+} 다. ([6단계]에서 이 A^{+} 를 실제로 구한다.)
        • 한 문장 정리: 겉모습은 A: \mathbb{R}^n \to \mathbb{R}^m, 실속은 행공간($r$차원) → 열공간($r$차원)의 1:1. 행공간은 식의 오른쪽 끝(입력 x) 안에 숨어 있어서 "식만 보면 열공간 이야기"로 보이는 것이 당연하다.
      • 증명도 4.1에서 했던 그대로: 행공간의 x \neq X 가 Ax = AX 라면 x - X 가 행공간과 영공간에 동시에 있어 0. 모순.
      • A^{+} 는 그 가역변환의 역 + "복원 불가능한 부분(좌영공간)은 0으로" 규칙을 합친 것. 가능한 경우 A^{+} 는 A 를 역변환한다 (열공간 → 행공간).
      • 📌 원문 가역변환 박스 (p.275): 🔗 PDF 위치
      • 
    • [그림 4.11] = 그림 4.1의 화살표를 전부 거꾸로 돌린 그림:
      • 📌 원문 그림 4.11 (p.270): 🔗 PDF 위치
      • 
      • 읽는 법: A 는 왼쪽(행공간) → 오른쪽(열공간)으로, A^{+} 는 오른쪽 → 왼쪽으로. A^{+} 의 4가지 기본 부분공간은 A^{\mathrm{T}} 와 동일하다 (행공간↔열공간이 서로 바뀜, A 의 좌영공간이 A^{+} 의 영공간).
    • 그래서 일반 b 에 대한 x^{+} = A^{+}b 의 신분:
      • 📌 원문 (p.269): 🔗 PDF 위치 / ((6a855fcf-ec62-4b22-a9ec-e7d5d880455e)) / ((6a855fe0-2eb2-4a14-91bf-9a54a70ea013))
      • 
      • x^{+} 는 최소노름 최소제곱해: 오차 \|Ax - b\|^2 을 최소화하는 후보들([2단계] 처방) 중에서 길이 \|x\| 가 가장 짧은 것([3단계] 처방). 두 처방의 동시 적용.
      • 핵심 성질: x^{+} 는 영공간 성분이 0 (행공간 소속). 4.3 종속 열 예제의 x^{+} = (1, 1) 이 드디어 정식으로 정의된 것.
    • → 이 단계의 결론: A^{+} 는 "열공간은 행공간으로 되돌리고, 좌영공간은 0으로 보낸다"는 규칙의 행렬이고, 그래서 A^{+}b 는 언제나 최소노름 최소제곱해다. 남은 질문은 "그래서 행렬로는 어떻게 구하나"뿐이고, 그것이 [6단계]다.

  • [6단계] ⭐ A^{+} 구하는 법 총정리 (이 절의 실전 파트)

    • 계산 절차는 언제나 같다: 1) 소거해서 랭크로 유형 판정 → 2) 유형에 맞는 공식 하나 선택 → 3) 대입 → 4) 검산 (AA^{+}A = A).
    • 유형 판정과 공식 선택:
      • 대각행렬(또는 대각 꼴)이다 → 지름길 ⓐ.
      • r = n (열 독립, 세로) → 공식 ⓑ (좌역, [2단계]).
      • r = m (행 독립, 가로) → 공식 ⓒ (우역, [3단계]).
      • r < m 이고 r < n (둘 다 부족) → 공식 ⓓ (A = CR 분해).
    • ⓐ 대각행렬: 공식 없이 즉답. 역수를 취하되 \frac{1}{0} 은 0으로 두고, 모양은 전치.
      • D = \begin{bmatrix} 2&0&0 \\ 0&3&0 \\ 0&0&0 \end{bmatrix} \Rightarrow D^{+} = \begin{bmatrix} 1/2&0&0 \\ 0&1/3&0 \\ 0&0&0 \end{bmatrix}
      • "역수 없는 자리(0)는 포기하고 0"이 유사역의 정신을 그대로 보여준다 (복원 불가능한 방향은 0으로).
    • ⓑ 세로 (r = n): A^{+} = (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}.
    • ⓒ 가로 (r = m): A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}.
    • ⓓ 일반 (둘 다 부족): A = CR 로 쪼개서 정복한다. 여기가 이 단계의 하이라이트다.
      • 잠깐 복습, A = CR (1.4에서 배우고 3.2에서 소거법으로 완성한 그 분해):
        • C (m \times r): A 에서 선형독립인 열 r 개를 그대로 뽑아 세운 것 (열공간의 기저).
        • R (r \times n): A 의 기약행사다리꼴 R_0 에서 0행을 버린 것 (행공간의 기저).
        • 📌 원문 CR 구성 박스 (p.273): 🔗 PDF 위치
        • 
      • 왜 하필 CR 인가: A 자신은 한쪽 역도 없지만, 쪼개진 두 조각은 사정이 다르다.
        • C 는 열 독립 (기저니까!) → 좌역 C^{+} = (C^{\mathrm{T}}C)^{-1}C^{\mathrm{T}} 를 갖는다 (공식 ⓑ).
        • R 은 행 독립 (기저니까!) → 우역 R^{+} = R^{\mathrm{T}}(RR^{\mathrm{T}})^{-1} 를 갖는다 (공식 ⓒ). 이것이 책의 식 (3)이다.
        • 📌 원문 식 (3) (p.273): 🔗 PDF 위치
        • 
        • 즉 "나쁜 행렬 A = 좋은 조각 C × 좋은 조각 $R$"로 만들고, 각 조각을 되돌린다.
      • 조립: 곱의 역은 순서가 뒤집힌다 ((CR)^{-1} 이라면 R^{-1}C^{-1} 이듯이). 유사역도 같은 순서로:
        • A^{+} = R^{+}C^{+}
      • ⚠️ 오해 교정 ("식 (3), (4), (7)이 쭉 나열돼 있는데 전부 대입해야 하나?"): 아니다. 셋은 서로 다른 공식이 아니라 같은 공식 하나의 세 가지 표기다:
        • 식 (3) = 부품 명세 (C^{+} 와 R^{+} 각각).
        • 식 (4) = 조립도 (R^{+}C^{+} 에 식 (3)을 대입해 전개한 것).
        • 식 (7) = 최종 정리본: A^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}. 역행렬 계산이 괄호 하나(r \times r)로 줄어 손계산이 제일 편한 꼴이다.
        • 실전에서는 하나만 골라 쓰면 된다: 부품 2개를 만들어 곱하든(식 3), 식 (7)에 한 번에 대입하든 같은 답이 나온다 (아래 예제에서 둘 다 해본다).
        • 📌 원문 식 (4) (p.273): 🔗 PDF 위치
        • 
        • 📌 원문 식 (7) (p.275): 🔗 PDF 위치
        • 
      • 🔢 완전 예제 ([5단계] 보충의 그 행렬을 끝까지 손계산):
        • 0. 준비: A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}. 소거하면 피벗 1개 → r = 1 < 2: 유형 ⓓ. C = \begin{bmatrix} 1 \\ 3 \end{bmatrix} (독립인 1열), R = \begin{bmatrix} 1 & 2 \end{bmatrix} (기약행사다리꼴의 0 아닌 행). 확인: CR = A ✓.
        • 1. 방법 1 (식 3, 부품 조립): C^{\mathrm{T}}C = 10 → C^{+} = \frac{1}{10}\begin{bmatrix} 1 & 3 \end{bmatrix}. RR^{\mathrm{T}} = 5 → R^{+} = \frac{1}{5}\begin{bmatrix} 1 \\ 2 \end{bmatrix}. 조립: A^{+} = R^{+}C^{+} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}.
        • 2. 방법 2 (식 7, 한 번에): C^{\mathrm{T}}AR^{\mathrm{T}} = \begin{bmatrix} 1&3 \end{bmatrix}\begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix}\begin{bmatrix} 1 \\ 2 \end{bmatrix} = 50 (1 \times 1 숫자!) → A^{+} = R^{\mathrm{T}} \cdot \frac{1}{50} \cdot C^{\mathrm{T}} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}. 방법 1과 같은 답 ✓.
        • 3. 검산: AA^{+}A = A ✓ ([8단계] 펜로즈 조건 1번).
        • 4. 정말 "되돌리기"인가: [5단계] 보충에서 A 는 행공간 방향의 5배 기계였다 (A(1,2) = (5,15) = 5(1,3)). 확인: A^{+}(1,3) = \frac{1}{50}(10, 20) = \frac{1}{5}(1,2). 정확히 ÷5 ✓.
        • 5. 정말 "최단 해 선택기"인가: Ax = (10,30) 의 해는 (2,4) + c(2,-1) 로 무한하다. A^{+}(10,30) = \frac{1}{50}(100, 200) = (2,4): 행공간 소속(영공간 군살 0), 길이 \sqrt{20}. 다른 해 (4,3) 의 길이 5 = \sqrt{25} 보다 정말 짧다 ✓.
      • 💡 "C, R 대입 계산이 무거워 보인다"는 인상 교정: 역행렬을 취해야 하는 C^{\mathrm{T}}C, RR^{\mathrm{T}}, C^{\mathrm{T}}AR^{\mathrm{T}} 는 전부 r \times r 이다 (위 예제에서는 전부 1 \times 1 숫자). 랭크가 작을수록 오히려 계산이 짧아지게 설계된 공식이다.
    • → 이 단계의 결론: 유형 판정(소거로 랭크 확인) → ⓐ~ⓓ 중 공식 하나 선택 → 대입 → AA^{+}A = A 검산. 이것이 A^{+} 구하기의 전부다.

  • [7단계] A^{+}A 와 AA^{+} 의 정체: I 가 못 되면 사영이 된다

    • 진짜 역행렬이면 A^{-1}A = AA^{-1} = I. 유사역행렬은 거기까지는 못 가고, 갈 수 있는 최선에서 멈춘다:
      • 📌 원문 (p.271, 275): 🔗 PDF 위치 / ((6a856080-57ec-455d-8096-8c361f5939fc))
      • 
      • A^{+}A = P_{\text{row}}\ (\text{행공간 사영, } n \times n) \qquad AA^{+} = P_{\text{column}}\ (\text{열공간 사영, } m \times m)
    • 왜 사영인가: [5단계] 정의 3줄로 A^{+}Ax 를 한 칸씩 추적하면 나온다.
      • 입력을 쪼갠다: x = x_r + x_n (행공간 성분 + 영공간 성분).
      • A 를 곱하면: Ax = Ax_r (영공간 성분은 사라진다). 이 결과는 열공간의 벡터이고, 그 "행공간의 유일한 조상"이 바로 x_r 이다.
      • A^{+} 를 곱하면 정의 ①에 의해 그 조상으로 돌아간다: A^{+}(Ax_r) = x_r.
      • 종합: A^{+}Ax = x_r. 입력에서 행공간 성분만 남기는 기계, 이것이 행공간 사영행렬의 정의 그 자체다. (AA^{+} 쪽도 똑같이 추적하면 열공간 사영.)
    • 🔢 숫자 확인 ([6단계] 예제 이어서):
      • A^{+}A = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}\begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix} = \frac{1}{5}\begin{bmatrix} 1&2 \\ 2&4 \end{bmatrix}. 이는 4.2 공식 \frac{rr^{\mathrm{T}}}{r^{\mathrm{T}}r} 에 행공간 방향 r = (1,2) 를 넣은 직선 사영행렬과 완전히 같다.
      • 실제로 A^{+}A(4,3) = (2,4): 입력 (4,3) 의 (1,2) 방향 사영 그대로다 ✓.
      • 마찬가지로 AA^{+} = \frac{1}{10}\begin{bmatrix} 1&3 \\ 3&9 \end{bmatrix} = 열공간 방향 (1,3) 의 직선 사영행렬.
    • 좋은 기저(행공간 기저 r 개 + 영공간 기저 n - r 개)로 보면 이 사영행렬이 \begin{bmatrix} I_r & 0 \\ 0 & 0 \end{bmatrix} 모양이 된다 (그림 4.11 의 라벨). "랭크만큼 I, 나머지 0"이라는 직감이 여기서는 정확히 맞는다.
    • 특수화 확인: 좌역 상황(r = n)이면 행공간 = \mathbb{R}^n 전체 → P_{\text{row}} = I → A^{+}A = I ✓. 우역 상황(r = m)이면 열공간 = \mathbb{R}^m 전체 → AA^{+} = I ✓. [2]·[3단계]가 이 그림의 특수 케이스였다.
    • → 이 단계의 결론: A^{+}A = 행공간 사영, AA^{+} = 열공간 사영. I 는 "사영할 필요가 없을 만큼 공간이 꽉 찼을 때"(r = n 또는 r = m)의 특수형일 뿐이다.

  • [8단계] 펜로즈 4조건: A^{+} 의 신분증이자 검산 체크리스트

    • 지금까지는 A^{+} 를 4가지 기본 부분공간으로 설명했다. 무어와 펜로즈는 다른 접근을 했다: 공간 이야기 없이 등식 4개로 A^{+} 를 정의한 것이다 (식 5).
      • 📌 원문 식 (5) (p.273): 🔗 PDF 위치
      • 
      • AA^{+}A = A, \quad A^{+}AA^{+} = A^{+}, \quad (A^{+}A)^{\mathrm{T}} = A^{+}A, \quad (AA^{+})^{\mathrm{T}} = AA^{+}
    • 읽는 법:
      • 앞의 둘 = "서로가 서로를 되돌린다 (갈 수 있는 데까지)".
      • 뒤의 둘 = "A^{+}A 와 AA^{+} 는 대칭 = 직교 사영이다" (4.2의 P^{\mathrm{T}} = P 판정 그대로, [7단계]와 일치).
    • 용도: 이 4개를 만족하는 행렬은 유일하고 그것이 A^{+} 다. 그래서 정체 모를 후보 행렬이 "진짜 A^{+} 인지" 확인하는 검산 도구로 쓴다 (연습문제 2·6이 정확히 이 연습이다).
    • 참고 (이름만): 계산의 왕도는 7장의 SVD다. A = U\Sigma V^{\mathrm{T}} 로 분해되면 A^{+} = V\Sigma^{+}U^{\mathrm{T}} (대각 \Sigma 의 유사역은 ⓐ 지름길로 즉답). 지금은 눈도장이면 충분하다.
    • 📌 원문 식 (8) (p.275): 🔗 PDF 위치
      • 
      • 식 (7)을 두 번 곱해 (A^{+}A)^2 = A^{+}A 를 확인하는 식: "사영행렬은 두 번 해도 한 번과 같다"(4.2 P^2 = P)의 재확인이다.
  • (읽을거리) 결합행렬 예 (p.274~276): 3.5의 그래프 결합행렬(5 \times 4, r = 3)에 식 (7)을 적용해 A^{+} 를 실제로 구해 보이는 예. "A 의 행 합 = 0 → A^{+} 의 열 합 = 0"처럼 A 와 A^{+} 의 4공간이 좌우로 뒤바뀌는 것을 구경하는 것이 포인트. 키르히호프 전류법칙(A^{\mathrm{T}}y = 0)과의 연결은 교양으로.

  • 🧩 한눈 요약표 (이 절 전체)

    • 유형	판정	A^{+} 공식	A^{+}A	AA^{+}	A^{+}b 의 의미
      정사각 가역	r = m = n	A^{-1}	I	I	유일한 해
      세로 (열 독립)	r = n < m	(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}	I	P_{\text{col}}	최소제곱해 \hat{x}
      가로 (행 독립)	r = m < n	A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}	P_{\text{row}}	I	최단 해 x^{+}
      일반 (둘 다 부족)	r < m,\ r < n	R^{+}C^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}	P_{\text{row}}	P_{\text{col}}	최소노름 최소제곱해

    • 읽는 법: 아래로 갈수록 조건이 나빠지고, I 였던 칸이 사영으로 바뀐다. 유사역행렬은 위의 세 줄을 전부 특수 케이스로 포함하는 마지막 줄이다.

• ❓ 스스로 점검

  • 유사역행렬 A^{+} 는 어떤 행렬이 갖는가? 진짜 역행렬 A^{-1} 와의 관계는?
    • 모든 행렬이 갖는다. 유사역행렬은 역행렬·좌역·우역을 전부 포함하는 상위 개념이다.
    • A 가 가역이면 A^{+} = A^{-1} 로 일치한다.
  • A^{+}b 는 무엇을 주는가? 세 상황(해가 없다, 해가 무한하다, 둘 다)으로 나눠 말하라.
    • 해가 없을 수 있는 상황 (세로, r = n): 오차 \|Ax - b\| 를 최소로 하는 최소제곱해 \hat{x} (정규방정식의 해).
    • 해가 무한한 상황 (가로, r = m): 그중 길이 \|x\| 가 가장 짧은 최단 해 x^{+} (행공간 소속, 영공간 성분 0).
    • 둘 다인 상황: 두 처방의 동시 적용, 최소노름 최소제곱해.
  • A^{+} 를 구하는 절차를 처음부터 끝까지 말하라.
    • 1. 소거해서 랭크 r 로 유형을 판정한다.
    • 2. 공식을 선택한다: 대각이면 역수 취하고 전치 모양(\frac{1}{0} 은 0), r = n 이면 (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}, r = m 이면 A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}, 둘 다 아니면 A = CR 분해 후 A^{+} = R^{+}C^{+} = R^{\mathrm{T}}(C^{\mathrm{T}}AR^{\mathrm{T}})^{-1}C^{\mathrm{T}}.
    • 3. 검산한다: AA^{+}A = A.
  • 🔢 계산 연습: A = \begin{bmatrix} 1&2 \\ 3&6 \end{bmatrix} 의 A^{+} 를 구하라.
    • 소거 → 피벗 1개, r = 1 (둘 다 부족) → C = \begin{bmatrix} 1 \\ 3 \end{bmatrix}, R = \begin{bmatrix} 1&2 \end{bmatrix}.
    • C^{\mathrm{T}}AR^{\mathrm{T}} = 50 → A^{+} = R^{\mathrm{T}} \cdot \frac{1}{50} \cdot C^{\mathrm{T}} = \frac{1}{50}\begin{bmatrix} 1&3 \\ 2&6 \end{bmatrix}.
  • A = CR 에서 C 와 R 은 무엇이고, 왜 이 분해가 A^{+} 계산을 가능하게 하는가?
    • C = A 의 선형독립인 열 r 개 (열공간의 기저), R = 기약행사다리꼴의 0 아닌 행 r 개 (행공간의 기저).
    • C 는 열 독립이라 좌역 C^{+} 를, R 은 행 독립이라 우역 R^{+} 를 가진다.
    • 즉 한쪽 역도 없는 A 를 "한쪽 역이 있는 좋은 두 조각"으로 쪼개고, 역의 순서를 뒤집어 A^{+} = R^{+}C^{+} 로 조립한다.
  • A^{+}A 와 AA^{+} 의 정체는? 왜 그렇게 되는지 한 줄로 추적하라.
    • A^{+}A = 행공간 사영행렬 (n \times n), AA^{+} = 열공간 사영행렬 (m \times m).
    • 추적: A^{+}Ax = A^{+}(Ax_r) = x_r. 입력에서 행공간 성분만 남기니 사영의 정의 그대로다.
    • 특수화: r = n 이면 A^{+}A = I, r = m 이면 AA^{+} = I (좌역·우역 상황).
  • A^{\mathrm{T}}A 와 AA^{\mathrm{T}} 의 크기와 가역 조건은?
    • 둘 다 항상 정사각: A^{\mathrm{T}}A 는 n \times n (열 내적 표), AA^{\mathrm{T}} 는 m \times m (행 내적 표).
    • A^{\mathrm{T}}A 가역 ⟺ 열 독립 (r = n) / AA^{\mathrm{T}} 가역 ⟺ 행 독립 (r = m).
  • 펜로즈 4조건은 무엇이고, 무엇에 쓰는 물건인가?
    • AA^{+}A = A, A^{+}AA^{+} = A^{+}, (A^{+}A)^{\mathrm{T}} = A^{+}A, (AA^{+})^{\mathrm{T}} = AA^{+}.
    • 이 4개를 만족하는 행렬은 유일하고 그것이 A^{+} 다. 정체 모를 후보가 진짜 A^{+} 인지 확인하는 검산 체크리스트로 쓴다.

• ✏️ 연습문제 풀이 (솔루션 참고)

  • 문제 1: 세 행렬의 유사역행렬을 구하라: A_1 = \begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}, A_2 = \begin{bmatrix} 2&0 \\ 0&4 \\ 0&0 \end{bmatrix}, A_3 = \begin{bmatrix} 2&0&0 \\ 0&4&0 \end{bmatrix}. id:: c7d24191-44a3-4d31-a17a-450ef991aa54
    • 🔁 개념 상기: 세 행렬이 정확히 [1단계] 표의 세 유형이다. A_1 은 랭크 부족(둘 다 부족), A_2 는 세로(좌역), A_3 는 가로(우역). [6단계] 레시피 그대로 유형 판정 → 공식 선택이 풀이의 전부다.
    • A_1 (정사각이지만 r = 1 < 2, 한쪽 역도 없음): 공식 ⓓ, A = CR 로 간다.
      • C = \begin{bmatrix} 1 \\ 1 \end{bmatrix} (독립인 열 1개), R = \begin{bmatrix} 1 & 1 \end{bmatrix} (기약행사다리꼴의 0 아닌 행).
      • 식 (7)에 대입: C^{\mathrm{T}}A_1R^{\mathrm{T}} = 4 → A_1^{+} = R^{\mathrm{T}} \cdot \frac{1}{4} \cdot C^{\mathrm{T}} = \frac{1}{4}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix}.
      • (같은 답이 문제 2의 랭크 1 공식 \frac{rc^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} = \frac{1}{2 \cdot 2}\begin{bmatrix} 1&1 \\ 1&1 \end{bmatrix} 로도 나온다.)
      • 감각 확인: A_1(1,1) = (2, 2), 즉 (1,1) 방향에서 A_1 은 2배로 불린다. 되돌리기는 그 방향에서 \frac{1}{2} 배여야 하는데, 실제로 A_1^{+}(2,2) = \frac{1}{4}(4,4) = (1,1) ✓ (행렬 계수 \frac{1}{4} 에 A_1 자신의 2배가 합성되어 배율 \frac{1}{2}).
    • A_2 (세로, r = n = 2 → 좌역): 대각 꼴이라 [6단계] ⓐ 지름길. 역수 취하고 (\frac{1}{0} 은 0), 모양은 전치:
      • A_2^{+} = \begin{bmatrix} 1/2&0&0 \\ 0&1/4&0 \end{bmatrix} \qquad \text{검산: } A_2^{+}A_2 = I_2 \ ✓,\ A_2A_2^{+} \neq I_3
      • 공식 ⓑ로 해도 같다: A^{\mathrm{T}}A = \mathrm{diag}(4, 16) → (A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}} = 위와 동일.
    • A_3 (가로, r = m = 2 → 우역): A_2 의 전치니까 답도 전치의 관계:
      • A_3^{+} = \begin{bmatrix} 1/2&0 \\ 0&1/4 \\ 0&0 \end{bmatrix} \qquad \text{검산: } A_3A_3^{+} = I_2 \ ✓
    • 핵심 문장: 유사역 계산의 1단계는 공식이 아니라 유형 판정 (세로/가로/랭크부족). 대각 꼴이면 "역수 + 전치 모양 + \frac{1}{0} 은 0"으로 즉답.
  • 문제 2: 랭크 1인 A = cr^{\mathrm{T}} 의 유사역행렬이 A^{+} = \frac{rc^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} 임을 펜로즈 조건으로 확인하라.
    • 🔁 개념 상기: 랭크 1 행렬(3장의 uv^{\mathrm{T}})의 되돌리기. 검증 도구는 [8단계] 펜로즈 조건. 그리고 \frac{rr^{\mathrm{T}}}{r^{\mathrm{T}}r} 꼴이 4.2의 직선 사영행렬이라는 것.
    • 1단계, 두 곱부터 계산 (여기서 이미 그림이 보인다):
      • A^{+}A = \frac{rc^{\mathrm{T}} \cdot cr^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} = \frac{r(c^{\mathrm{T}}c)r^{\mathrm{T}}}{(r^{\mathrm{T}}r)(c^{\mathrm{T}}c)} = \frac{rr^{\mathrm{T}}}{r^{\mathrm{T}}r}
      • 이것은 r 방향(= 행공간!) 사영행렬. 마찬가지로 AA^{+} = \frac{cc^{\mathrm{T}}}{c^{\mathrm{T}}c} = c 방향(= 열공간) 사영행렬. [7단계]의 P_{\text{row}}, P_{\text{col}} 이 랭크 1 버전으로 눈앞에 나타났다. 대칭 ✓ (조건 3·4 통과).
    • 2단계, 조건 1: AA^{+}A = (cr^{\mathrm{T}})\frac{rr^{\mathrm{T}}}{r^{\mathrm{T}}r} = c\frac{(r^{\mathrm{T}}r)r^{\mathrm{T}}}{r^{\mathrm{T}}r} = cr^{\mathrm{T}} = A ✓ (가운데 스칼라 r^{\mathrm{T}}r 약분, 결합법칙 트릭).
    • 3단계, 조건 2: 같은 수법으로 A^{+}AA^{+} = A^{+} ✓.
    • 핵심 문장: 랭크 1의 유사역 = "전치 모양(rc^{\mathrm{T}})에 두 크기 제곱으로 나누기". 그리고 A^{+}A, AA^{+} 가 행·열공간 사영행렬이 되는 것을 손으로 목격하는 문제.
  • 문제 4: A = \begin{bmatrix} 1&0&0 \\ 0&1&0 \end{bmatrix} 의 행공간·열공간은? A^{\mathrm{T}} 와 동일한 4공간을 갖는 A^{+} 는?
    • 🔁 개념 상기: [5단계] "A^{+} 와 A^{\mathrm{T}} 는 4공간이 같다" + 4.4 요약표의 Q^{+} = Q^{\mathrm{T}}.
    • 공간 파악: 행공간 = \mathbb{R}^3 안의 $xy$-평면 (행 (1,0,0), (0,1,0) 이 생성), 열공간 = \mathbb{R}^2 전체.
    • A^{+} 계산: 가로(r = m = 2)라 우역인데, 행들이 정규직교라서 AA^{\mathrm{T}} = I_2 → A^{+} = A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1} = A^{\mathrm{T}} \cdot I = A^{\mathrm{T}}.
      • A^{+} = A^{\mathrm{T}} = \begin{bmatrix} 1&0 \\ 0&1 \\ 0&0 \end{bmatrix}
    • 감각 확인: 이 A 는 "3차원 벡터의 z 성분 버리기"다. 되돌리기는 "z 자리는 모르니 0으로 채워 복귀" = 전치가 하는 일 그대로 (4.2 문제 14의 그 좌표 부분공간!).
    • 핵심 문장: 행(또는 열)이 정규직교면 A^{+} = A^{\mathrm{T}}. 4.4 의 Q^{+} = Q^{\mathrm{T}} 가 그 특수 케이스였다.
  • 문제 6: P 가 사영행렬일 때 (P^{\mathrm{T}} = P = P^2), P^{+} = P 임을 펜로즈 조건으로 보여라.
    • 🔁 개념 상기: [8단계] 펜로즈 4조건에 "후보 = P 자신"을 넣어보는 검증 연습.
    • 조건 1·2 (A^{+} 자리에 P): PPP = P^3 = P^2 \cdot P = P \cdot P = P^2 = P ✓ (두 식 모두 같은 계산).
    • 조건 3·4: (PP)^{\mathrm{T}} = (P^2)^{\mathrm{T}} = P^{\mathrm{T}} = P = P^2 = PP ✓.
    • 왜 직관적으로 당연한가: 사영행렬은 자기 열공간 안에서는 아무것도 안 하는 행렬이다 (이미 도착한 벡터는 그대로). "되돌릴 것"이 없으니 되돌리기도 자기 자신. 죽인 성분(여공간)은 유사역도 똑같이 0으로 보내는 게 규칙이고.
    • 핵심 문장: 사영행렬의 유사역은 자기 자신 (P^{+} = P). "사영은 자기 세계 안에서 항등"이라는 문장의 유사역 버전.
  • 문제 11: 왜 A^{+} 의 유사역행렬은 항상 A 인가? ((A^{+})^{+} = A)
    • 🔁 개념 상기: [5단계] 그림 4.11. A^{+} 의 역할을 다시 뒤집으면 무엇이 되는지 생각하는 개념 마무리 문제.
    • 길 ① (4공간 관점): A^{+} 는 열공간 → 행공간의 가역변환(+ 좌영공간은 0). 그것의 유사역은 "행공간 → 열공간의 가역변환 + 영공간은 0" 이어야 하는데, 그 일을 하는 행렬이 정확히 A 자신이다.
    • 길 ② (펜로즈 관점): 4조건 AA^{+}A = A, A^{+}AA^{+} = A^{+}, 대칭 2개는 A 와 A^{+} 를 맞바꿔도 똑같은 문장이다. 즉 "A^{+} 의 유사역" 자격 요건을 A 가 그대로 통과하고, 펜로즈 조건의 해는 유일하므로 (A^{+})^{+} = A.
    • 핵심 문장: 되돌리기의 되돌리기 = 원본. 정의(4공간 역할)로도, 신분증(펜로즈 조건의 대칭성)으로도 같은 결론.