From 52715c981de1cb9b2817e6243bb7f69eaeaf2a53 Mon Sep 17 00:00:00 2001 From: songyc macbook Date: Wed, 19 Aug 2026 19:15:16 +0900 Subject: [PATCH] =?UTF-8?q?4.3~4.5=20=EC=A0=95=EB=A6=AC=20=EB=AC=B8?= =?UTF-8?q?=EC=B2=B4=20=EC=A0=95=EB=8F=88:=20=EB=8C=80=ED=99=94=EC=B2=B4?= =?UTF-8?q?=C2=B7=EA=B0=9C=EC=9D=B8=20=EC=B0=B8=EC=A1=B0=20=ED=91=9C?= =?UTF-8?q?=ED=98=84=2014=EA=B1=B4=EC=9D=84=20=EC=A4=91=EB=A6=BD=20?= =?UTF-8?q?=EC=A0=95=EB=A6=AC=EC=B2=B4=EB=A1=9C=20(=EC=98=A4=EB=B9=A0?= =?UTF-8?q?=C2=B7=EA=B5=BF=EB=85=B8=ED=8A=B8=20=EC=B1=84=EC=A0=90=C2=B7?= =?UTF-8?q?=EC=A7=88=EB=AC=B8=EC=97=90=20=EB=8B=B5=20=EB=93=B1)?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Co-Authored-By: Claude Fable 5 Claude-Session: https://claude.ai/code/session_01Ufr6wUhJAzBaqcaBiRJ1xk --- Major Study/pages/4.3 최소제곱근사.md | 10 +++++----- .../pages/4.4 정규직교기저와 그람-슈미트 과정.md | 16 ++++++++-------- Major Study/pages/4.5 행렬의 유사역행렬.md | 2 +- 3 files changed, 14 insertions(+), 14 deletions(-) diff --git a/Major Study/pages/4.3 최소제곱근사.md b/Major Study/pages/4.3 최소제곱근사.md index e85992a..f3919a6 100755 --- a/Major Study/pages/4.3 최소제곱근사.md +++ b/Major Study/pages/4.3 최소제곱근사.md @@ -9,7 +9,7 @@ deck:: Logseq/전공공부/선형대수학 - 도구는 새로 배울 것이 없다: 4.2의 정규방정식 그대로다. - 📌 원문 (p.234): ((6a7dcf4f-ec05-4a72-afd6-26fe3bde7f0b)) / ((6a7dcf53-01d5-412b-9d65-325536a9a5d7)) - $$A^{\mathrm{T}}A\hat{x} = A^{\mathrm{T}}b$$ - - 💡 4.2와 4.3의 관계: **같은 방정식, 다른 주인공**. 4.2는 도착지(사영 $p$)를 강조했고, 4.3은 계수($\hat{x}$)를 강조한다. 둘은 $p = A\hat{x}$ 으로 연결된다. 지난번 질문으로 미리 확인했던 것: 정규방정식은 어떤 $A, b$ 에서도 항상 해가 있다. + - 💡 4.2와 4.3의 관계: **같은 방정식, 다른 주인공**. 4.2는 도착지(사영 $p$)를 강조했고, 4.3은 계수($\hat{x}$)를 강조한다. 둘은 $p = A\hat{x}$ 으로 연결된다. 참고: 정규방정식 자체는 어떤 $A, b$ 에서도 항상 해가 있다 (사영 $p$ 가 항상 존재하고 $p$ 는 열공간 안이므로). - #### [2단계] 숫자로 체험: 세 점 $(0,6), (1,0), (2,0)$ 과 가장 가까운 직선 (EX1) - 직선 $b = C + Dt$ 가 세 점을 전부 지나려면 (대수: 방정식 3개): - $t = 0$: $C + D \cdot 0 = 6$ → $C = 6$ @@ -73,7 +73,7 @@ deck:: Logseq/전공공부/선형대수학 - 열 독립 가정이 실제로 하는 일: $\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A) = \{0\}$ → 정규방정식의 해가 유일. 오차는 $A^{\mathrm{T}}e = 0$ (좌영공간 소속). - 💡 $\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A)$ 의 세 번째 재등장이다 (4.1 문제 9 → 4.2 [6단계] → 여기). 이 한 줄이 최소제곱 전체를 떠받친다. - #### [5단계] 직선 맞추기: $m$ 개의 점과 가장 가까운 직선 - - 문제를 한 문장으로: 시간 $t_1, \ldots, t_m$ 에서 잰 높이 $b_1, \ldots, b_m$, 이 $m$ 개의 점 $(t_i, b_i)$ 에 **가장 가까운 직선** $b = C + Dt$ 를 찾아라. (정확히 그 직관이 맞다: "모든 점과 가장 가까운 직선 찾기"가 이 소단원의 전부다.) + - 문제를 한 문장으로: 시간 $t_1, \ldots, t_m$ 에서 잰 높이 $b_1, \ldots, b_m$, 이 $m$ 개의 점 $(t_i, b_i)$ 에 **가장 가까운 직선** $b = C + Dt$ 를 찾아라. ("모든 점과 가장 가까운 직선 찾기"가 이 소단원의 전부다.) - 📌 원문 (p.239): ((6a7f0b52-edff-4a79-a474-8007acbfaf55)) - **단계 A (대수 관점: 방정식 쌓기)**: 점 $(t_i, b_i)$ 가 직선 위에 있으려면 $C + Dt_i = b_i$. 점마다 방정식 하나씩, 총 $m$ 개. 그런데 미지수는 $C, D$ 둘뿐. - $m > 2$ 면 거의 항상 모순이다. 점 3개만 돼도 (EX1처럼) 일직선이 아닌 이상 다 지날 수 없다. @@ -144,11 +144,11 @@ deck:: Logseq/전공공부/선형대수학 - ⚠️ 흔한 오해 교정: "$t^2$ 이 있으면 비선형 문제 아닌가?" 아니다. 곡선은 $t$ 에 대해 비선형이지만, **미지수** $C, D, E$ **는 여전히 선형**으로 등장한다. 그래서 그대로 선형대수 문제다. - $$C + Dt_i + Et_i^2 = b_i \quad\Longleftrightarrow\quad A = \begin{bmatrix} 1 & t_1 & t_1^2 \\ \vdots & \vdots & \vdots \\ 1 & t_m & t_m^2 \end{bmatrix}\ (m \times 3,\ \text{식 (10)})$$ - 달라진 것: 열 하나($t_i^2$ 열) 추가, 정규방정식이 $3 \times 3$ 이 된 것뿐. 절차는 동일. - - ✅ **p.243 빈칸 채우기 검증** (굿노트 필기 채점): - - 빈칸 ① "행렬 $A$ 의 열공간의 차원은 ___": 굿노트에 적은 $m$ 은 **오답**이다. 정답은 **3**. + - ✅ **p.243 빈칸 채우기** (책이 본문에 뚫어둔 빈칸의 정답): + - 빈칸 ① "행렬 $A$ 의 열공간의 차원은 ___": $m$ 이라 답하기 쉽지만 **오답**이다. 정답은 **3**. - 열공간은 $\mathbb{R}^m$ **안에** 산다 (성분이 $m$ 개인 벡터들). 하지만 그 안에서 열 3개(시간이 3개 이상 다르면 독립)가 펼치는 **3차원** 부분공간이다. - "사는 곳의 차원($m$)"과 "부분공간 자신의 차원(3)"의 구분, 4.1 [2단계] 벽·바닥에서 했던 바로 그 구분이다. 사영 문제로 읽으면: $b \in \mathbb{R}^m$ 을 3차원 부분공간에 사영하는 것. - - 빈칸 ②③④ "$e_1^2 + \cdots + e_m^2$ 의 ___, ___, ___ 에 대한 편도함수": 굿노트의 $C, D, E$ **정답** ✓. 미지수가 3개니 도함수도 3개, [3단계]의 확장이다. + - 빈칸 ②③④ "$e_1^2 + \cdots + e_m^2$ 의 ___, ___, ___ 에 대한 편도함수": 정답은 $C, D, E$. 미지수가 3개니 도함수도 3개, [3단계]의 확장이다. - 🔢 EX3, 특수한 경우: 세 점 $(0,6), (1,0), (2,0)$ 에 포물선을 맞추면? - 미지수 3개 = 점 3개 → $A$ 가 $3 \times 3$ 정사각 (방데르몽드). 가역이라 **정확히 통과**한다: $x = (C, D, E) = (6, -9, 3)$, 즉 $b = 6 - 9t + 3t^2$. 오차 0. - 💡 $n$ 이 $m$ 에 도달하면 "근사"가 "보간"으로 퇴화한다. 최소제곱이 특별히 필요한 것은 $m > n$ 일 때다. diff --git a/Major Study/pages/4.4 정규직교기저와 그람-슈미트 과정.md b/Major Study/pages/4.4 정규직교기저와 그람-슈미트 과정.md index dc93253..084b8a1 100755 --- a/Major Study/pages/4.4 정규직교기저와 그람-슈미트 과정.md +++ b/Major Study/pages/4.4 정규직교기저와 그람-슈미트 과정.md @@ -12,7 +12,7 @@ deck:: Logseq/전공공부/선형대수학 - 📌 원문 (p.251): ((6a82e162-84c7-46ef-bcdf-96db71e7c22f)) / ((6a82e178-6b2a-41fd-8096-b20b2403e67d)) - 이 두 조건을 행렬 언어로 쓰면 한 줄이 된다 (4.2에서 만든 **내적 표** 감각 그대로): - $$Q^{\mathrm{T}}Q = \begin{bmatrix} q_1 \cdot q_1 & q_1 \cdot q_2 & \cdots \\ q_2 \cdot q_1 & q_2 \cdot q_2 & \cdots \\ \vdots & & \ddots \end{bmatrix} = I$$ - - 대각(자기 자신과의 내적)은 전부 1, 비대각(서로의 내적)은 전부 0. 굿노트에 적은 그대로: "자기 자신과의 내적 = 1, 나머지는 0". + - 대각(자기 자신과의 내적)은 전부 1, 비대각(서로의 내적)은 전부 0. 한 줄 요약: 자기 자신과의 내적 = 1, 나머지는 0. - ⚠️ $Q^{\mathrm{T}}Q$ **와** $QQ^{\mathrm{T}}$ **를 구분할 것** (이 절 최대의 함정): - $Q^{\mathrm{T}}Q = I$ 는 $Q$ 가 직사각이어도 **항상** 성립한다 (열들의 내적 표니까). - 📌 원문 (p.252): ((6a82e1b4-386d-4371-b3b6-cd50d2cfeafe)) / ((6a82e195-abe4-45cf-8c36-23ba4aa08b4f)) @@ -55,7 +55,7 @@ deck:: Logseq/전공공부/선형대수학 - #### [3단계] $Q$ 의 초능력: 크기와 각도를 보존한다 - 회전·치환·반사의 공통점: 벡터를 **돌리거나 섞거나 뒤집기만** 하고 늘이거나 줄이지 않는다. - 📌 원문 (p.254): ((6a82e267-3148-4a25-8b7c-9f8fa7547998)) - - 증명은 한 줄 ($Q^{\mathrm{T}}Q = I$ 만 사용, 굿노트 밑줄 부분): + - 증명은 한 줄 ($Q^{\mathrm{T}}Q = I$ 만 사용): - $$\|Qx\|^2 = (Qx)^{\mathrm{T}}(Qx) = x^{\mathrm{T}}Q^{\mathrm{T}}Qx = x^{\mathrm{T}}Ix = \|x\|^2$$ - 📌 원문 (p.254): ((6a82e26d-cefd-4963-ad7c-5340a6d2cc01)) / ((6a82e278-4ece-4377-a3eb-5c7e51f41f88)) - 내적도 보존: $(Qx)^{\mathrm{T}}(Qy) = x^{\mathrm{T}}Q^{\mathrm{T}}Qy = x^{\mathrm{T}}y$. 크기와 내적이 보존되니 **사잇각도** 보존. @@ -70,7 +70,7 @@ deck:: Logseq/전공공부/선형대수학 | $P = A(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}$ | $P = QQ^{\mathrm{T}}$ | - 📌 원문 (p.255): ((6a82e28c-5f81-4475-85e9-16bbd2dfa773)) / ((6a82e292-e2e2-461b-aa6b-9b20b081c9cd)) / ((6a82e299-2ec8-4c15-b064-5af3e9eca2e6)) - **역행렬 계산이 통째로 사라졌다.** 이것이 정규직교기저를 쓰는 이유의 전부다. [1단계]의 복선 회수: 직사각 $Q$ 에서 $QQ^{\mathrm{T}}$ 의 정체 = **열공간 사영행렬**. - - 💡 **보충: 1차원 공식으로도 같은 결론** (굿노트 필기의 유도, 정확하다!): + - 💡 **보충: 1차원 공식으로도 같은 결론**: - 직선 사영 공식 $\hat{x} = \frac{a^{\mathrm{T}}b}{a^{\mathrm{T}}a}$ 에서 $a = q_i$ 로 놓으면 분모 $q_i^{\mathrm{T}}q_i = 1$ → $\hat{x}_i = q_i^{\mathrm{T}}b$ (내적 하나). - $P = \frac{aa^{\mathrm{T}}}{a^{\mathrm{T}}a}$ 도 분모 1 → 방향별 $q_iq_i^{\mathrm{T}}$, 전부 더하면 $QQ^{\mathrm{T}}$. - 즉 일반 공식(행렬)에 $A^{\mathrm{T}}A = I$ 를 넣어도, 기본 공식(1차원)에 $q^{\mathrm{T}}q = 1$ 을 넣어도 같은 곳에 도착한다. "기본 공식에 적용해도 동일함" ✓. @@ -82,13 +82,13 @@ deck:: Logseq/전공공부/선형대수학 - #### [5단계] 정사각 $Q$: $b$ 를 기저로 분해한다 (EX4) - $Q$ 가 정사각($m = n$)이면 열공간이 전체 공간 → 사영할 필요가 없다: $p = b$, $P = QQ^{\mathrm{T}} = I$, 그리고 $\hat{x} = Q^{\mathrm{T}}b$ 는 근사해가 아니라 **정확한 해** $Q^{-1}b$ 다. - 📌 원문 (p.255): ((6a82e2bd-91fe-4503-b79b-dd434a306690)) / ((6a82e2c6-865c-4ea8-92ab-4ffb5985120b)) - - "전체 공간 사영이 뭐가 대단한가?" 싶지만 (굿노트의 그 ? 표시!), 진짜 내용은 $p = b$ 가 아니라 **그 등식을 풀어 쓴 식 (6)**이다: + - "전체 공간 사영이 뭐가 대단한가?" 싶지만, 진짜 내용은 $p = b$ 가 아니라 **그 등식을 풀어 쓴 식 (6)**이다: - 📌 원문 식 (6) (p.255): [🔗 PDF 위치](((6a82e31e-fa46-47bb-b43d-fcba124367c7))) - ![식 (6): b의 직교 분해 (p.255)](../assets/4장_p255_식6_b분해.png) - $$b = q_1(q_1^{\mathrm{T}}b) + q_2(q_2^{\mathrm{T}}b) + \cdots + q_n(q_n^{\mathrm{T}}b)$$ - 📌 원문 (p.255): ((6a82e305-2b46-4fa9-8882-17831bc270ab)) / ((6a82e30a-a62c-41da-990a-4a283a143677)) - 읽는 법: **임의의** $b$ **를 정규직교기저로 분해하는 공식**이다. $b$ 의 $q_i$ 좌표가 그냥 내적 $q_i^{\mathrm{T}}b$. - - ✅ **굿노트 질문에 답** ("결국 $Q$ 에서는 $b$ 를 기저들로 분해하는 것?"): **정확히 맞다!** 그리고 반쪽이 더 있다: + - ✅ **자문자답** ("결국 $Q$ 에서는 $b$ 를 기저들로 분해하는 것인가?"): 정확히 그렇다. 그리고 반쪽이 더 있다: - 분해 자체는 어떤 기저로도 된다 (3.4: 기저면 표현이 유일). 하지만 **일반 기저면 좌표를 구하려고 연립방정식** $Ax = b$ **를 풀어야** 한다. - 정규직교 기저의 특권: 좌표가 **내적** $n$ **번으로 공짜**. $q_1$ 좌표를 알고 싶으면 $q_1^{\mathrm{T}}b$ 하나 계산하면 끝, 다른 기저벡터들을 쳐다볼 필요도 없다 (간섭 없음). - 그러니 답을 한 문장으로: "$b$ 를 기저로 분해하는 것 **+ 그 좌표를 내적만으로 얻는 것**", 뒤쪽이 이 절의 선물이다. @@ -102,7 +102,7 @@ deck:: Logseq/전공공부/선형대수학 - 📌 원문 (p.255~256): ((6a82e326-de72-4c68-a7ac-d3b895eb174d)) / ((6a82e32e-25cb-436e-8a86-7b6d5f2d6bd7)) / ((6a82e33e-03b7-4ef8-b756-8b421ac4cd8b)) - #### [6단계] 그람-슈미트: 직교기저를 만드는 공장 - 여기까지의 결론: "정규직교기저는 최고다". 남은 질문: **아무 기저나 주어졌을 때 그걸 어떻게 만드나?** 그 제조법이 그람-슈미트 과정. - - **전체 그림** (굿노트 요약 필기 그대로, 정확하다!): 독립인 $a, b, c$ 를 받아서 + - **전체 그림**: 독립인 $a, b, c$ 를 받아서 - ① $A = a$: 첫 방향은 그대로 받아들인다. - ② $B = b - (b$ 의 $A$ 사영$)$: $b$ 에서 $A$ 방향 성분을 제거 → $A$ 와 직교하는 부분만 남는다. - ③ $C = c - (c$ 의 $A$ 사영$) - (c$ 의 $B$ 사영$)$: $A, B$ 방향 성분을 제거. @@ -161,14 +161,14 @@ deck:: Logseq/전공공부/선형대수학 - $$R\hat{x} = Q^{\mathrm{T}}b$$ - 📌 원문 (p.260): ((6a82e4a0-31eb-46da-855f-b75bb5997eb4)) - $R$ 는 상삼각! 역행렬 없이 **역대입**으로 끝난다 (2.1의 그 역대입). $A^{\mathrm{T}}A$ 를 만들지 말라던 4.3 문제 10의 조언이 여기서 공식 해법이 된 것. - - ✅ **왜 곱셈이** $mn^2$ **번인가** (질문에 답): + - ✅ **왜 곱셈이** $mn^2$ **번인가**: - 📌 원문 (p.260): ((6a82e4b0-bc89-4b23-8ad5-679bcebd0d64)) - 일의 단위부터: 길이 $m$ 벡터 두 개의 **내적 1번 = 곱셈** $m$ **번**. 사영 하나를 빼는 것도 (계수 × 벡터) = 곱셈 $m$ 번. - $j$ 번째 열을 처리할 때: 앞서 만든 $q_1, \ldots, q_{j-1}$ 각각에 대해 [내적 1번 + 빼기 1번] = $2m$ 번 곱셈. 즉 열 하나에 약 $(j-1) \cdot 2m$ 번. - 전체 합: $\sum_{j=1}^{n}(j-1) \cdot 2m \approx 2m \cdot \frac{n^2}{2} = mn^2$. - 기억법: (열 개수 $n$) × (열마다 상대할 이전 $q$ 들 평균 $\frac{n}{2}$ 개) × (한 상대당 $2m$). $R$ 의 성분 계산이 절반($\frac{1}{2}mn^2$), 사영 빼기가 절반($\frac{1}{2}mn^2$)을 차지한다 (연습문제 28이 이 질문). - 💡 수위 조절: 실전 코드는 "수정된 그람-슈미트"(한 번에 사영 하나씩 빼기, 수치적으로 안정)나 **하우스홀더 반사**를 쓴다 (p.260~261). MATLAB은 `qr(A)`. 원리는 지금 배운 그대로니 이름만 알아두면 된다. - - **한눈 요약**: 책 p.263의 $A$ 대 $Q$ 비교표가 이 절 전체를 한 장에 담고 있다 (굿노트에서 통째로 형광펜 칠한 그 표!). + - **한눈 요약**: 책 p.263의 $A$ 대 $Q$ 비교표가 이 절 전체를 한 장에 담고 있다. - 📌 원문 요약표 (p.263): [🔗 PDF 위치](((6a82e9cf-83c1-44f9-a6df-255f2da97a19))) - ![직교행렬 Q와 직교사영 P 요약표 (p.263)](../assets/4장_p263_직교행렬Q_직교사영P_요약표.png) - (p.263. 표의 마지막 줄 유사역행렬 $A^{+}, Q^{+}$ 는 4.5절 예고, 지금은 넘어가도 된다.) diff --git a/Major Study/pages/4.5 행렬의 유사역행렬.md b/Major Study/pages/4.5 행렬의 유사역행렬.md index 8eb3c80..74133f2 100755 --- a/Major Study/pages/4.5 행렬의 유사역행렬.md +++ b/Major Study/pages/4.5 행렬의 유사역행렬.md @@ -17,7 +17,7 @@ deck:: Logseq/전공공부/선형대수학 - ![역행렬·좌역·우역 3형제 도입 표 (p.268)](../assets/4장_p268_역행렬_3형제_도입표.png) - $I_L I_R = I$ (이 순서로는 항등) 인데 $I_R I_L \neq I$ (반대 순서는 실패). **곱하는 방향에 따라 역할이 달라진다**는 것이 이 절의 첫 감각이다. - #### [2단계] 3.3 해 유형표와 연결하기 (여기가 연결 고리!) - - 오빠가 이미 아는 3.3의 표를 다시 소환하면 좌역·우역이 태어난 이유가 보인다. **"무엇이 부족한가"가 처방을 정한다**: + - 3.3의 해 유형표를 다시 소환하면 좌역·우역이 태어난 이유가 보인다. **"무엇이 부족한가"가 처방을 정한다**: - | 모양 | 랭크 | $Ax = b$ 의 해 (3.3) | 부족한 것 | 처방 | 이름 | | --- | --- | --- | --- | --- | --- | | 정사각 가역 | $r = m = n$ | 항상 1개 | 없음 | $A^{-1}$ | 역행렬 |