跳到主要內容

[凸分析] 仿射組合 仿射空間 與 線性方程關係

考慮 中學數學 中提及的 直線方程 (更嚴格的說法是 affine function 在此用 斜截式 表示):令 $x \in \mathbb{R}^1$,定義函數 $y: \mathbb{R}^1 \to \mathbb{R}^1$ 滿足
\[
y(x) = m x + b
\] 其中 $m$ 表示斜率, $b$ 表示截距。現在我們進一步觀察上式並將其改寫如下:
\[
y(x) = (m + b - b) x  + b
\]則讀者不難發現可得 $y(x) = (m + b) x  + b (1 - x) $ 現在若令 $a := m+b$ 則我們得到如下簡潔的形式
\[
y(x) = a x + b (1-x)
\]

Comments:
注意到 $ y(x):=y = a x + b (1-x)$ 一般稱 $y$ 為透過 $x, (1-x)$ 所成之 線性組合 (linear combination),若 $0 \le x \le 1$,則上式一般稱為 $a$ 與 $b$ 的 凸組合 (convex combination)


推廣到有限維度歐式空間:
上述結果可以推廣到 $\mathbb{R}^n$ 空間:考慮 $x_1 \neq x_2$ 為 $\mathbb{R}^n$ 中的兩(向量)點,則
\[
y := \theta x_1 + (1 - \theta) x_2  \;\;\;\; (*)
\] 其中 $\theta \in \mathbb{R}$ 形成  $\mathbb{R}^n$ 過點 $x_1$ 與 $x_2$ 之直線。讀者可觀察若 $\theta = 0$ 則 $y=x_2$。若 $\theta = 1$ 則 $y= x_1$。亦即當我們調整參數 $\theta \in [0,1]$ 可得到一條 $x_1$ 與 $x_2$ 的封閉線段 (line segment)。另外我們亦可將 $(*)$ 改寫如下
\begin{align*}
  &y = \theta {x_1} + (1 - \theta ){x_2} \hfill \\
   &\Rightarrow y = {x_2} + \theta \left( {{x_1} - {x_2}} \right) \hfill \\
\end{align*} 則此時我們可以用另一種觀點來看上述直線方程:亦即上述直線方程有 "基準點" $x_2$ (對應 $\theta = 0$) 與 透過 參數 $\theta$ 調整後的 "方向" $x_1 - x_2$ (從 $x_2$ 指向 $x_1$ )。有了上述觀念,我們可以進一步提出 仿射集(Affine Set) 的概念:


=====================
Definiton:  仿射集 (Affine Set)
我們說一個集合 $C \subset \mathbb{R}^n$ 為 affine 若下列條件成立:對任意兩點 $x_1, x_2 \in C$ 與 $\theta \in \mathbb{R}$ ,其兩點用參數 $\theta$ 所成之線段 滿足
\[
\theta x_1 + (1-\theta)x_2 \in C
\]=====================

Comments:
注意到上述定義要求 $x_1,x_2$ 的線性組合之係數和為 $\theta + (1 - \theta) = 1$。

事實上上述定義不必僅僅取兩點,我們可以取任意有限多點比如 $x_1,x_2,...,x_k$ 且我們建構
\[
\theta_1 x_1 + \theta_2 x_2 + ... + \theta_k x_k
\]其中 $\sum_{i=1}^k \theta_i = 1$。這種有額外要求  $x_1,x_2,...,x_k$  係數和 為 $1$ 的特殊線性組合又稱作 $x_1,x_2,...,x_k$ 的仿射組合 (affine combination)

=============
FACT: 令 $C$ 為 affine 且任取一點 $x_0 \in C$ ,則 集合
\[
V:= C - x_0 := \{x-x_0 : x \in C\}
\]為子空間 subspace (亦即滿足 向量加法封閉性 與 純量乘法封閉性)。換言之若 $V$ 為 subspace 且 $x_0$ 任取為 $C$ 中一點,則集合
\[
C = V + x_0
\]為 affine。
=============

Comments: 
關於(實數)子空間更嚴格的定義如下:我們說非空集合 $V$ 為 子空間 若且唯若 $V$ 滿足向量加法封閉性 與 純量乘法封閉性:
1. 向量加法封閉性:對任意 $v_1, v_2 \in V,$ $v_1+v_2 \in V$
2. 純量乘法封閉性:對任意 $v \in V$ 與 $c \in \mathbb{R}^1$,$c v \in V$。


FACT: 線性方程之解所成的集合為仿射集
事實上 仿射集合 離我們並不遙遠,比如說考慮 任意線性方程的解所成之集合
\[
C:= \{x\in \mathbb{R}^n: Ax = b\}
\]其中 $A \in \mathbb{R}^{m \times n}$ 與 $b \in \mathbb{R}^m$ 則此集合即為仿射集。

Proof : 要證明 $C$ 為 affine ,我們從定義出發:取 $x,y \in C$ 與 $\theta \in \mathbb{R}^1$ 我們要證明
\[
\theta x + (1-\theta) y \in C \;\;\;\; (**)
\]注意到  $x,y \in C$ ,故 $Ax = b$ 且 $Ay=b$,要證明 $(**)$成立,則等價證明
\[
A (\theta x + (1-\theta) y) = b
\]上述等式成立因為:
\begin{align*}
  A(\theta x + (1 - \theta )y) &= \theta Ax + (1 - \theta )Ay \hfill \\
   &= \theta b + (1 - \theta )b = b \hfill \\
\end{align*} 故此得證。

以下我們給出一些常見的 affine set 例子

Example:
1. 任意空集合 $\emptyset$ 為 affine
2. 任意單點集 $\{x\}$ 為 affine
3. 任意 subspace 為 affine

留言

這個網誌中的熱門文章

[數學分析] 什麼是若且唯若 "if and only if"

數學上的 if and only if  ( 此文不討論邏輯學中的 if and only if,只討論數學上的 if and only if。) 中文翻譯叫做  若且唯若 (or 當且僅當) , 記得當初剛接觸這個詞彙的時候,我是完全不明白到底是甚麼意思,查了翻譯也是愛莫能助,畢竟有翻跟沒翻一樣,都是有看沒有懂。 在數學上如果看到 if and only if  這類的句子,其實是表示一種 雙條件句 ,通常可以直接將其視為" 定義(Definition)" 待之,今天要分享的是這樣的一個句子如何用比較直觀的方法去看他 假設我們現在有 兩個邏輯陳述句 A 與  B. 注意到,在此我們不必考慮這兩個陳述句到底是什麼,想表達什麼,或者到底是否為真(true),這些都不重要。只要知道是兩個陳述即可。 現在,考慮新的陳述:  "A if and only if B" 好了,現在主角登場,我們可以怎麼看待這個句子呢? 事實上我們可以很直覺的把這句子拆成兩部分看待,也就是 "( A if B ) and ( A only if B )" 那麼先針對第一個部分  A if B  來看, 其實這句就是說  if B then A, 更直白一點就是 "if B is true, then A is also true".  在數學上等價可以寫為 "B implies A" .  或者更常用一個箭頭符號來表示 "B $\Rightarrow$  A"  現在針對第二個部分  A only if B 此句意指  "If B is not true, then A is also not true". 所以如果已知 A is true,  那麼按照上句不難推得 B is also true 也就是說  A only if B  等價為 "If A is true then B is also true". 同樣,也可以寫作   "A implies B"   或者用箭頭表示  "A   $\Rightarrow$     B".

[數學分析] 淺談各種基本範數 (Norm)

這次要介紹的是數學上一個重要的概念: Norm: 一般翻譯成 範數 (在英語中 norm 有規範的意思,比如我們說normalization就是把某種東西/物品/事件 做 正規化,也就是加上規範使其正常化),不過個人認為其實翻譯成 範數 也是看不懂的...這邊建議把 Norm 想成長度就好 (事實上norm是長度的抽象推廣), 也許讀者會認為好端端的長度不用,為何又要發明一個 norm 來自討苦吃?? 既抽象又艱澀。 事實上想法是這樣的: 比如說現在想要比較兩個數字 $3$ , $5$ 之間的大小,則我們可以馬上知道 $ 3 < 5 $;同樣的,如果再考慮小數與無理數如 $1.8753$ 與 $\pi$,我們仍然可以比較大小 $1.8753 < \pi = 3.1415...$ 故可以發現我們有辦法對 "純量" 做明確的比大小,WHY? 因為前述例子中 $3$, $5$, $1.8753$ or $\pi$ 其各自的大小有辦法被 "measure "! 但是如果是現在考慮的是一組數字 我們如何去measure 其大小呢?? 比如說 \[x:=[1, -2, 0.1, 0 ]^T \]上式的大小該是多少? 是 $1$? $-2$? $0.1$??? 再者如果更過分一點,我們考慮一個矩陣 \[A = \left[ {\begin{array}{*{20}{c}} 1&2\\ 3&4 \end{array}} \right] \],想要知道這個矩陣的大小又該怎麼辦?? 是 $1$ ? $2$ 還是 $4$ ?..其實現階段我們說不清楚。 也正是如此,可以發現我們確實需要新的 "長度" 的定義來幫助我們如何去 measure 矩陣/向量/甚至是函數的大小。 故此,我們首先定義甚麼是Norm,(也就是把 "長度" or "大小" 的本質抽離出來) ================== Definition: Norm 考慮 $V$ 為一個向量空間(Vector space),則我們說  Norm 為一個函數 $||\cdot|| : V \rightarrow \mathbb{R}$ 且滿足下列性質