跳到主要內容

[數學分析] Compactness 與 Totally Boundedness

令 $X$ 為 metric space 且 metric 為 $d$;亦即 $(X,d)$ 為 metric space。

==========================
Definition: Compact Metric Space
(a) 由 open subsets 所形成的集合  $\{G_\alpha\}_{\alpha \in A} $ 被稱為 open cover 若 下列條件成立:
對任意 $x \in X$ 存在 $\alpha \in A$ 使得 $x \in G_\alpha$。

若 index set $A$ 為 finite 則 $\{G_\alpha\}$ 為 finite open cover。

(b) 我們說 metric space $(X,d)$ 為 compact 若下列條件成立:
對任意 open cover of $X$,存在 有限個 subcover of $X$。
==========================

Comment
注意到上述定義在 metric space $(X,d)$ 之上,若我們現在考慮其上的子集合:
\[
A \subset X
\]則 $A$ 仍為一個 metric space 且 metric 為 $d$;亦即 $(A,d)$ 仍為一個 metric space。


==========================
Definition: Compact Set
集合 $A \subset X$ 為 compact 若下列條件成立:
metric space $(A,d)$ 為 compact (亦即:對任意 open cover 存在 有限 subcover of $A$。)
==========================



==========================
Definition: Relatively Compact
集合 $A \subset X$ 稱為 relatively compact 若下列條件成立
\[
\bar A \subset X \text{ is compact}
\]上述 $\bar{A}$ 表示 closure of $A$
==========================

==========================
Theorem: Heine-Borel Theorem
若 $A \subset \mathbb{R}^n$ (或者 $\mathbb{C}^n$) 為 closed + bounded 則 $A$ 為 compact。
==========================

==========================
Definition: Sequentially Compact
我們說一個 metric space $(X,d)$ 為 sequentially compact 若下列條件成立
對任意 sequence in $X$ 存在 收斂 subsequence 。
==========================

==========================
Definition: Totally Bounded
一個 metric space $(X,d)$ 稱為 totally bounded 若下列條件成立:
對任意 $\varepsilon>0$,存在有限個 以半徑為 $\varepsilon$ 的 open Ball $\mathcal{B}_\varepsilon$ 所組成的集合 並且 covers $X$。
==========================


Example
考慮 $l^p$ space $:= \{\{a_n\}_n: \sum_{n}^\infty |a_n|^p < \infty, 0 <p <\infty\}$;且定義 metric 如下
\[d\left( {{a_n},{b_n}} \right): = {\left( {\sum\limits_{n = 1}^\infty  {|{a_n} - {b_n}{|^p}} } \right)^{\frac{1}{p}}}\]

Question: 試定義 半徑為1 且球心為 $\{0,0,0,...\}$ 的 open ball $\mathcal{B} \in l^p$:
ANS:\[
\mathcal{B}: = \left\{ {{{\left\{ {{a_n}} \right\}}_{n \in \mathbb{N}}}:\sum\limits_{n = 0}^\infty  {{{\left| {{a_n}} \right|}^p} < 1} } \right\}
\]
現在定義 example element in $l^p$
\[\left\{ {{e_n}^{\left( k \right)}} \right\}: = \left\{ \begin{array}{l}
0,\begin{array}{*{20}{c}}
{}
\end{array}n \ne k\\
1,\begin{array}{*{20}{c}}
{}
\end{array}n = k
\end{array} \right.
\]舉例而言,若 $k=1$ 則 上述定義表示 $e_n^{(1)} = \{1, 0, 0, 0,...\}$ 若 $k=2$ 則上述定義表示 $e_n^{(2)} = \{0, 1, 0, 0,...\}$

注意到
1. $\{e_n^{(k)}\} \in  \mathcal{\bar{B}}$
2. 且 example element 的 距離 (metric, $d$) 為 \[d({e^{(k)}},{e^{(m)}}) = {\left( {\sum\limits_{n = 0}^\infty  {{{\left| {e_n^{(k)} - e_n^{\left( m \right)}} \right|}^p}} } \right)^{\frac{1}{p}}} = {2^{\frac{1}{p}}}\]

Question: 試問 $ \mathcal{\bar{B}}$ 是否為 totally bounded?
NO! 亦即 存在 $\varepsilon>0$,使得 沒有 有限的 collection of open balls covers $X$

取 $\varepsilon < 1/2^p$ 則可證明 沒有有限的 collection of open balls covers $X$。


以下我們看個 totally bounded 的結果

=============
FACT: 若 $X$ 為 totally bounded metric space,則 $X$ 具有 countable 且 dense 的子集合 (亦即 $X$ 中存在 separable 的子集合)。
=============
Proof:
此為存在性的定理,我們要找出 一個 $X$ 的子集合 滿足 countable 與 dense。

首先由於 $X$ 為 totally bounded metric space,由定義可知 對任意 $\varepsilon >0$, 存在有限個 由半徑為 $\varepsilon>0$ 的 open ball $\mathcal{B}$ 所組成 的  cover of $X$。故對任意 $n \in \mathbb{N}$ 我們選 $\varepsilon_n:=1/n$,並且令有限個點 $x_1,...x_n \in X$,則由 toally boundedness of $X$ 我們可建構集合
\[
A_n := \{x_1, x_2,...,x_n\}
\] 使得 $X \subset \cup_i^n \mathcal{B}(x_i) $。那麼若我們現在令
\[
A:= \cup_n A_n
\] 則此集合 $A \subset X$ 且為 countable。

接著我們證集合 $A$ 為 dense。亦即要證明 :
對任意 $z \in X$,存在一組 sequence $\{z_n\} \in A$ 使得 $z_n \rightarrow z$。

現在給定任意 $z \in X$ ,則由 totally boundedness 我們可知必定存在 一個 點 $z_n \in A$ 使得 $d(z_n, z) < 1/n$ ,故對任意 $n \in \mathbb{N}$ 我們可建構一組 sequence $\{z_n\}$ 滿足
\[
\lim_{n \rightarrow \infty} d(z_n,z) =0
\]亦即 $z_n \rightarrow z$。

===================
Lemma 1: 任意 closed subset $F$ of compact metric space $X$ 必為 compact。
Proof: omitted.
===================

===================
Lemma 2: 任意 在 $X$ 中的無窮集合 必有 accumulation point 若且為若 $X$ 為 sequentially compact。
===================

Proof: $(\Rightarrow)$ 假設 在 $X$ 中的無窮集合 必有 accumulation point,我們要證明  $X$ 為 sequentially compact;亦即給定任意 sequence in $X$ ,要證明 存在 有收斂 subsequence 。

現在取 $\{p_n\}$ 為 $X$ 中任意 sequence。 將此 $\{p_n\} $ 中的元素形成集合 $A \subset X$ 且考慮以下兩種情況:
1.若 集合 $A$ 中元素為有限個,則 $\{p_n\}$ sequence 中 必定存在一點為重複出現無限次,則我們可取此點為形成 constant subsequence。
2. 若 集合 $A$ 中元素為無限個,亦即 $\{p_n\}$ 為無限個相異元素;由 假設可知
"任意 在 $X$ 中的無窮集合 必有 accumulation point "
$A$ 為 $X$ 中的無窮集合,必有  accumulation point ,此等價為 $\{p_n\}$ 具有收斂子數列。

$(\Leftarrow)$ 假設 $X$ 為 sequentially compact,要證明 任意 在 $X$ 中的無窮集合 必有 accumulation point。

令 $A \subset X$ 為無窮集合,我們要證 $A$ 必有 accumulation point。
我們取 $\{a_n\} \subset A$ 為 sequence,則由於  $X$ 為 sequentially compact,故可知給定任意sequence in $X$,必有收斂子數列。此等價為 $A$ 必有 accumulation point。

===================
Lemma 3: 若 $X$ 為 compact,則 $X$ 為 sequentially compact。
===================
Proof:
要證 $X$ 為 sequentially compact;可由 Lemma 2 我們證 任意 在 $X$ 中的無窮集合 必有 accumulation point 。

利用歸謬法(Proof by contradiction):假設 $X$ 為 compact,且存在一個 $X$ 中的無窮集合,但此集合並沒有 accumulation point 。我們要證矛盾。

故現在令 $Y \subset X$ 為此 無窮集合 (沒有 accumulation point)。則由於 $Y$ 並沒有 accumulation point ,我們可推知 對任意 $y \in Y$,存在適當的半徑 $r>0$ 使得開球 $B_r(y)$ 與 $Y$ 的交集
 \[B_r(y) \cap Y = \{y\}
\] 且由於  $Y$ 無 accumulation point,我們亦另外推知 $Y$ 為 closed。 ($Y$ is closed iff its contains all its accumulation point,但由於 $Y$ 並無 accumulation point,故 $Y$ 為 closed。)

由於 $X$ 為 compact,且 $Y \subset X$ 為 closed,由 Lemma 1 可知 $Y$ 亦為 compact。

對任意 $y$,我們確實可透過 $B_r(y)$ 來 cover $Y$ (透過 $ B_r(y) \cap Y = \{y\}$ ) 故由 compactness of $Y$ 可知必定存在有限個 subcover 來蓋住 $Y$。但此與 $Y$ 為無窮集合 矛盾。 $\square$

現在我們回憶 totally bounded
==========================
Definition: Totally Bounded
一個 metric space $(X,d)$ 稱為 totally bounded 若下列條件成立:
對任意 $\varepsilon>0$,存在有限個 以半徑為 $\varepsilon$ 的 open Ball $\mathcal{B}_\varepsilon$ 所組成的集合 並且 covers $X$。
==========================

Definition: 一個集合 $A$ 為 $\varepsilon$-net for space $X$ 若下列條件成立:
$A$ 為 finite set 且對 $x \in A$,開球 $B_\varepsilon(x)$ 建構一個 open cover of $X$。

現在我們給出等價定義: 我們說 $A$ is totally bounded 若 對任意 $\varepsilon>0$ 而言,我們有 $\varepsilon$-net。

Claim: 若 $X$ 為 sequentially compact,則 集合 $A \subset X$ 滿足 $p,q \in A, p \neq q$ 且 $d(p,q) \ge \varepsilon$ 為 有限集。
proof:


Lemma 4: 一個 sequentially compact 的 metric space $X$ 為 totally bounded + complete。

Proof:
先證 totally bounded。給定 $\varepsilon$,要建構 一個 $\varepsilon$-net。

現在令 $A \subset X$ 為一集合 滿足其中的元素之間互相之距離大於 $\varepsilon$,由 Claim 可知此集合 $A$ 為 有限集合,故對任意點 $p_i \in A$ 則我們可對每一個 $i$,建構一開球 $B_\varepsilon(p_i)$ 且此開球確實 蓋住 $X$。
亦即我們確實建構出 $\varepsilon$-net for $X$ 故  $X$ 為 totally bounded。$\square$

接著我們證  $X$ 為  complete:亦即給定任意 Cauchy sequence $\{x_n\} \subset X$ 要證明 此 $\{x_n\}$ 收斂在 $X$ 上。

由於 $X$ 為 sequentially compact ,故此 $\{x_n\}$ 具有收斂子數列 $\{x_{n_k}\}$在 $X$ 上。稱其極限為 $l$ 現在觀察 對足夠大的 $N$ 使得當 $n,n_k \ge N$ 我們有
\[\begin{array}{l}
\left| {{x_n} - l} \right| = \left| {{x_n} - {x_{{n_k}}} + {x_{{n_k}}} - l} \right|\\
\begin{array}{*{20}{c}}
{}&{}&{}&{}
\end{array} \le \left| {{x_n} - {x_{{n_k}}}} \right| + \left| {{x_{{n_k}}} - l} \right|\\
\begin{array}{*{20}{c}}
{}&{}&{}&{}
\end{array} < \varepsilon /2 + \varepsilon /2 < \varepsilon
\end{array}\]故$X$ 為  complete。 $\square$

留言

這個網誌中的熱門文章

[數學分析] 什麼是若且唯若 "if and only if"

數學上的 if and only if  ( 此文不討論邏輯學中的 if and only if,只討論數學上的 if and only if。) 中文翻譯叫做  若且唯若 (or 當且僅當) , 記得當初剛接觸這個詞彙的時候,我是完全不明白到底是甚麼意思,查了翻譯也是愛莫能助,畢竟有翻跟沒翻一樣,都是有看沒有懂。 在數學上如果看到 if and only if  這類的句子,其實是表示一種 雙條件句 ,通常可以直接將其視為" 定義(Definition)" 待之,今天要分享的是這樣的一個句子如何用比較直觀的方法去看他 假設我們現在有 兩個邏輯陳述句 A 與  B. 注意到,在此我們不必考慮這兩個陳述句到底是什麼,想表達什麼,或者到底是否為真(true),這些都不重要。只要知道是兩個陳述即可。 現在,考慮新的陳述:  "A if and only if B" 好了,現在主角登場,我們可以怎麼看待這個句子呢? 事實上我們可以很直覺的把這句子拆成兩部分看待,也就是 "( A if B ) and ( A only if B )" 那麼先針對第一個部分  A if B  來看, 其實這句就是說  if B then A, 更直白一點就是 "if B is true, then A is also true".  在數學上等價可以寫為 "B implies A" .  或者更常用一個箭頭符號來表示 "B $\Rightarrow$  A"  現在針對第二個部分  A only if B 此句意指  "If B is not true, then A is also not true". 所以如果已知 A is true,  那麼按照上句不難推得 B is also true 也就是說  A only if B  等價為 "If A is true then B is also true". 同樣,也可以寫作   "A implies B"   或者用箭頭表示  "A   $\Rightarrow$     B".

[數學分析] 淺談各種基本範數 (Norm)

這次要介紹的是數學上一個重要的概念: Norm: 一般翻譯成 範數 (在英語中 norm 有規範的意思,比如我們說normalization就是把某種東西/物品/事件 做 正規化,也就是加上規範使其正常化),不過個人認為其實翻譯成 範數 也是看不懂的...這邊建議把 Norm 想成長度就好 (事實上norm是長度的抽象推廣), 也許讀者會認為好端端的長度不用,為何又要發明一個 norm 來自討苦吃?? 既抽象又艱澀。 事實上想法是這樣的: 比如說現在想要比較兩個數字 $3$ , $5$ 之間的大小,則我們可以馬上知道 $ 3 < 5 $;同樣的,如果再考慮小數與無理數如 $1.8753$ 與 $\pi$,我們仍然可以比較大小 $1.8753 < \pi = 3.1415...$ 故可以發現我們有辦法對 "純量" 做明確的比大小,WHY? 因為前述例子中 $3$, $5$, $1.8753$ or $\pi$ 其各自的大小有辦法被 "measure "! 但是如果是現在考慮的是一組數字 我們如何去measure 其大小呢?? 比如說 \[x:=[1, -2, 0.1, 0 ]^T \]上式的大小該是多少? 是 $1$? $-2$? $0.1$??? 再者如果更過分一點,我們考慮一個矩陣 \[A = \left[ {\begin{array}{*{20}{c}} 1&2\\ 3&4 \end{array}} \right] \],想要知道這個矩陣的大小又該怎麼辦?? 是 $1$ ? $2$ 還是 $4$ ?..其實現階段我們說不清楚。 也正是如此,可以發現我們確實需要新的 "長度" 的定義來幫助我們如何去 measure 矩陣/向量/甚至是函數的大小。 故此,我們首先定義甚麼是Norm,(也就是把 "長度" or "大小" 的本質抽離出來) ================== Definition: Norm 考慮 $V$ 為一個向量空間(Vector space),則我們說  Norm 為一個函數 $||\cdot|| : V \rightarrow \mathbb{R}$ 且滿足下列性質