2011年9月30日 星期五

[線性系統] 淺談動態系統的可控制性(2)

延續前篇,考慮 $n$ 維度 $p$ 組輸入的狀態方程
\[{\bf{\dot x}} = {\bf{Ax}} + {\bf{Bu}}\]由於輸出方程與控制性無關在此我們僅討論狀態方程。

我們先回憶 系統狀態可控制的定義
=====================
Definition: (Controllability for LTI system)
我們稱狀態方程
\[
{\bf{\dot x}}\left( t \right) = {\bf{Ax}}\left( t \right) + {\bf{Bu}}\left( t \right)
\] 或者一組 $\left( {{\bf{A,B}}} \right)$ 為在時刻 $t_0$ 可控制(controllable),若下列條件成立:
對任意初始狀態 ${\bf{x}}\left( 0 \right) = {\bf x}_0$ 與 終止狀態 ${\bf x}_1$,存在 一組輸入訊號 ${\bf u}(t)$ 使得可以在 有限時間 內將 ${{\bf{x}}_0}$ 送至 ${{\bf{x}}_1}$。反之我們稱此 $\left( {{\bf{A,B}}} \right)$ 不可控制 (uncontrollable)。
======================

Comment:
注意!! 上述的可控性定義並 "無" 限制 控制力大小。

現在我們給出 控制性 有關的結果整合在下面
=========================
Theorem: Controllability equivalence statements

下列 4個 陳述完全等價(if and only if)
1. $n$維度的 pair $(\bf{A,B})$ 為 controllable

2. 對任意 $t>0$,$n \times n$ 的矩陣
\[{{\bf{W}}_C}(t): = \int_{\rm{0}}^t {{e^{{\bf{A}}\left( {t - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{{\bf{A}}^T}\left( {t - \tau } \right)}}} d\tau \]為 nonsingular。

3. $n \times np$ 的控制性矩陣 controllability matrix
\[C: = \left[ {\begin{array}{*{20}{c}}
{\bf{B}}&{{\bf{AB}}}&{{{\bf{A}}^2}{\bf{B}}}& \cdots &{{{\bf{A}}^{n - 1}}{\bf{B}}}
\end{array}} \right]\]為 full rank (rank $=n$)

4. 若 $A$ 矩陣 所有的 eigenvalue 皆具有 負實部,則下列 Lyapunov equation
\[{\bf{A}}{{\bf{W}}_C} + {{\bf{W}}_C}{{\bf{A}}^T} =  - {\bf{B}}{{\bf{B}}^T}\]有唯一解 
\[{{\bf{W}}_C}: = \int_{\rm{0}}^\infty  {{e^{{\bf{A}}\tau }}{\bf{B}}{{\bf{B}}^T}{e^{{{\bf{A}}^T}\tau }}} d\tau \]且為 正定矩陣 (positive definite matrix)。
=========================

Proof: $ (1) \Leftrightarrow (2)$

我們先證 $(2) \Rightarrow (1)$ 亦即假設對任意 $t>0$,$n \times n$ 的矩陣
\[{{\bf{W}}_C}(t): = \int_{\rm{0}}^t {{e^{{\bf{A}}\left( {t - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{{\bf{A}}^T}\left( {t - \tau } \right)}}} d\tau \]為 nonsingular。我們要證明 $(\bf{A,B})$ 為 controllable。

由 controllable 定義,我們給定任意初始狀態 ${\bf{x}}\left( 0 \right) = {{\bf{x}}_0}$ 與 任意終端狀態 ${\bf{x}}\left( {{t_1}} \right) = {{\bf{x}}_1}$,需找出一個控制力 $\bf u$ 使得在有限時間 $t_1$ 內 使 ${{\bf{x}}_0}$ 移動到 ${{\bf{x}}_1}$。

故現在回憶對於 ${\bf{\dot x}} = {\bf{Ax}} + {\bf{Bu}}$ 其 在 時刻$t_1$ 對應的解為
\[{\bf{x}}\left( {{t_1}} \right) = {e^{{\bf{A}}{t_1}}}{\bf{x}}\left( 0 \right) + \int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{Bu}}\left( \tau  \right)d\tau } \]現在我們令控制力為
\[{\bf{u}}\left( t \right): =  - {{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{{\bf{W}}_C}^{ - 1}\left( {{t_1}} \right)\left[ {{e^{{\bf{A}}\left( {{t_1}} \right)}}{{\bf{x}}_0} - {{\bf{x}}_1}} \right]
\]由於我們假設 ${ = {{\bf{W}}_C}\left( {{t_1}} \right)}$ 為 nonsingular,反矩陣存在!。現在我們代入 $(*)$ 可得
\[\begin{array}{*{20}{l}}
{{\bf{x}}\left( {{t_1}} \right) = {e^{{\bf{A}}{t_1}}}{{\bf{x}}_0} - \int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{{\bf{A}}^T}\left( {{t_1} - \tau } \right)}}{{\bf{W}}_C}^{ - 1}\left( {{t_1}} \right)\left[ {{e^{{\bf{A}}\left( {{t_1}} \right)}}{{\bf{x}}_0} - {{\bf{x}}_1}} \right]d\tau } }\\
{ \Rightarrow {\bf{x}}\left( {{t_1}} \right) = {e^{{\bf{A}}{t_1}}}{{\bf{x}}_0} - \underbrace {\left[ {\int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{{\bf{A}}^T}\left( {{t_1} - \tau } \right)}}d\tau } } \right]}_{ = {{\bf{W}}_C}\left( {{t_1}} \right)}{{\bf{W}}_C}^{ - 1}\left( {{t_1}} \right)\left[ {{e^{{\bf{A}}\left( {{t_1}} \right)}}{{\bf{x}}_0} - {{\bf{x}}_1}} \right]}\\
{ \Rightarrow {\bf{x}}\left( {{t_1}} \right) = {{\bf{x}}_1}}
\end{array}\]亦即此 $\bf u$ 確實幫我們把 ${{\bf{x}}_0}$ 移動到 ${{\bf{x}}_1}$。

接著我們證明 $(1) \Rightarrow (2)$。
利用歸謬法,假設 $(\bf{A,B})$ 為 controllable 且我們讓 ${{{\bf{W}}_C}\left( {{t_1}} \right)}$ 為 singular。故可知存在一向量 $v$ 使得
\[{{\bf{W}}_C}\left( {{t_1}} \right)v ={ \bf 0}
\]對上式等號兩邊同乘 $v^T$ 得到 ${{{\bf{W}}_C}\left( {{t_1}} \right)}$的二次式:
\[\begin{array}{l}
{v^T}{{\bf{W}}_C}\left( {{t_1}} \right)v = 0\\
 \Rightarrow {v^T}\left( {\int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}d\tau } } \right)v = 0\\
 \Rightarrow \int_0^{{t_1}} {{v^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{B}}{{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}vd\tau }  = 0\\
 \Rightarrow \int_0^{{t_1}} {{{\left( {{{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}v} \right)}^T}\left( {{{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}v} \right)d\tau }  = 0\\
 \Rightarrow \int_0^{{t_1}} {\left\| {{{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}v} \right\|_2^2d\tau }  = 0\\
 \Rightarrow {{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}v = \bf{0}
\end{array}\]上式對任意 $\tau \in [0, t_1] $ 都成立。

現在由於 我們已假設  $(\bf{A,B})$ 為 controllable ,故由可控制性的定義可知:給定任意初始狀態 ${\bf{x}}\left( 0 \right) = {{\bf{x}}_0}$ 與 任意終端狀態 ${\bf{x}}\left( {{t_1}} \right) = {{\bf{x}}_1}$,必存在一組控制力 $\bf u$ 使得在有限時間 $t_1$ 內 使 ${{\bf{x}}_0}$ 移動到 ${{\bf{x}}_1}$。

故現在我們給定初始狀態為 ${{\bf{x}}_0}: = {e^{ - {\bf{A}}{t_1}}}v$ 且 ${{\bf{x}}_1} := \bf{0}$ 則由狀態空間的解可知
\[\begin{array}{*{20}{l}}
{{\bf{x}}\left( {{t_1}} \right) = {e^{{\bf{A}}{t_1}}}{\bf{x}}\left( 0 \right) + \int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{Bu}}\left( \tau  \right)d\tau } }\\
{ \Rightarrow {\bf{0}} = v + \int_0^{{t_1}} {{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{Bu}}\left( \tau  \right)d\tau } }
\end{array}\]對上式兩邊同乘 $v^T$ 可得
\[0 = {v^T}v + \int_0^{{t_1}} {{v^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{Bu}}\left( \tau  \right)d\tau }  \ \ \ \ (\star)
\]由於先前我們已知 ${{\bf{B}}^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}v = {\bf{0}} \Leftrightarrow {v^T}{e^{{{\bf{A}}^T}\left( {{t_1} - \tau } \right)}}{\bf{B}} = {\bf{0}}$ ,故 $(\star)$ 變成
\[\begin{array}{*{20}{l}}
{0 = {v^T}v + \underbrace {\int_0^{{t_1}} {{v^T}{e^{{\bf{A}}\left( {{t_1} - \tau } \right)}}{\bf{Bu}}\left( \tau  \right)d\tau } }_{ = 0}}\\
{ \Rightarrow 0 = \left\| v \right\| \Leftrightarrow v = 0}
\end{array}\]上式結果 $v =0$ 與 ${{{\bf{W}}_C}\left( {{t_1}} \right)}$ 的 singularity 矛盾 ( 因為 Singularity 告訴我們 必定存在一組 "非零" 向量 $v$ 使得 ${{{\bf{W}}_C}\left( {{t_1}} \right)}v=0$)。$\square$

2011年9月26日 星期一

[分享]從事學問的目的是甚麼?

從事學問的目的是甚麼?我完全認同本日(092011)劉校長說的下面這句話

從事學問並不是為了得獎或發表論文而是為了探索新知識、新技術及對社會有所貢獻,讓自己從中得到快樂,才能在漫長求知過程中,有源源不斷的動力。-清大前校長、現任蒙民偉榮譽講座教授 劉炯朗,

===================================
是的,研究人員應追求學問,探索新知識,不是為了發表論文。是要讓自己開心有動力做研究,探究學術之美不是為了升等或得獎。希望自己也能把這些話謹記在心 :)

2011年9月13日 星期二

[數學分析] 逐點收斂與均勻收斂(4) - Uniform boundedness and Equicontinuity

回憶對於 實數sequence 而言,我們有以下結果:
=================
Theorem: Convergence of Real Numbers 
1. 若 $\{p_n \}$ 為一個在 compact metric space $X$ 的實數 sequence,則存在一 subsequence $\{p_{n_i}\}$ 在 $X$ 上收斂。

2. (Bolzano-Weierstrass Theorem) 任意 $\mathbb{R}^k$ 中有界 sequences 都必有收斂 subsequence。
=================

那麼現在我們想問,如果是 函數 sequence 是否有類似結果可以使用?
Q1. 任意 收斂函數sequence 是否都有均勻收斂 sequence ?
Q2. 如果我們有一組 "有界" 的 函數 sequence,那麼是否此組有界函數 sequence 仍有 收斂 subsequence? 如果有? 是甚麼樣的收斂(逐點? or 均勻?) 如果沒有? 我們該怎麼修正。

讀者可以發現我們想要 模仿 實數sequence 的 Bolzano-Weierstrass theorem 到 函數 sequence 中,故第一個問題便是甚麼叫做 "有界" 的函數sequence ? 故以下我們給出 有界函數sequence (bounded function sequences)的定義 :

=======================
Definition: ( Boundedness of Sequence of Function)
令 $\{f_n \}$ 為定義在 $E \subset X$ 上函數 sequence。
我們說 $\{f_n \}$ 為在 $E$ 上逐點有界(pointwise bounded)  若下列條件成立:
存在一個有限值域函數 $\phi(x)>0$ 使得 對任意 $x\in E$ 與 對 $n=1,2,3,...$,\[
|f_n(x)|< \phi(x)
\]
我們說 $\{f_n \}$ 為在 $E$ 上均勻有界(uniformly bounded)  若下列條件成立:
存在一個(夠大的)數字 $M\in \mathbb{R}$ 使得 對任意 $x\in E$ 與 $n=1,2,3,...$,\[
|f_n(x)|<M
\]=======================

現在看個例子
Example 1
令 $x \in [0,1]$ 且 $n \in \mathbb{N}$,定義函數sequence
\[ f_n(x) = \frac{x^2}{x^2 +(1 - nx)^2} \]試問 
1. 此函數sequence 是否均勻有界?
2. 此函數 sequence 是否收斂? 是否均勻收斂?
3. 此函數 sequence 是否具有均勻收斂 subsequence $\{f_{n_k} \}$?

Solution
1. 給定 $x\in [0,1]$ 觀察
\[\left| {{f_n}(x)} \right| = \left| {\frac{{{x^2}}}{{{x^2} + {{\left( {1 - nx} \right)}^2}}}} \right| \le 1\]故選 $M=1$ $\{f_n\}$ 在 $[0,1] $均勻有界。

2. 現在檢驗收斂性
\[\mathop {\lim }\limits_{n \to \infty } {f_n}(x) = \mathop {\lim }\limits_{n \to \infty } \frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}} = \mathop {\lim }\limits_{n \to \infty } \frac{1}{{1 + {n^2}}} = 0
\] 但若我們檢驗 supnorm可發現
\[\left\| {{f_n}(x) - 0} \right\| = \mathop {\sup }\limits_{x \in [0,1]} \left| {\frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}}} \right| = 1 \ne 0
\]故此函數不均勻收斂。

3. 令子數列如下
\[{f_{{n_k}}}(x) = \frac{{{x^2}}}{{{x^2} + {{(1 - {n_k}x)}^2}}}
\]現在觀察若 $x = \frac{1}{{{n_k}}}$ 則
\[{f_{{n_k}}}\left( {\frac{1}{{{n_k}}}} \right) = \frac{{{x^2}}}{{{x^2}}} = 1
\]故在 $[0,1]$ 上 無均勻收斂的 subsequence;亦即如果我們選 $\varepsilon = 1/2 >0$  則 對所有的 $N>0$,$n_k >N$ 存在一個 $x = \frac{1}{n_k} \in [0,1]$ 使得
\[\left| {{f_{{n_k(x)}}} - f(x)} \right| = \left| 1 - 0 \right| =1 \ge 1/2
\]

現在我們看個比連續以及均勻連續更強的定義,此定義可以幫我們連結均勻收斂 等相關概念
======================
Definition: Equicontinuity
令 $\mathcal{F}$ 為在 $E \subset X$上的 函數 $f$ 的 family,我們說此 family $\mathcal{F}$ 為 等度連續 (equicontinuous) on $E$ 若下列條件成立
對任意 $\varepsilon >0$ 存在 $\delta >0$ 使得 對任意 $x,y \in E, f \in \mathcal{F}$
\[
d(x,y) < \delta \Rightarrow |f(x) - f(y)| < \varepsilon
\]======================

Comment: 
sequence of functions $f_n$ 可以看成是一個 函數 的 family $\mathcal{F}$,$f_n \in \mathcal{F} \;\; \forall n$。

如前例
Example 2
令 $x \in [0,1]$ 且 $n \in \mathbb{N}$,定義函數sequence
\[{f_n}(x) = \frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}}
\]試問 $f_n$ 是否為 equicontinuous?

Solution
令 $x,y \in [0,1]$,觀察
\[\left| {{f_n}\left( x \right) - {f_n}\left( y \right)} \right| = \left| {\frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}} - \frac{{{y^2}}}{{{y^2} + {{(1 - ny)}^2}}}} \right| \ \ \ \ (*)
\]若我們取 $x = 1/n$ 與 $y = 2/n$ 滿足則當 $n \rightarrow \infty$ 我們有 $d(x,y) \rightarrow 0$;但若將上述 $x,y$兩點代入 $(*)$
\[\left| {{f_n}\left( {\frac{1}{n}} \right) - {f_n}\left( {\frac{2}{n}} \right)} \right| = \left| {1 - \frac{{\frac{4}{{{n^2}}}}}{{\frac{4}{{{n^2}}} + 1}}} \right| = \left| {\frac{{{n^2}}}{{4 + {n^2}}}} \right| \rightarrow 1\]亦即 無論 $n$ 多大 $|f_n(x) - f_n(y)|$之差都不會到 $0$。故並非 equicontinuous。$\square$


Example 3
令 $K \subset \mathbb{R}$ 為 compact ,且對任意 $R \in \mathbb{R}$ 滿足 $R<\infty$ 定義
\[
B_R:=\{f \in C(K): |f(x) - f(y)| < R|x-y|\}
\] 試證 上述集合 $B_R$ 為 equicontinuous。

Proof:
給定 $f \in B_R$,我們要證明 $f$ 為 uniform continuous  亦即 $\varepsilon >0$,存在 $\delta >0$ 使得 $u,v \in K$,$|u-v|<\delta \Rightarrow |f(u) - f(v)| <\varepsilon$。注意到 $f \in B_R$ 故 $|f(u) - f(v)| < R|u-v|$ 現在選 $\delta := \varepsilon /2R$ 則
\[|f(u) - f(v)| < R|u - v| = R\frac{\varepsilon }{{2R}} < \varepsilon
\]

接著我們介紹等度連續的判斷定理:

=======================
令 $\{f_n\}$ 為函數 sequence
Theorem: 
若 $K$ 為 compact metric space 且 $f_n \in \cal{C}(K)$ 且 $\{f_n\}$ 在 $K$上均勻收斂,則
$f_n$ 在 $K$ 上等度連續。
=======================
Proof: omitted.

現在回頭再看看剛剛的例子
Example 
令 $x \in [0,1]$ 且 $n \in \mathbb{N}$,定義函數sequence
\[{f_n}(x) = \frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}}
\]試問 $f_n$ 是否為 equicontinuous?

我們發現主因是 
\[{f_n}(x) = \frac{{{x^2}}}{{{x^2} + {{(1 - nx)}^2}}}
\]並未在 $K$ 上均勻收斂,故並非等度連續!!



現在我們可以回答在文章開始時的問題:
在甚麼條件下,一組函數 Sequence 可以具有 均勻收斂的 subsequence?

=============================
Theorem: Sufficient Condition for Existence of Uniform Convergent Subsequence
若 $K$ 為 compact set,$\{f_n\}$ 為有界連續函數 sequence ( $ f_n \in \mathcal{C}(K),\;\; \forall n\in \mathbb{N}$) 且 $f_n$ 為 pointwise bounded 與 equicontinuous on $K$ 則
1. $\{f_n\}$ 為 uniformly bounded on $K$
2. $\{f_n\}$ 具有均勻收斂 subsequence
============================
Proof: omitted.


以下我們看個例子說明我們確實需要 $f_n$ pointwise bounded

Example 4
Example 3,令 $K \subset \mathbb{R}$ 為 compact ,且對任意 $R \in \mathbb{R}$ 滿足 $R<\infty$ 定義
\[
B_R:=\{f \in C(K): |f(x) - f(y)| < R|x-y|\}
\] 試問 sequence $\{f_n\} \subset B_R$ 是否有 convergent subsequence?

Proof:
注意到儘管 $K$ 為 compact,且 $B_R$ 為 equicontinuous,但是 $\{f_n\}$ 不一定為 pointwise bounded,比如說若選 $f_n(x) := r x + n$  ($0 < r < R$ ) 則 $f_n \in B_R$ 因為
\[|{f_n}(x) - {f_n}(y)| = |rx + n - ry - n| = r|x - y| < R|x - y|\]
但是 讀者可察覺 $f_n(x)$ 並無 pointwise bounded。(事實上 $f_n(x) \to \infty$)