Luận văn Thạc sĩ Toán học: Phương thức bình phương tối thiểu

Chia sẻ: _ _ | Ngày: | Loại File: PDF | Số trang:68

Thêm vào BST

Báo xấu

37
lượt xem 4
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Trong luận văn này, tác giả chỉ nghiên cứu về phương pháp bình phương tối thiểu cho hệ phương trình tuyến tính. Cụ thể là, tác giả sẽ tập trung trình bày một cách hệ thống một số tính chất của nghiệm bình phương tối thiểu, phương pháp phân tích giá trị kỳ dị và một số ứng dụng trong đại số tuyến tính và giải bài toán ngược.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn Thạc sĩ Toán học: Phương thức bình phương tối thiểu

BỘ GIÁO DỤC VIỆN HÀN LÂM KHOA HỌC VÀ ĐÀO TẠO VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ − − − − − − − − − − − − − − − − − − −− Lê Thị Ngọc Quỳnh PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU LUẬN VĂN THẠC SĨ TOÁN HỌC Hà Nội - 2020
BỘ GIÁO DỤC VIỆN HÀN LÂM KHOA HỌC VÀ ĐÀO TẠO VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ − − − − − − − − − − − − − − − − − − −− Lê Thị Ngọc Quỳnh PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU Chuyên ngành: Toán Giải tích Mã số: 8 46 01 02 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS. TSKH. ĐINH NHO HÀO Hà Nội - 2020
LỜI CAM ĐOAN Tôi xin cam đoan những gì viết trong luận văn là do sự tìm tòi, học hỏi của bản thân và sự hướng dẫn tận tình của thầy Đinh Nho Hào. Mọi kết quả nghiên cứu cũng như ý tưởng của tác giả khác, nếu có đều được trích dẫn cụ thể. Đề tài luận văn này cho đến nay chưa được bảo vệ tại bất kỳ một hội đồng bảo vệ luận văn thạc sĩ nào và cũng chưa hề được công bố trên bất kỳ một phương tiện nào. Tôi xin chịu trách nhiệm về những lời cam đoan. Hà Nội, tháng 11 năm 2020. Học viên Lê Thị Ngọc Quỳnh
LỜI CẢM ƠN Đầu tiên, tôi xin được tỏ lòng biết ơn sâu sắc nhất của mình tới GS. TSKH. Đinh Nho Hào, người trực tiếp hướng dẫn tôi tìm ra hướng nghiên cứu. Luận văn này được hoàn thành dưới sự hướng dẫn tận tình của thầy trong một thời gian dài. Thầy đã luôn quan tâm, giúp đỡ, động viên tôi trong suốt quá trình học tập và nghiên cứu. Tôi xin chân thành cảm ơn các thầy cô, anh chị, bạn bè của Viện Toán học vì sự giúp đỡ, góp ý và tạo điều kiện trong quá trình học tập, nghiên cứu để tôi thực hiện tốt luận văn của mình. Tôi cũng xin trân trọng cảm ơn sự giúp đỡ và tạo điều kiện thuận lợi của cơ sở đào tạo là Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam trong quá trình thực hiện luận văn. Đặc biệt, tôi xin cảm ơn gia đình, người thân và bạn bè đã luôn sát cánh, động viên và khích lệ tôi trong suốt quá trình học tập và nghiên cứu. Hà Nội, tháng 11 năm 2020. Học viên Lê Thị Ngọc Quỳnh
Mục lục Lời cam đoan Lời cảm ơn Mục lục MỞ ĐẦU 1 1 Một số kiến thức cơ sở 2 2 Phương pháp bình phương tối thiểu 11 2.1 Nghiệm bình phương tối thiểu của phương trình toán tử và một số tính chất . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 2.2 Phân tích giá trị kỳ dị . . . . . . . . . . . . . . . . . . . . . . . 21 2.2.1 Toán tử compact . . . . . . . . . . . . . . . . . . . . . . 21 2.2.2 Phổ của toán tử compact tự liên hợp . . . . . . . . . . . . 23 2.2.3 Phân tích giá trị kỳ dị . . . . . . . . . . . . . . . . . . . . 30 2.3 Tiêu chuẩn Picard . . . . . . . . . . . . . . . . . . . . . . . . . 36 3 Ứng dụng của phương pháp bình phương tối thiểu 40 3.1 Phân tích giá trị kỳ dị cho ma trận . . . . . . . . . . . . . . . . . 40 3.2 Ứng dụng của phương pháp bình phương tối thiểu trong không gian hữu hạn chiều . . . . . . . . . . . . . . . . . . . . . . . . 50 3.3 Ứng dụng của phân tích kỳ dị trong nghiên cứu bài toán ngược . . 54 Kết luận 61
Tài liệu tham khảo 62
1 MỞ ĐẦU Giải tích số hay còn gọi là phương pháp số là một môn khoa học thuộc lĩnh vực Toán ứng dụng, nhằm mục đích nghiên cứu cách giải gần đúng các phương trình, các bài toán xấp xỉ, các bài toán tối ưu, . . .. Trong việc giải gần đúng nghiệm của phương trình, tôi xin đề cập trong luận văn này của mình phương pháp bình phương tối thiểu cho việc giải hệ phương trình tuyến tính. Bình phương tối thiểu tuyến tính là một kỹ thuật để xấp xỉ một nghiệm gần đúng cho một hệ phương trình tuyến tính với các dữ kiện không chính xác cũng như được ứng dụng rộng rãi trong thống kê. Hệ phương trình trong trường hợp đang xét này thường là hệ mà có số phương trình lớn hơn số biến. Các bài toán bình phương tối thiểu được chia thành hai loại: bình phương tối thiểu tuyến tính và bình phương tối thiểu phi tuyến. Trong luận văn này, tôi chỉ nghiên cứu về phương pháp bình phương tối thiểu cho hệ phương trình tuyến tính. Cụ thể là, chúng tôi sẽ tập trung trình bày một cách hệ thống một số tính chất của nghiệm bình phương tối thiểu, phương pháp phân tích giá trị kỳ dị và một số ứng dụng trong đại số tuyến tính và giải bài toán ngược. Luận văn được chia làm ba chương như sau: Chương 1: Chương này chúng tôi sẽ nhắc lại một số định nghĩa, định lý và tính chất quan trọng của Giải tích hàm phục vụ cho luận văn này. Chương 2: Nội dung phần này trình bày định nghĩa, tính chất của nghiệm bình phương tối thiểu, nghịch đảo suy rộng và chứng minh tiêu chuẩn Picard, cái có mối liên hệ quan trọng với phương pháp bình phương tối thiểu và trong việc phân tích giá trị kỳ dị. Chương 3: Trong chương này, chúng tôi trình bày ứng dụng của phương pháp bình phương tối thiểu trong đại số tuyến tính và bài toán ngược.
CHƯƠNG 1 Một số kiến thức cơ sở Trong chương này chúng tôi trình bày một số khái niệm và tính chất quan trọng của Giải tích hàm để hỗ trợ cho các phần sau. Một số tính chất và định lý khác chưa được đề cập trong chương này thì chúng tôi sẽ nêu một cách xen kẽ trong các chương tiếp theo. Định nghĩa 1.0.1. [1], [2] Cho không gian vectơ X trên trường K = R. Một ánh xạ được cho bởi k.k : X → K, x 7→ kxk được gọi là một chuẩn trên X nếu thỏa mãn các tính chất sau: (i) kx + yk ≤ kxk + kyk với mọi x, y ∈ X. (ii) kαxk = |α|kxkvới mọi x ∈ X , α ∈ K. (iii) kxk ≥ 0 với mọi x ∈ X và kxk = 0 nếu x = 0. Khi đó không gian vectơ X với một chuẩn như ở trên sẽ được gọi là không gian định chuẩn. Hơn nữa, không gian định chuẩn X sẽ được gọi là không gian Banach nếu mọi dãy cơ bản (dãy Cauchy) trong X hội tụ tới một điểm trong X , hay nói cách khác X là không gian định chuẩn đầy đủ. 2
3 Định nghĩa 1.0.2. [1], [2] Cho không gian vectơ X trên trường K (K = R hoặc C). Một ánh xạ được cho bởi h.i : X × X → K, (x, y) 7→ hx, yi được gọi là một tích vô hướng trên X nếu thỏa mãn các tính chất sau (i) hx, yi = hy, xi với mọi x, y ∈ X. (ii) hx + y, zi = hx, zi + hy, zi với mọi x, y, z ∈ X. (iii) hαx, yi = αhx, yi với mọi x, y ∈ X và α ∈ K. (iv) hx, xi ≥ 0 với mọi x ∈ X và hx, xi = 0 nếu x = 0. Một không gian vectơ X trên trường K cùng với một tích vô hướng trên X như trên được gọi là không gian tiền Hilbert. Từ đó ta có định nghĩa về không gian Hilbert chính là một không gian tiền Hilbert mà đồng thời cũng là một không p gian Banach với chuẩn kxk = hx, xi, ∀x ∈ X . Định nghĩa 1.0.3. [1], [2] Một tập M trong không gian metric X được gọi là compact nếu mọi dãy trong M đều chứa một dãy con hội tụ tới một điểm thuộc M . Từ đó ta có tính chất: một tập compact trong không gian metric thì sẽ đóng và hoàn toàn bị chặn, nhưng mệnh đề ngược thì chưa chắc đúng, ví dụ đơn giản như hình cầu đóng trong không gian định chuẩn vô hạn chiều thì không compact. Tập M được gọi là compact tương đối (hay tiền compact) nếu như bao đóng của nó là compact. Nói cách khác, M được gọi là compact tương đối nếu mọi dãy trong M đều chứa một dãy con hội tụ trong không gian X . Tập M sẽ được gọi là hoàn toàn bị chặn nếu với mọi ε > 0 cho trước, bao giờ cũng tồn tại một phủ gồm hữu hạn các hình cầu mở (Si ) với bán kính ε chứa M . Và ta có tính chất là một tập hoàn toàn bị chặn thì sẽ bị chặn.
4 Định lý 1.0.4. [1] Định lý Heine-Borel: Một tập M trong không gian metric X được gọi là compact nếu và chỉ nếu mọi phủ mở của M đều chứa một phủ con hữu hạn vẫn chứa M . Chứng minh. Giả sử M có tính chất Heine-Borel. Xét một dãy bất kì (xn ) ⊂ M . Với mỗi k = 1, 2, . . ., kí hiệu Ak = {xn : n ≥ k}. Cho Ak là bao đóng của T Ak và Gk = X \ Ak . Với mỗi tập hữu hạn I ⊂ {1, 2, . . .}, rõ ràng k∈I Ak 6= T S S ∅, cho nên k∈I Ak 6= ∅, và do đó X \ k∈I (X \ Ak ) = X \ k∈I Gk 6= ∅, tức là hợp các tập mở Gk (k ∈ I ) không phủ được X . Vì điều này đúng với mọi họ hữu hạn {Gk , k ∈ I} nên theo tính chất Heine-Borel thì cả họ cũng không thể phủ được M . Vậy phải có x 6∈ Gk = X \ Ak , tức là x ∈ Ak ∀k = 1, 2, . . .. Từ đây dễ dàng suy ra một dãy con (xnk ) hội tụ. Thật vậy, với mỗi k , vì x ∈ Ak nên hình cầu tâm x bán kính 1/k phải chứa một xnk ∈ (xn ). Ta có d(xnk , x) ≤ 1/k → 0 khi k → ∞. Vậy M compact. Để chứng minh phần đảo, giả sử M compact nhưng có một phủ mở {Gα } không chứa một phủ con hữu hạn nào. Ta lấy một dãy bất kỳ các số dương εn → 0. Vì M compact nên nó có thể phủ bằng một số hữu hạn hình cầu bán kính ε1 . Trong số các hình cầu này ắt phải có một hình cầu, giả sử là S1 sao cho T M1 = M S 1 không thể phủ được bằng một số hữu hạn tập Gα (nếu không thì M sẽ phủ được bằng một số hữu hạn tập Gα ). Tập M1 cũng compact (vì là tập con đóng của một tập compact) nên có thể phủ được bằng một số hữu hạn các T hình cầu bán kính ε2 , trong số đó có một cái, giả sử S2 sao cho M2 = M1 S 2 không thể phủ được bằng một số hữu hạn tập Gα . Tập M2 cũng là compact nên có thể phủ được bằng một số hữu hạn hình cầu bán kính ε3 . Tiếp tục như thế, T ta sẽ thu được một dãy hình cầu Sn và tập Mn = Mn−1 S n (n = 1, 2, . . .). Ta lấy trong mỗi tập Mn một điểm xn . Dĩ nhiên Mn ⊂ Mn−1 ⊂ . . . ⊂ M nên xn ∈ M và vì M compact nên có một dãy con (xnk ) hội tụ tới một điểm x0 ∈ M . Ta có x0 ∈ Gα0 nào đó và do Gα0 mở nên có một hình cầu K tâm x0 và nằm trọn trong Gα0 . Gọi r là bán kính của K , ta chọn k0 đủ lớn
5 để d(x0 , xnk0 ) < r/2 và εnk0 < r/4. Khi đó với mọi x ∈ Mnk0 , d(x, x0 ) ≤ d(x, xnk0 ) + d(xnk0 , x0 ) < 2εnk0 + r/2 < r, chứng tỏ Mnk0 ⊂ K ⊂ Gα0 , nghĩa là Mnk0 có thể phủ bằng một tập Gα0 , trái với cách xây dựng của nó. Vậy mọi phủ của M phải có một phủ con hữu hạn. Định lý 1.0.5. [1] Định lý Hausdorff: Trong một không gian metric đầy đủ (nghĩa là mọi dãy Cauchy đều hội tụ tới một điểm trong không gian ban đầu), một tập là compact nếu và chỉ nếu nó đóng và hoàn toàn bị chặn. Chứng minh. 1) Ta đã biết một tính chất là tập compact thì phải đóng. Bây giờ giả sử tập M compact nhưng không hoàn toàn bị chặn. Thế thì có một ε > 0 nào đó sao cho không thể nào phủ được M bằng một số hữu hạn hình cầu bán kính ε. Lấy một điểm bất kỳ x1 ∈ M . Hình cầu tâm x1 bán kính ε không phủ được M , cho nên có ít nhất một điểm x2 ∈ M với khoảng cách d(x1 , x2 ) ≥ ε. Hai hình cầu tâm x1 và x2 bán kính ε cũng không phủ được M , cho nên có ít nhất một điểm x3 ∈ M sao cho d(x1 , x3 ) ≥ ε và d(x2 , x3 ) ≥ ε. Tiếp tục cách đó ta sẽ được một dãy xn ∈ M với d(xn , xm ) ≥ ε (n 6= m; n, m = 1, 2, . . .). Rõ ràng bất cứ dãy con nào của (xn ) cũng không thể là dãy cơ bản, do đó không thể hội tụ. Như vậy mâu thuẫn với giả thiết M compact. Vậy M phải đóng và hoàn toàn bị chặn. 2) Ngược lại, giả sử tập M đóng và hoàn toàn bị chặn trong một không gian đầy đủ X và xét một dãy vô hạn bất kì σ = (xn ) ⊂ M . Vì tập M có thể phủ được bằng một số hữu hạn hình cầu bán kính 1, nên một trong các hình cầu này, chẳng hạn S1 , phải chứa vô số phần tử của dãy σ . Gọi dãy con của dãy σ chứa trong S1 là σ1 . Tập hợp M cũng có thể phủ được bằng một số hữu hạn hình cầu bán kính 1/2, nên một trong các hình cầu này, giả sử S2 , phải chứa vô số phần tử của σ1 . Gọi dãy con của σ1 chứa trong S2 là σ2 . Tiếp tục theo cách đó ta sẽ có các dãy σ1 , σ2 , σ3 , . . . với
6 σ ⊃ σ1 ⊃ σ2 ⊃ ... và σk ⊂ Sk (k = 1, 2, . . .), trong đó Sk là hình cầu bán kính 1/k . Vì mỗi dãy σk có vô số phần tử nên có thể chọn trong σ1 một phần tử xn1 , rồi trong σ2 một phần tử xn2 với n2 > n1 , trong σ3 một phần tử xn3 với n3 > n2 và cứ thế tiếp tục quá trình. Dãy (xnk ) là một dãy con của σ = (xn ), và có thể thấy rằng đó là một dãy hội tụ trong X . Thật vậy với k < l thì σl ⊂ σk ⊂ Sk nên xnl , xnk cùng thuộc hình cầu Sk do đó d(xnl , xnk ) < 2/k → 0 khi k, l → ∞, chứng tỏ rằng (xn ) là một dãy cơ bản, tức hội tụ vì theo giả thiết X là không gian đủ. Tóm lại mọi dãy (xn ) ⊂ M đều chứa một dãy con hội tụ. Vì M là tập đóng nên giới hạn của dãy con này thuộc M . Vậy M là tập compact. Định lý 1.0.6. Cho X , Y là các không gian định chuẩn. T là toán tử tuyến tính đi từ X vào Y . Khi đó, T là compact nếu và chỉ nếu mọi dãy (xn ) bị chặn trong X đều chứa một dãy con (xnk ) sao cho dãy (T xnk ) hội tụ trong Y . Chứng minh. (i) Giả sử (xn )n∈N ⊂ X bị chặn. Để T compact thì dãy (T xn )n∈N phải com- pact tương đối trong Y . Theo giả thiết, (xn )n∈N chứa dãy con (xnk ) sao cho (T xnk ) ⊂ (T xn )n∈N và (T xnk ) hội tụ trong Y . Sử dụng định nghĩa về compact tương đối, ta suy ra T là toán tử compact. (ii) Giả sử T compact. Lấy (xn )n∈N bị chặn trong X , suy ra dãy (T xn )n∈N compact tương đối trong Y . Do đó từ dãy (xn )n∈N , ta sẽ trích ra được một dãy con (xnk ) mà (T xnk ) ⊂ (T xn )n∈N và (T xnk ) hội tụ trong Y . Sau đây chúng tôi sẽ đưa ra một tiêu chuẩn để chứng minh một tập là com- pact. Chúng tôi phát biểu lại Định lý Arzelà-Ascoli ở dạng đơn giản như sau: Cho D là tập con compact trong Rn . Xét (C 0 (D), k.k∞ ). Giả sử dãy hàm {fn }n∈N ⊂ C 0 (D) thỏa mãn hai tính chất: (i) Bị chặn điểm trên D, tức với ∀x ∈ D, tập {fn (x)}n∈N là bị chặn;
7 (ii) Đồng liên tục đều, tức ∀ > 0, ∀x ∈ D, ∃δ = δ(x, ) > 0 sao cho với ∀n ∈ N, ∀y ∈ B(x, δ) ∩ D ta luôn có |fn (y) − fn (x)| ≤ . Khi ấy tồn tại dãy con {fϕ(n) }n∈N (trong đó ϕ : N → N là hàm tăng) và hàm k.k∞ f ∈ C 0 (D) sao cho fϕ(n) −→ f khi n → ∞. Các bước chứng minh: • Bước 1. Chỉ ra thực chất dãy hàm {fn }n∈N là đồng liên tục đều. • Bước 2. Lấy A = D ∩ Qn là tập con trù mật đếm được của D. Sử dụng kỹ thuật "diagonal extraction" để chỉ ra có một dãy ϕ(n) chung cho mọi n→∞ x ∈ A mà fϕ(n) (x) −→ f (x), ở đây f (x) là kết quả giới hạn dãy. Diagonal extraction: Giả sử có họ đếm được các dãy {um }m∈N , trong đó dãy um = {um m n }n∈N , thỏa mãn tính chất ∀m ∈ N dãy u có một dãy con hội tụ đến điểm mà ta ký hiệu là um ∞ . Khi ấy có thể chọn dãy chỉ số chung cho tất cả các dãy con mà vẫn đảm bảo kết quả hội tụ cho mỗi dãy, tức tồn n→∞ tại hàm ϕ : N → N tăng sao cho um m ϕ(n) −→ u∞ đúng với mọi m ∈ N. n→∞ • Bước 3. Mở rộng từ A lên D để có fϕ(n) (x) −→ f (x) với mọi x ∈ D, ở đây f (x) là kết quả giới hạn dãy. Tức dãy {fϕ(n) }n∈N là hội tụ điểm trên D. • Bước 4. Chỉ ra f là liên tục đều và dãy {fϕ(n) }n∈N là hội tụ đều về f trên D. Định lý 1.0.7. [1], [2] Định lý Riesz trong không gian Hilbert: Mọi phiếm hàm tuyến tính liên tục f ánh xạ một không gian Hilbert X vào trường K (K = R hoặc C) đều biểu diễn được một cách duy nhất dưới dạng f (x) = hx, ai, với mọi x ∈ X và a là phần tử thuộc X thỏa mãn kf k = kak. Bây giờ, chúng tôi đề cập thêm về hệ trực chuẩn và bất đẳng thức Bessel.
8 Gọi (en )n∈N là một hệ trực chuẩn của không gian Hilbert X ( nghĩa là nó là một hệ trực giao và được chuẩn hóa ken k = 1 với mọi n ∈ N ). Khi đó, với mọi x ∈ X , ta có bất đẳng thức Bessel như sau ∞ X |hx, en i|2 ≤ kxk2 = hx, xi. n=1 Hệ (en )n∈N này sẽ được gọi là hệ trực chuẩn đầy đủ khi chỉ có vectơ 0 mới trực giao với tất cả các phần tử của hệ. Khi ấy, với mọi x ∈ X , ta có các đẳng thức ∞ ∞ X X 2 x= hx, en ien và kxk = |hx, en i|2 . n=1 n=1 Đẳng thức cuối được gọi là đẳng thức Parseval. Tiếp theo, chúng tôi muốn nhắc lại tính chất sau Bổ đề 1.0.8. [1] Cho (en )n∈N là một hệ trực chuẩn của không gian Hilbert X . X∞ Khi đó với mọi x ∈ X và n ∈ N, chuỗi hx, ei iei hội tụ và i=1   ∞ X x − hx, ei iei  ⊥ en . i=1 Chứng minh. Trước tiên chúng tôi chứng minh một tính chất của không gian ∞ X Hilbert: Chuỗi ai , trong đó {ai }∞ i=1 ⊂ X là hệ trực giao, hội tụ khi và chỉ i=1 ∞ X n X n X 2 khi chuỗi kai k hội tụ. Thật vậy lấy sn = ai và σn = kai k2 . Với i=1 i=1 i=1 n > m, theo Định lý Pythagore ta có ksn − sm k2 = kam+1 + . . . + an k2 = kam+1 k2 + . . . + kan k2 = σn − σm . Do đó ksn − sm k → 0 khi và chỉ khi σn − σm → 0. Nhưng do X là không gian Hilbert tức là không gian đầy đủ nên điều này có nghĩa là sn có giới hạn
9 ∞ X khi và chỉ khi σn có giới hạn. Do đó chuỗi ai hội tụ nếu và chỉ nếu chuỗi i=1 ∞ X kai k2 < ∞. i=1 Bây giờ, theo bất đẳng thức Bessel ta có ∞ X ∞ X 2 khx, ei iei k = |hx, ei i|2 ≤ kxk2 < ∞, i=1 i=1 ∞ X cho nên theo tính chất ta vừa chứng minh phía trên, chuỗi hx, ei iei sẽ hội tụ. i=1 Mặt khác, với mọi n > m ta có n X n X hx − hx, ei iei , em i = hx, em i − hx, ei ihei , em i i=1 i=1 = hx, em i − hx, em i = 0. ∞ X Cho n → ∞ ta sẽ được hx − hx, ei iei , em i = 0 với mọi m, nghĩa là   i=1 X∞ x − hx, ei iei  ⊥ en với mọi n. i=1 Trong phần nhắc lại kiến thức cơ sở này, chúng tôi cũng muốn đưa ra một bổ đề sau Bổ đề 1.0.9. Cho X là một không gian Hilbert. Khi đó, mỗi tập con lồi đóng trong X luôn tồn tại duy nhất một phần tử có chuẩn nhỏ nhất. Chứng minh. Gọi E là tập con lồi đóng trong X . Đặt λ = inf{kxk : x ∈ E}. Do kxk ≥ 0 nên λ ≥ 0 > −∞. Do đó λ tồn tại. Với bất kỳ x, y ∈ E , áp dụng đẳng thức hình bình hành cho x 2 và y2 , ta có 1 1 1 x+y 2 kx − yk2 = kxk2 + kyk2 − k k. 4 2 2 2
10 1 Từ E là lồi ta suy ra (x + y) phải thuộc E . Theo định nghĩa của λ ở trên, ta có 2 kx − yk2 ≤ 2kxk2 + 2kyk2 − 4λ2 . (∗) Từ đây, nếu kxk = kyk = λ thì kx − yk2 ≤ 0, suy ra x = y . Như vậy ta chứng minh được tính duy nhất của phần tử có chuẩn nhỏ nhất. Tiếp theo, ta đi chứng minh tính tồn tại phần tử chuẩn nhỏ nhất. Từ định nghĩa của λ suy ra tồn tại một dãy (yn ) trong E thỏa mãn kyn k → λ khi n → ∞. Ta thay thế x, y lần lượt bởi yn , ym trong (∗), ta thu được kyn − ym k2 ≤ 2kyn k2 + 2kym k2 − 4λ2 , với mọi m, n. Cho m, n tiến tới vô cùng thì vế trái của bất đẳng thức trên sẽ tiến tới 0. Suy ra (yn ) là dãy Cauchy. Vì X là không gian Hilbert, tức không gian đầy đủ nên suy ra tồn tại x0 ∈ X sao cho yn → x0 khi n → ∞. Từ (yn ) nằm trong E là một tập đóng nên x0 ∈ E . Từ tính liên tục của hàm chuẩn, ta thu được kx0 k = lim kyn k = λ. n→∞ Vì vậy E tồn tại duy nhất phần tử có chuẩn nhỏ nhất. Ta có điều phải chứng minh.
CHƯƠNG 2 Phương pháp bình phương tối thiểu Trong chương này, chúng tôi sẽ trình bày một số tính chất về nghiệm bình phương tối thiểu, nghịch đảo suy rộng và chứng minh tiêu chuẩn Picard trên các không gian Hilbert vô hạn chiều. Để thuận lợi cho việc theo dõi, trước hết chúng tôi sẽ đi vào một số dẫn dắt đầu tiên trước khi vào vấn đề chính [3], [4], [5]. Ta cần đi tìm nghiệm của phương trình Ax = b. Với A là ma trận cỡ m × n, m > n và x, b theo thứ tự là các vectơ cột với n và m phần tử. Để giải phương trình này, ta tìm x sao cho kAx − bk2 đạt cực tiểu. Ta kí hiệu [Ax]i là phần tử thứ i của vectơ Ax và bi là phần tử thứ i của vectơ b. Khi đó, ta có phân tích của đại lượng kAx − bk2 như sau kAx − bk2 = ([Ax]1 − b1 )2 + . . . + ([Ax]m − bm )2 . (∗) Chính vì xuất phát từ lý do cần đi làm tối thiểu bình phương của chuẩn Ơclit kAx − bk2 cho nên ta mới có tên gọi "phương pháp bình phương tối thiểu". Ta biết: kvk2 = v T v , trong đó v T là ma trận chuyển vị của v . Do đó biểu 11
12 thức (∗) ở trên có thể được viết lại như sau kAx − bk2 = (Ax − b)T (Ax − b) = (Ax)T (Ax) − bT (Ax) − (Ax)T b + bT b = (Ax)T (Ax) − 2(Ax)T b + bT b (vì bT Ax = (Ax)T b). Do đó để kAx − bk2 đạt cực tiểu thì giá trị cực tiểu đó có thể đạt được tại không điểm của đạo hàm theo biến x của kAx − bk2 . Đạo hàm biểu thức trên theo biến x ta suy ra được rằng nghiệm tối thiểu x ở đây sẽ là nghiệm của phương trình sau AT Ax = AT b. Điều này tương đương với một hệ phương trình tuyến tính. Trong đó, ma trận AT A ở vế trái là một ma trận vuông, khả nghịch nếu như rankA = n, và ta gọi A có hạng đầy đủ theo cột. Trong trường hợp này, hệ phương trình tuyến tính có nghiệm duy nhất và được xác định như sau x = (AT A)−1 AT b. Ở đây, ma trận (AT A)−1 AT được gọi là ma trận giả nghịch đảo của ma trận A và trong phần trình bày phía sau ta sẽ kí hiệu là A+ . Thông thường, ta không có nghịch đảo của A (A−1 ) do A sẽ thường được giả thiết là ma trận không vuông, hoặc A suy biến. Bây giờ, chúng tôi sẽ giới thiệu, chứng minh một số tính chất, định lý quan trọng của phương pháp bình phương tối thiểu. 2.1 Nghiệm bình phương tối thiểu của phương trình toán tử và một số tính chất Trước hết, ta nhắc lại định lý phép chiếu trực giao trong không gian Hilbert: Cho X là một không gian Hilbert. Lấy M là không gian con đóng của X . Khi
13 đó, tồn tại duy nhất một phép chiếu trực giao P đi từ X vào M sao cho ky − P yk ≤ ky − uk với mọi y ∈ X và mọi u ∈ M . Trong phần này, ta giả sử X và Y là các không gian Hilbert và A thuộc B(X, Y ) là không gian các toán tử tuyến tính liên tục từ X vào Y . Xét phương trình tuyến tính Ax = y, trong đó y ∈ Y được cho trước. Nếu phương trình này không có nghiệm (theo nghĩa thông thường), ta sẽ cố gắng đi tìm một vectơ x trong X để cho kAx − yk là nhỏ nhất, nghĩa là kAx − yk ≤ kAu − yk, với mọi u ∈ X . Vectơ x ở đây cũng chính là loại nghiệm mà ta sẽ đi nghiên cứu trong phần này. Bây giờ, ta gọi Q là phép chiếu của Y lên R(A) ( ở đây R(A) là bao đóng của tập ảnh của A). Từ định lý phép chiếu trực giao ở trên ta suy ra kQy − yk ≤ kz − yk, với y ∈ Y , Qy ∈ R(A) và với mọi z ∈ R(A). Cũng từ hệ quả của định lý phép chiếu trực giao trong không gian Hilbert, với mọi y ∈ Y , ta có: y − Qy ∈ ⊥ ⊥ R(A) . Ở đây, chúng ta để ý rằng R(A) = R(A)⊥ . Thật vậy, hiển nhiên có ⊥ R(A) ⊂ R(A) suy ra R(A) ⊂ R(A)⊥ . Ngược lại, lấy x ∈ R(A)⊥ , ta cần ⊥ chứng minh x ∈ R(A) . Rõ ràng, nếu lấy y ∈ R(A) thì theo định nghĩa bao đóng của một tập hợp, tồn tại dãy (yn ) trong R(A) mà yn → y khi n → ∞.Vì (yn ) ⊂ R(A) suy ra hx, yn i = 0. Cho n → ∞ ta có được hx, yi = 0. Do đó ⊥ ⊥ x ∈ R(A) . Vì vậy R(A) = R(A)⊥ . Định lý 2.1.1. [3] Cho y ∈ Y cho trước. Với x ∈ X , ba điều kiện sau tương đương
14 (i) Ax = Qy. (ii) kAx − yk ≤ kAu − yk với mọi u ∈ X. (iii) A∗ Ax = A∗ y với A∗ là toán tử liên hợp của A, nghĩa là hAx, yi = hx, A∗ yi. Chứng minh. ⊥ ⊥ (i) ⇒(ii) : Từ y − Qy ∈ R(A) suy ra Qy − y ∈ R(A) = R(Q)⊥ . Do Au − Qy ⊥ Qy − y và do Ax = Qy , ta có kAu − yk2 =kAu − Qyk2 + kQy − yk2 =kAu − Qyk2 + kAx − yk2 ≥ kAx − yk2 . (ii) ⇒(iii) : Do Qy ∈ R(A), tồn tại một dãy (xn ) ⊂ X sao cho Qy = lim Axn . Do đó n→∞ kQy − yk2 = lim kAxn − yk2 ≥ kAx − yk2 . n→∞ Mặt khác, theo Định lý Pythagore kAx − yk2 = kAx − Qyk2 + kQy − yk2 . ⊥ Suy ra kAx−Qyk2 = 0 hay Ax = Qy. Từ đó Ax−y = Qy−y ∈ R(A) . ⊥ Mặt khác dễ thấy R(A) = N (A∗ ), với N (A∗ ) là hạch của A∗ . Thật vậy, lấy y ∈ N (A∗ ) thì điều này tương đương với A∗ y = 0 hay hx, A∗ yi = 0 với mọi x ∈ X . Từ đó hAx, yi = 0 với mọi x ∈ X , nghĩa là y ∈ R(A)⊥ = ⊥ R(A) . Do đó Ax − y ∈ N (A∗ ), tức là A∗ Ax = A∗ y . (iii) ⇒(i) : Ta có: Ax − y ∈ N (A∗ ), vì A∗ Ax = A∗ y . Suy ra ⊥ Ax − y ∈ R(A) = R(Q)⊥ .