Luận văn Thạc sĩ Khoa học: Một số phương pháp hiệu chỉnh giải hệ phương trình toán tử

Chia sẻ: Na Na | Ngày: | Loại File: PDF | Số trang:57

Thêm vào BST

Báo xấu

95
lượt xem 5
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Luận văn này sẽ trình bày ba phương pháp giải hệ phương trình toán tử đặt không chỉnh: Phương pháp cực tiểu phiếm hàm ổn định với hạn chế độ lệch trong mức sai số cho phép; phương pháp cực tiểu phiếm hàm làm trơn Tikhonov và phương pháp Gauss - Newton hiệu chỉnh song song.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn Thạc sĩ Khoa học: Một số phương pháp hiệu chỉnh giải hệ phương trình toán tử

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ĐẶNG VĂN HIẾU MỘT SỐ PHƯƠNG PHÁP HIỆU CHỈNH GIẢI HỆ PHƯƠNG TRÌNH TOÁN TỬ LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - 2011
ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ĐẶNG VĂN HIẾU MỘT SỐ PHƯƠNG PHÁP HIỆU CHỈNH GIẢI HỆ PHƯƠNG TRÌNH TOÁN TỬ Chuyên ngành: Toán học tính toán Mã số: 604630 LUẬN VĂN THẠC SĨ KHOA HỌC Người hướng dẫn khoa học: GS.TSKH Phạm Kỳ Anh Hà Nội - 2011
LỜI CẢM ƠN Để hoàn thành bản luận văn này tôi đã nhận được sự giúp đỡ to lớn của các Thầy, Cô giáo, gia đình và bạn bè xung quanh. Tôi xin bày tỏ lòng kính trọng và biết ơn sâu sắc tới thầy giáo hướng dẫn GS.TSKH Phạm Kỳ Anh, Khoa Toán - Cơ - Tin học, Trường đại học khoa học tự nhiên, ĐHQG Hà Nội. Trong quá trình giảng dạy cũng như hướng dẫn, thầy đã ân cần, động viên, giúp đỡ chỉ bảo tận tình cho tôi. Tôi cũng gửi lời cảm ơn tới các Thầy, Cô trong Khoa Toán - Cơ - Tin học, Phòng sau đại học, Trường Đại học khoa học tự nhiên, ĐHQG Hà Nội đã dạy dỗ, giúp đỡ tôi trong suốt quá trình học tập, đặc biệt là các Thầy, Cô trong Seminar của Bộ môn Toán học tính toán đã có những ý kiến đóng góp quý báu giúp cho bản luận văn hoàn chỉnh hơn. Ngoài ra tôi cũng xin gửi lời cảm ơn tới các bạn đồng nghiệp đã giúp đỡ, động viên tôi trong quá trình thực hiện luận văn này. Cuối cùng, tôi xin gửi lời cảm ơn tới gia đình đã sinh thành, nuôi dưỡng và động viên tôi rất nhiều trong thời gian qua. Dù đã cố gắng hết sức nhưng luận văn không thể tránh khỏi những thiếu sót. Mọi ý kiến đóng góp tôi xin được đón nhận với lòng biết ơn chân thành. Hà Nội, ngày 23 tháng 11 năm 2011 Học Viên Đặng Văn Hiếu 1
Mục lục Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 Bảng kí hiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 1 Hiệu chỉnh đa tham số - sự hội tụ và tốc độ hội tụ 7 1.1 Đặt bài toán . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2 Các kết quả về tính ổn định . . . . . . . . . . . . . . . . . . 8 1.3 Tốc độ hội tụ . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4 Hiệu chỉnh đa tham số trong không gian Hilbert . . . . . . . 16 1.5 Mối liên hệ giữa phương pháp nhân tử Lagrange và phương pháp hiệu chỉnh đa t 2 Phương pháp hiệu chỉnh đa tham số Tikhonov 22 2.1 Nhắc lại bài toán . . . . . . . . . . . . . . . . . . . . . . . 22 2.2 Một số kết quả . . . . . . . . . . . . . . . . . . . . . . . . . 23 2.3 Ví dụ minh họa . . . . . . . . . . . . . . . . . . . . . . . . 34 3 Phương pháp chỉnh lặp song song dạng Gauss - Newton 37 3.1 Giới thiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 3.2 Sự hội tụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 3.3 Ví dụ minh họa . . . . . . . . . . . . . . . . . . . . . . . . 46 Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53 Tài liệu tham khảo 54 2
BẢNG KÍ HIỆU ∆u Toán tử Laplace của u L2 (Ω) Không gian các hàm bình phương khả tích trên Ω H k (Ω) Không gian Sobolev D(F) Miền xác định của toán tử F ∂Ω Biên của Ω J(x) Phiếm hàm ổn định Mδ Tập các phần tử chấp nhận được D(b x, x) Khoảng cách Bregman giữa xb và x Br (x† ) Hình cầu mở tâm x† bán kính r k.k2 Chuẩn Euclid < ., . > Tích vô hướng trong không gian X < ., . >X ∗ ,X Tích đỗi ngẫu trong X Y j∗ Không gian liên hợp của không gian Y j F∗ Toán tử liên hợp của toán tử F L(X,Y ) Không gian các ánh xạ tuyến tính từ X vào Y L(x, λ ) Hàm Lagrange ′ F (x) Đạo hàm Fréchet của toán tử F tại x Tα (x) Phiếm hàm làm trơn Tikhonov IRGNM Phương pháp lặp Gauss-Newton PIRGNM Phương pháp lặp song song dạng Gauss-Newton 3
MỞ ĐẦU Nhiều bài toán khoa học kĩ thuật dẫn đến việc giải phương trình F(x) = y, trong đó F : X → Y là toán tử (tuyến tính hoặc phi tuyến), X,Y là các không gian Banach. Bài toán trên được gọi là đặt chỉnh, nếu 1. Phương trình luôn có nghiệm duy nhất với mọi y ∈ Y . 2. Nghiệm phụ thuộc liên tục vào các dữ liệu F, y. Khi đó ta có nhiều phương pháp giải bài toán trên. Tuy nhiên trong thực tế không phải lúc nào bài toán cũng đặt chỉnh, tức là 1. Tồn lại y ∈ Y để phương trình vô nghiệm hoặc có nhiều hơn một nghiệm. 2. Nghiệm không phụ thuộc liên tục vào các dữ liệu F, y. Các bài toán đặt không chỉnh rất khó giải do có sai số của dữ liệu và phải tính toán gần đúng trên máy tính. Khi đó ta cần có chiến lược hiệu chỉnh để giải bài toán trên. Nói nôm na, ta sẽ thay bài toán đặt không chỉnh bằng một họ các bài toán đặt chỉnh phụ thuộc tham số mà nghiệm của chúng hội tụ đến nghiệm của bài toán đặt không chỉnh khi tham số hiệu chỉnh dần tới không. Trong các bài toán nhận dạng đa tham số, ta phải xác định x, khi biết các dữ liệu gần đúng yδi của yi , tức là phải giải hệ phương trình (thông thường là đặt không chỉnh) Fi (x) = yδi , i = 1, ..., l. Nếu xem yδ như là một véc tơ yδ = (yδ1 , yδ2 , ..., yδl ), với yδi ∈ Yi , δ như là một véctơ nhiễu δ = (δ1 , δ2 , ..., δl )T ∈ Rl (mức nhiễu) thì hệ phương trình toán tử trên đưa về một phương trình toán tử trong không gian tích F(x) = yδ . 4
Trong nhiều trường hợp việc xét hệ phương trình thay cho một phương trình trong không gian tích với bộ tham số hiệu chỉnh cho kết quả khả quan. Sau đây là hai ví dụ đưa về hệ phương trình toán tử đặt không chỉnh. Ví dụ 1. (Bài toán khôi phục hệ số của phương trình từ ánh xạ Dirichlet - Neumann) Ứơc lượng hệ số q ≥ 0 từ phương trình vi phân riêng −∆u + qu = 0, x ∈ Ω ⊂ Rd , ∂u với điều kiện biên Neumann g = trên biên ∂ Ω của Ω. Giả sử biết trước p ∂v các giá trị Dirichlet của u trên biên ∂ Ω là f0, f1 , . . . , f p−1 và đo đạc được các ∂ ui giá trị Neumann gi = trên biên ∂ Ω tương ứng. Khi đó ta viết lại bài toán ∂v Fi (q) = gi , i = 0, ..., p − 1, trong đó Fi : D(Fi ) ⊂ L2 (Ω) → H −1/2 (∂ Ω) là toán tử phi tuyến ánh xạ q tới ∂ ui , ui ∈ H 1 (Ω) là nghiệm yếu của hệ ∂v  −∆u + qu = 0, x ∈ Ω ⊂ Rd i i ui = fi , x ∈ ∂ Ω. Bài toán ước lượng q ≥ 0 từ hệ trên là đặt không chỉnh (xem [5]). Ví dụ 2. (Bài toán ước lượng mômen phi tuyến). Bài toán ước lượng mômen phi tuyến là tìm hàm u ∈ L2 (Ω) trên miền bị chặn Ω ⊂ Rd thỏa mãn hệ phương trình tích phân phi tuyến Z gi = ki (x, u(x))dx ∈ Rm , i = 1, ..., p, Ω với các nhân trơn ki : Ω × R → Rm và các véctơ gi cho trước (i = 1, ..., p). Ta đưa về bài toán Fi (u) = gi , i = 1, ..., p, R trong đó Fi : L2 (Ω) → Rm là toán tử phi tuyến đưa u vào Ω ki (x, u(x))dx. Đây cũng là bài toán đặt không chỉnh (xem [5]). 5
Đã có nhiều phương pháp giải hệ phương trình toán tử đặt không chỉnh. Ngoài các phương pháp lặp xoay vòng như Landweber - Kaczmarz, Newton - Kaczmarz, đường dốc Kaczmarz, một nhóm các nhà khoa học tại Trường Đại học khoa học tự nhiên, ĐHQG Hà Nội đã đề xuất các phương pháp chỉnh lặp song song: Newton hiệu chỉnh song song, Gauss - Newton hiệu chỉnh song song, phương pháp chiếu điểm gần kề song song, phương pháp CQ - song song giải hệ phương trình toán tử. Đăc điểm của các phương pháp này là hai quá trình hiệu chỉnh và phân rã song song được thực hiện đồng thời và tương thích với nhau. Luận văn này sẽ trình bày ba phương pháp giải hệ phương trình toán tử đặt không chỉnh: Phương pháp cực tiểu phiếm hàm ổn định với hạn chế độ lệch trong mức sai số cho phép. Phương pháp cực tiểu phiếm hàm làm trơn Tikhonov và phương pháp Gauss - Newton hiệu chỉnh song song. Nội dung chính của bản luận văn bao gồm các vấn đề sau đây: 1. Thiết lập tính đặt chỉnh của bài toán tối ưu có ràng buộc liên kết với hệ phương trình toán tử đặt không chỉnh. 2. Đánh giá tốc độ hội tụ của phương pháp hiệu chỉnh đa tham số trong trường hợp tổng quát. 3. Thiết lập mối liên hệ giữa phương pháp nhân tử Lagrange và phương pháp hiệu chỉnh đa tham số. 4. Nghiên cứu phương pháp hiệu chỉnh đa tham số Tikhonov và đánh giá tốc độ hội tụ. 5. Trình bày phương pháp chỉnh lặp song song dạng Gauss - Newton. Các vấn đề 1 − 3 được trình bày trong bài báo của Torsten Hein [2]. Phần 5 được nghiên cứu trong công trình của Phạm Kỳ Anh và Vũ Tiến Dũng [1]. Phần 4 là các kết quả do học viên phát triển dựa theo tài liệu của Torsten Hein [2], Nguyễn Bường và Nguyễn Đình Dũng [3]. 6
Chương 1 Hiệu chỉnh đa tham số - sự hội tụ và tốc độ hội tụ Trong chương này, chúng tôi đề cập tới phương pháp hiệu chỉnh đa tham số do Torsten đề xuất dựa trên việc cực tiểu phiếm hàm ổn định với điều kiện độ lệch của các phương trình nằm trong giới hạn sai số cho phép, bao gồm các bổ đề về tính ổn định và định lý về tốc độ hội tụ. Cuối chương, chúng tôi giới thiệu hai thuật toán giải bài toán tối ưu và mối liên hệ giữa phương pháp hiệu chỉnh đa tham số và phương pháp nhân tử Lagrange. Nội dung chính của chương được trình bày theo dựa theo tài liệu [2]. 1.1 Đặt bài toán Cho X,Y j , ( j = 1, ..., l) là các không gian Banach phản xạ. Để đơn giản, chuẩn trong các không gian X,Y j cùng được kí hiệu là k.k. Fj : D(Fj ) ⊂ X → Y j ( j = T 1, ..., l) nói chung là các toán tử phi tuyến. Đặt D = lj=1 D(Fj ), giả sử D 6= ∅. Nếu vế phải cho là chính xác ta có hệ sau Fj (x) = y j ( j = 1, ..., l), x ∈ D. (1.1.1) Tuy nhiên dữ liệu y j thường bị nhiễu bởi yδj : ||yδj − y j || ≤ δ j khi đó ta chỉ có phương trình Fj (x) = yδj ( j = 1, ..., l), x ∈ D. (1.1.2) 7
Trong ứng dụng thì bài toán (1.1.2) thường là bài toán đặt không chỉnh. Ngay cả khi các hệ (1.1.1) và (1.1.2) giải được duy nhất thì nghiệm của (1.1.2) cũng không chắc phụ thuộc liên tục vào dữ liệu. Nghĩa là nếu x† là nghiệm duy nhất của (1.1.1) và xδ là nghiệm duy nhất của (1.1.2) thì ||x† − xδ || có thể lớn tùy ý khi δ j ( j = 1, ..., l) đủ nhỏ. Chiến lược hiệu chỉnh. Xét phiếm hàm ổn định J : D ⊂ X → R mà tính chất của nó được liệt kê trong mục 1.2 và thay (1.1.2) bởi bài toán tối ưu có ràng buộc sau  J(x) → min x∈ D (1.1.3)  F (x) − yδ j j ≤ δ j , j = 1, ..., l. Trong lý thuyết hiệu chỉnh Tikhonov, ta thay (1.1.2) bằng bài toán cực tiểu phiếm hàm l 2 δ ∑ λ j Fj (x) − y j + J (x) → min, Yj x∈D (1.1.4) j=1 trong đó λ j > 0( j = 1, ..., l) là các tham số hiệu chỉnh. Khi dùng phương pháp Lagrange để giải bài toán (1.1.3) ta có thể xem các tham số λ j > 0( j = 1, ..., l) như các nhân tử Lagrange. Các hằng số α j = 1 , ( j = 1, ..., l) đóng vai trò các tham số hiệu chỉnh trong phương pháp hiệu λj chỉnh đa tham số. 1.2 Các kết quả về tính ổn định Ta sẽ chỉ ra tính đặt chỉnh của bài toán (1.1.3). Cụ thể ta sẽ thiết lập một số điều kiện để bài toán (1.1.3) có nghiệm duy nhất xδ phụ thuộc liên tục vào các dữ liệu yδj , j = 1, ..., l. Ta sẽ chỉ ra rằng cách tiếp cận bài toán (1.1.3) cũng gần giống như việc chứng minh sự tồn tại, tính ổn định và hội tụ của điểm cực tiểu xδα của phiếm hàm Tikhonov 2 δ F(x) − y + α J(x), (1.2.1) Y 8
ở đây J(x) = ||x − x∗ | |2 hoặc J(x) = ||D(x − x∗ )| |2 , trong đó D là toán tử tuyến tính đóng. Sau đây là một số giả thiết đối với toán tử Fj , ( j = 1, ..., l) và phiếm hàm ổn định J(x): A1. Với dữ liệu chính xác thì hệ (1.1.1) có nghiệm x† , tức là Fj (x† ) = y j , ( j = 1, ..., l). A2. Fj , ( j = 1, ..., l) là các toán tử liên tục và đóng yếu (xn ∈ D(Fj ), xn ⇀ x, Fj (xn ) ⇀ y j thì x ∈ D(Fj ) và Fj (x) = y j ). A3. Phiếm hàm J : D ⊂ X → R không âm và nửa liên tục dưới yếu (xn ⇀ x thì J(x) ≤ lim (inf J(xn ))). n→∞ A4. Tập ( ) l A(C) := x ∈ X : J(x) + ∑ Fj (x) ≤ C j=1 bị chặn trong X với mọi C ≥ 0. A5. Nếu xn ⇀ x và J(xn ) → J(x) thì xn → x. Nhận xét. Giả thiết A1 là một giả thiết tự nhiên đối với bài toán nhận dạng, tức là nếu có quan sát chính xác y j , ( j = 1, ..., l) thì ta có thể giả thiết có bộ "tham số" x† ∈ D thỏa mãn hệ (1.1.1). Nhưng điều này có thể không còn đúng khi dữ liệu bị nhiễu yδj , ( j = 1, ..., l). Tức là nghiệm của (1.1.2) có thể không tồn tại. Kí hiệu Mδ = x ∈ X : Fj (x) − yδj ≤ δ j , ( j = 1, ..., l) (1.2.2) Yj là tập các phần tử chấp nhận được. Vì x† ∈ Mδ , ∀δ ≥ 0 nên Mδ 6= Ø. Ngoài ra vì Fj liên tục nên Mδ là tập đóng. Bây giờ ta chứng minh sự tồn tại nghiệm xδ của (1.1.3). Bổ đề 1.2.1. Với các điều kiện (A1) − (A4) thì luôn tồn tại nghiệm xδ của (1.1.3). 9
Chứng minh. Giả sử {xn } ⊂ Mδ là dãy cực tiểu sao cho: J(xn+1 ) ≤ J(xn ) và lim J(xn ) = inf J(x). Ta có: J(xn ) ≤ J(x0 ), ∀n ≥ 0. n→∞ x∈D Từ (1.2.2) ta có Fj (xn ) ≤ y δ + δ ≤ y j + 2δ j , j = 1, ..., l. j j l Đặt C := J(x0 ) + ∑ y j + 2δ j . j=1 Suy ra xn ∈ A(C). Do đó {(xn , F1 (xn ) , ..., Fl (xn )}n là bị chặn trong không gian Banach phản xạ X ×Y1 × ... ×Yl . Suy ra, tồn tại dãy {xnk } sao cho xnk ⇀ x và Fj (xnk ) ⇀ ybj , (1 ≤ j ≤ l). Theo (A2) thì Fj (x) = ybj và ta có Fj (xnk ) − yδj ⇀ ybj − yδj = Fj (x) − yδj , Theo tính nửa liên tục dưới yếu của chuẩn,suy ra δ δ Fj (x) − y j ≤ lim inf F (xnk ) − y j ≤ δ j , (1 ≤ j ≤ l) , k→∞ chứng tỏ x ∈ Mδ . Theo (A3) và xnk ⇀ x suy ra J (x) ≤ lim inf J (xnk ). Từ đó x là nghiệm của k→∞ (1.1.3).⊠ (n) Bổ đề 1.2.2. Cho các điều kiện (A1)−(A4). Hơn nữa {y j } với y j − yδj ≤ (n) c j , c j → 0 (n → ∞) . Gọi {xδn } là dãy nghiệm của (1.1.3) ứng với yδj = y j (n) (n) (n) (n) và δ j + c j . Khi đó 1. Tồn tại dãy con {xδnk } ⇀ xδ là nghiệm của (1.1.3). 2. Nếu xδ là nghiệm duy nhất thì xδn ⇀ xδ . 10
Chứng minh 1. Với mỗi n ∈ N, đặt (n) (n) Mδ = {x ∈ X : Fj (x) − ynj ≤ δ j + 2c j , ( j = 1, ..., l)}, suy ra xδ ∈ Mδ ∀n và Mδ → Mδ , (Mδ ⊂ Mδ ). (n) (n) (n) Do đó J(xδn ) ≤ J(xδ ) ∀n. (∗) Như lập luận trong Bổ đề 1.2.1.,tồn tại dãy {xδnk } sao cho xδnk ⇀ x ∈ Mδ , suy ra J(xδ ) ≤ J(x) ≤ lim inf J(xδnk ) ≤ J(xδ ), (**) k→∞ Do đó J(x) = J(xδ ). Vậy x là nghiệm của (1.1.3). 2. Nếu bài toán (1.1.3) có nghiệm duy nhất xδ thì x = xδ , từ đó suy ra sự hội tụ yếu của dãy {xδn } về xδ . ⊠ Bổ đề 1.2.3. Giả sử có các giả thiết của Bổ đề 1.2.2. Nếu thêm điều kiện (A5) thì {xδn } hội tụ mạnh về xδ . Chứng minh. Hiển nhiên từ (*) và (**) cùng với xδn ⇀ xδ , suy ra lim J(xδn ) = n→∞ J(xδ ). Kết hợp với (A5) ta có ngay điều phải chứng minh.⊠ Cuối cùng chúng ta muốn chứng minh sự hội tụ của nghiệm của (1.1.3) tới nghiệm x† của (1.1.1) khi δ j → 0, (1 ≤ j ≤ l). Định nghĩa 1.2.1. x† được gọi là nghiệm J − min của (1.1.1) nếu J(x† ) = min{J(x) : Fj (x) = y j , 1 ≤ j ≤ l}. Từ Bổ đề 1.2.1. và 1.2.3. suy ra xδ hội tụ tới nghiệm J − min của hệ (1.1.1) khi δ → 0. Nếu thay δ j + c j bởi δ j và yδj bởi y j và lặp lại chứng minh của (n) Bổ đề 1.2.2., ta thu được kết quả sau. Bổ đề 1.2.4. Cho các điều kiện (A1) − (A4) và δ j → 0, tức là (yδj → y j , 1 ≤ j ≤ l). Nếu xδ là nghiệm của (1.1.3) thì tồn tại dãy con {b xδ } hội tụ yếu tới nghiệm J − min x† của (1.1.1). Hơn nữa, nếu nghiệm J − min x† là duy nhất thì xδ ⇀ x† . Nếu thêm điều kiện (A5) thì xδ → x† . 11
1.3 Tốc độ hội tụ Định nghĩa 1.3.1. Giả sử J là hàm lồi và khả vi Fréchet với J ′ (x) ∈ X ∗ , ∀x ∈ D. Khoảng cách Bregman giữa xb, x ∈ D là D(bx, x) xác định bởi x) − J(x)− < J ′ (x), xb− x >X ∗ ,X , x, x) := J(b D(b trong đó < ., . >X ∗ ,X là tích đối ngẫu trong X. Sau này, để đơn giản, ta sẽ bỏ các kí tự X ∗ , X trong tích đối ngẫu. Nhận xét. Từ tính lồi của hàm J(x) suy ra D(b x, x) ≥ 0. Nếu J(x) lồi chặt thì D(b x, x) > 0, ∀b x 6= x. Trước khi nghiên cứu tốc độ hội tụ của phương pháp hiệu chỉnh đa tham số ta xét thêm điều kiện sau A6. ∃γ : 0 ≤ γ < 1 và β = (β1 , β2, ..., βl )T ∈ Rl với β j ≥ 0, ( j = 1, ..., l) thỏa mãn
D E
l
′ † †
†
J (x ), x − x
≤ γ D(x, x ) + ∑ β j Fj (x) − Fj (x ) † (1.3.1) j=1 ∀x ∈ Br (x† ) ∩ D với Br (x† ) = x ∈ X : x − x† < r , r > 0 đủ lớn. Điều kiện A6 rất tổng quát và bao gồm các điều kiện nguồn, điều kiện nón pháp tuyến vv... Định lý 1.3.1. Giả sử có các giả thiết (A1) − (A6); δ := (δ1 , ..., δl )T , khi đó δ 2 D(x , x ) ≤ † β kδ k2, (1.3.2) 1−γ 2 trong đó k.k2 là chuẩn Euclid trong Rl . Chứng minh. Do x† ∈ Mδ ∀δ ≥ 0 nên J(xδ ) ≤ J(x† ). Ta có D E δ † δ † ′ † δ † D(x , x ) = J(x ) − J(x ) − J (x ), x − x , suy ra