ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC SƯ PHẠM

HOÀNG KHẮC LỢI

TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI

LUẠN VĂN THẠC SĨ TOÁN HỌC

CHUYÊN NGÀNH: GIẢI TÍCH

MÃ SỐ: 60.46.01.02

NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH. LÊ DŨNG MƯU

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn1

Thái Nguyên - Năm 2012

Mục lục

Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii

Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi

0.1. Lý do chọn đề tài . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi

0.2.2. Nhiệm vụ nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi

0.2.3. Phương pháp nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

vii

0.2.4. Bố cục luận văn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

vii

0.2. Mục đích và nhiệm vụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 0.2.1. Mục đích nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi vi

Chương 1. Tập lồi và hàm lồi trong không gian Hilbert thực . . . . . 1

1.1.2. Các đẳng thức và bất đẳng thức . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3

1.1. Không gian Hilbert thực . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1

1.2.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

6

1.2.3. Phép chiếu theo chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

8

1.2.4. Định lí tách tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

10

1.2. Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 6

1.3.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

13

1.3. Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 11

Chương 2. Dưới vi phân của hàm lồi và tính đơn điệu của nó . . . 16

i

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn2

2.1. Dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

ii

21 2.2. Đạo hàm theo hướng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

26

2.3.2. Toán tử đơn điệu cực đại . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

27

2.3.3. Tính đơn điệu của dưới vi phân hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . .

25 25 2.3. Tính đơn điệu của dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3.1. Toán tử đơn điệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Chương 3. Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của 30 dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

31

3.1.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

30 30 3.1. Hàm tựa lồi và hàm giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.2.2. Tính tựa đơn điệu và giả đơn điệu của đạo hàm của hàm tựa lồi và 35 hàm giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.2. Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm 34 giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 3.2.1. Toán tử tựa đơn điệu và giả đơn điệu . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn3

Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

Lời cảm ơn

Bản luận văn được hoàn thành tại trường Đại học sư phạm Đại học Thái Nguyên dưới sự hướng dẫn tận tình của GS.TSKH. Lê Dũng Mưu. Nhân dịp này tôi xin bày tỏ lòng biết ơn Thầy về sự hướng dẫn hiệu quả cùng những kinh nghiệm trong quá trình học tập, nghiên cứu và hoàn thành luận văn.

Xin chân thành cảm ơn Khoa Sau Đại Học, Ban chủ nhiệm Khoa Toán, các thầy cô giáo trường Đại học Sư Phạm - Đại học Thái Nguyên, Viện Toán Học và trường Đại học Sư Phạm Hà Nội đã giảng dạy và tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu khoa học.

Xin chân thành cảm ơn tập thể bạn bè, đồng nghiệp lớp Cao Học Toán K18B và BGH, đồng nghiệp Giáo Viên ở trường THPT Bạch Đằng - Quảng Ninh đã gúp đỡ tôi trong suốt thời gian học tập và nghiên cứu.

Bản luận văn chắc chắn sẽ không tránh khỏi những khiếm khuyết vì vậy rất mong được sự góp ý kiến của các thầy cô giáo và các bạn học viên để luận văn này được hoàn chỉnh hơn.

Cuối cùng xin cảm ơn gia đình và bạn bè đã động viên, khích lệ tôi

trong thời gian học tập, nghiên cứu và hoàn thành luận văn.

Thái Nguyên, Tháng 8 năm 2012

Tác Giả

iii

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn4

Hoàng Khắc Lợi

iv

Danh mục các kí hiệu viết tắt

H, Hi, K: Không gian Hilbert thực; 2H : Tập tất cả các tập con của H ; R : Tập số thực; N : Tập hợp số tự nhiên; (cid:104). | .(cid:105): Tích vô hướng; ||.|| : Chuẩn trên không gian Hilbert; [−∞, +∞]: Tập số thực mở rộng; R+ : = [0, +∞); R++ : = (0, +∞); in f : Cận dưới đúng;

min : Cực tiểu;

sup : Cận trên đúng;

max : Cực đại; α ↓ µ: α ∈ (µ, +∞) và α dần đến µ; C − D : Hiệu Minkowski của tập C và D;

span C : Không gian affine căng bởi C;

spanC : Không gian đóng affine căng bởi tập C;

convC : Bao lồi đóng của tập C;

C : Bao đóng của C; C⊥ : Phần bù trực giao của C; convC : Bao lồi của tập C;

coreC: Lõi của tập C;

int C : Phần trong của C;

bdryC : Biên của C;

coneC: Bao nón của tập C;

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn5

NC : Nón chuẩn tắc của C; PC : Phép chiếu lên tập C;

v

σC : Hàm tựa của tập C;

(−∞, +∞]; (cid:76)

i∈I fi : Tổng trực tiếp của một hàm;

dC : Hàm khoảng cách của tập C; B(x, (cid:101)) : Hình cầu đóng tâm x, bán kính (cid:101); ΓH : Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞]; Γ 0H : Tập các hàm lồi chính thường nửa liên tục dưới từ H vào

zerA: Tập các không điểm của toán tử A

epi f : Trên đồ thị của hàm f ;

gra f : Đồ thị của hàm f

dom f : Miền xác định của f ; f ∗ : Hàm liên hợp của f ; ∂ f (x) : Dưới vi phân của f tại x ; (cid:79) f (x) hoặc f (cid:48)(x) : Đạo hàm của f tại x ; f (cid:48)(x, y) : Đạo hàm theo hướng y của f tại x; Argmin f : Tập các cực tiểu toàn cục của hàm f ;

i∈I Hi : Tổng trực tiếp các không gian Hilbert;

×i∈IHi : Tích các không gian Hilbert; (x, y) : Khoảng trong R ; [x, y] : Đoạn trong R; (xi)i∈I : Họ các vectơ trong H.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn6

Id : Toán tử đồng nhất; cont f : Miền liên tục của hàm f ; l2(I) : Không gian Hilbert của tổng các hàm từ I vào R; B(H, K): Không gian các toán tử tuyến tính bị chặn từ H vào K; (cid:76)

Mở đầu

0.1. Lý do chọn đề tài

Giải tích lồi là bộ môn quan trọng trong giải tích phi tuyến tính hiện đại. Giải tích lồi nghiên cứu khía cạnh giải tích các khái niệm, tính chất cơ bản của tập lồi và hàm lồi. Tính đơn điệu của dưới vi phân hàm lồi là một trong những tính chất quan trọng của hàm lồi, nó đã được nhiều nhà toán học trong và ngoài nước quan tâm nghiên cứu và đã đạt được nhiều kết quả sâu sắc cùng với các ứng dụng quan trọng trong các lĩnh vực khác nhau. Việc nghiên cứu về tính đơn điệu của dưới vi phân hàm lồi và hoàn chỉnh hàm lồi vẫn là đề tài cần được quan tâm và nghiên cứu trong bộ môn giải tích lồi.

0.2. Mục đích và nhiệm vụ

0.2.1. Mục đích nghiên cứu

Mục đích chính của luận văn là nghiên cứu và trình bày một cách có hệ thống các kiến thức cơ bản và quan trọng nhất về dưới vi phân của hàm lồi và tính đơn điệu của nó.

0.2.2. Nhiệm vụ nghiên cứu

vi

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn7

Luận văn tập trung vào nhiệm vụ chính sau đây: 1) Nghiên cứu tập lồi và hàm lồi trong không gian Hilbert thực. 2) Đạo hàm theo hướng và dưới vi phân hàm lồi.

vii

3) Tính đơn điệu của dưới vi phân hàm lồi. 4) Hàm tựa lồi và hàm giả lồi. 5) Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả

lồi.

0.2.3.

Phương pháp nghiên cứu

- Sử dụng phương pháp của giải tích hàm kết hợp với phương pháp

của giải tích hiện đại.

- Sử dụng các phương pháp của lí thuyết tối ưu.

- Kế thừa phương pháp và kết quả của lý thuyết tôi ưu không trơn.

0.2.4. Bố cục luận văn

Nội dung luận văn gồm 47 trang, trong đó có phần mở đầu, ba

chương nội dung, phần kết luận và danh mục tài liệu tham khảo.

Chương 1 : Trình bày một số kiến thức cơ bản như : Không gian

Hilbert thực, tập lồi, hàm lồi.

Chương 2 : Dưới vi phân hàm lồi và tính đơn điệu của nó.

Nội dung của chương này là trình bày việc xây dụng đạo hàm theo hướng và dưới vi phân của hàm lồi, các toán tử đơn điệu và chỉ ra tính đơn điệu của dưới vi phân hàm lồi.

Chương 3 : Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của

dưới vi phân.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn8

Cuối cùng là phần kết luận trình bày tóm tắt các kết quả đạt được.

Chương 1

Tập lồi và hàm lồi trong không gian Hilbert thực

Nội dung kiến thức trong luận văn này được nghiên cứu trên không gian Hilbert thực, ta kí hiệu không gian này là H với tích vô hướng (cid:104). | .(cid:105) và || . || là chuẩn trên H tương ứng với tích vô hướng này, với khoảng cách d, tức là: Với mọi x, y ∈ H ta có ||x|| = (cid:112)(cid:104)x | x(cid:105) và d(x, y) = ||x − y||. Chương này nhằm giới thiệu những khái niệm cơ bản nhất, tính chất đặc trưng của tập lồi và hàm lồi trong không gian Hilbert thực. Các kiến thức ở trong chương này được trích từ cuốn sách ”Convex Analysis and Monotone Operator Theory in Hilbert Spaces” của tác giả HenizH. Bauschke và PatrickL. Combettes [2].

Hầu hết các hàm trong luận văn này là hàm f : H → R ∪ {+∞}.

1.1. Không gian Hilbert thực

1.1.1. Định nghĩa và ví dụ

Định nghĩa 1.1. Phần bù trực giao của tập C ⊆ H được kí hiệu là C⊥, tức là

1

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn9

C⊥ = {u ∈ H | ∀x ∈ C, (cid:104)x | u(cid:105) = 0} .

2

Một cơ sở của tập C ⊆ H được gọi là một cơ sở trực giao của H nếu spanC = H. Không gian H được gọi là tách được nếu nó có một cơ sở trực giao đếm được.

xi|| ≤ ε. Bây giờ giả sử (xi)i∈I là họ các vectơ trong H và giả sử I là lớp các tập con hữu hạn khác rỗng I định hướng bởi ⊂. Khi đó (xi)i∈I là khả tổng nếu tồn tại x ∈ H mà (∑i∈J xi)J∈I hội tụ đến x, tức là, ∀ε ∈ R++, ∃K ∈ I, ∀J ∈ I, J ⊃ K ⇒ ||x − ∑ j∈J

Trong trường hợp này ta viết x = ∑i∈I xi. Đối với (αi)i∈I trong [0, +∞], ta có

αi. αi = sup J∈I

∑ i∈I

∑ j∈J

Đây là trường hợp riêng trong không gian Hilbert thực và nó sẽ được sử dụng trong cuốn luận văn này.

(cid:77)

||xi||2

i < +∞}.

Hi = {x = (xi)i∈I ∈ ×i∈IHi | ∑ i∈I

i∈I

Ví dụ 1.1. Tổng trực tiếp của một họ các không gian Hilbert thực (Hi, || . ||i)i∈I là không gian Hilbert thực.

(x, y) (cid:55)→ (xi + yi)i∈I.

Được trang bị với phép cộng

(α, x) (cid:55)→ (αxi)i∈I.

Nhân

(cid:104)xi | yi(cid:105).

(x, y) (cid:55)→ ∑ i∈I

Tích vô hướng

Khi I là tập hữu hạn, ta chỉ dùng chung một kí hiệu ×i∈IHi để thay

i∈I Hi.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn10

thế cho (cid:76)

3 Bây giờ giả sử rằng ∀i ∈ I, fi : Hi → R ∪ {+∞} và I không là tập hữu hạn, infi∈I fi ≥ 0. Khi đó

(cid:77)

(cid:77)

Hi → (−∞, +∞] : (xi)i∈I (cid:55)→ ∑ i∈I

i∈I

i∈I

fi(xi). fi :

Ví dụ 1.2. Nếu mỗi Hi là R trong Ví dụ 1.1 thì ta thu được

R; l2(I) = (cid:77) i∈I

và mỗi giá trị trung bình với tích vô hướng

(x, y) = ((ξi)i∈I, (ηi)i∈I)i∈I (cid:55)→ ∑ i∈I

ξiηi.

Vectơ đơn vị (ei)i∈I của l2(I) được xác định bởi

∀i ∈ I, ei : I → R : j (cid:55)→

. (cid:26)1 nếu j = i 0 nếu j (cid:54)= i

1.1.2. Các đẳng thức và bất đẳng thức

|(cid:104)x | y(cid:105)| ≤ ||x|| ||y||.

Chú ý 1.1. (Bất đẳng thức Cauchy - Schwarz) Cho x, y ∈ H, khi đó

|(cid:104)x | y(cid:105)| = ||x|| ||y|| ⇔ ∃ α ∈ R+, x = αy

Hơn nữa

hoặc y = αx.

Bổ đề 1.1. Cho x, y, z ∈ H. Khi đó ta luôn có

(i) ||x + y||2 = ||x||2 + 2(cid:104)x | y(cid:105) + ||y||2.

(ii) Đẳng thức hình bình hành: ||x + y||2 + ||x − y||2 = 2||y||2.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn11

(iii) Đẳng thức phân cực: 4(cid:104)x | y(cid:105) = ||x + y||2 − ||x − y||2.

4

||x − y||2 = 2||z − x||2 + 2||z − y||2 − 4||z −

||2.

(iv) Đẳng thức Apllonius:

x + y 2

Chứng minh. (i) Hiển nhiên.

||x − y||2 = ||x||2 − 2(cid:104)x | y(cid:105) + ||y||2.

(1.1)

(ii) và (iii) được suy ra từ (i) và

Cộng theo vế (i) với đẳng thức (1.1) suy ra (ii) và trừ theo vế đẳng thức (i) với (1.1) suy ra (iii).

2 và z−y 2 .

(iv) Áp dụng (ii) với hai điểm z−x

Bổ đề 1.2. Cho x, y ∈ H. Khi đó ta có:

⇔ ∀α ∈ [0, 1], ||x|| ≤ ||x − αy||.

(i) (cid:104)x | y(cid:105) ≤ 0 ⇔ ∀α ∈ R+, ||x|| ≤ ||x − αy||

⇔ ∀α ∈ [−1, 1], ||x|| ≤ ||x − αy||.

(ii) x ⊥ y ⇔ ∀α ∈ R, ||x|| ≤ ||x − αy||

||x − αy||2 − ||x||2 = α(α||y||2 − 2(cid:104)x | y(cid:105))

(1.2)

Chứng minh. (i) Để ý rằng ∀α ∈ R,

Như vậy, chiều thuận được suy ra trực tiếp. Đảo lại nếu

α ∈ [0, 1], ||x|| ≤ ||x − αy||

(cid:104)x | y(cid:105) ≤

thì từ (1.2) suy ra

α||y||2 2

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn12

Khi α (cid:38) 0, ta có (cid:104)x | y(cid:105) ≤ 0.

5

(ii) Đây là một hệ quả của (i), từ đó

x⊥y ⇔ [(cid:104)x | − y(cid:105) ≤ 0 và (cid:104)x | − y(cid:105) ≤ 0].

αi = 1. Khi đó: Bổ đề 1.3. Cho (xi)i∈I và (ui)i∈I là họ các (cid:104)x | y(cid:105) tập hữu hạn trong H và cho (αi)i∈I là một dãy trên R mà ∑ i∈I

= ∑i∈I αi(cid:104)xi | ui(cid:105).

(cid:104)xi−xj | ui−uj(cid:105) 2

(i) (cid:104)∑i∈I αixi | ∑j∈I αjuj(cid:105) + ∑i∈I ∑j∈I αiαj

= ∑i∈I αi||xi||2.

||xi−xj||2 2

(ii) || ∑i∈I αixi||2 + ∑i∈I ∑j∈I αiαj

Chứng minh. (i) Ta có

αiαj((cid:104)xi | ui(cid:105) + (cid:104)xj | uj(cid:105)) 2(cid:104)∑ i∈I αixi | ∑ j∈I

αiαj((cid:104)xi | ui(cid:105) + (cid:104)xj | uj(cid:105) − (cid:104)xi − xj | ui − uj(cid:105))

αiαj((cid:104)xi | ui(cid:105) + (cid:104)xj | uj(cid:105)). αjuj(cid:105) = ∑ ∑ i∈I j∈I = ∑ ∑ j∈I i∈I αi(cid:104)xi | ui(cid:105) − ∑ = 2 ∑ i∈I i∈I

∑ j∈I

(ii) Được suy ra từ (i) khi (ui)i∈I = (xi)i∈I.

||αx + (1 − α)y||2 + α(1 − α)||x − y||2 = α||x||2 + (1 − α)||y||2.

Hệ quả 1.1. Cho x, y ∈ H và α ∈ R, khi đó

∀x ∈ H, f (x) = (cid:104)x | u(cid:105).

Chú ý 1.2. (Biểu diễn Riesz - Frechet). Cho f ∈ B(H, R), khi đó tồn tại duy nhất một vectơ u ∈ H mà

Hơn nữa || f || = ||u||.

Nếu K là một không gian Hilbert và T ∈ B(H, K), liên hợp của T

∀x ∈ H, ∀y ∈ K, (cid:104)Tx | y(cid:105) = (cid:104)x | T∗y(cid:105).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn13

là toán tử duy nhất T∗ ∈ B(K, H) thỏa mãn

6

1.2. Tập lồi

1.2.1. Định nghĩa và ví dụ

∀α ∈ (0, 1), αC + (1 − α)C = C;

Định nghĩa 1.2. Một tập C ⊆ H được gọi là một tập lồi nếu

∀x ∈ C, ∀y ∈ C, (x, y) ∈ C.

hay tương đương

Trường hợp đặc biệt H và ∅ là tập lồi.

Ví dụ 1.3. Trong mỗi trường hợp sau đây C là tập lồi trong H

(i) C là hình cầu.

(ii) C là một không gian con affine.

(iii) C là một nửa không gian.

i∈I Ci với (Ci)i∈I là họ các tập con lồi của H.

(iv) C = (cid:84)

Tính chất giao ở (iv) được khẳng định bằng định nghĩa sau.

Định nghĩa 1.3. Cho C ⊆ H, bao lồi của C là giao của tất cả các tập con lồi của H có chứa C, tức là nó là tập con lồi nhỏ nhất của H có chứa C. Nó được kí hiệu là convC. Bao lồi đóng của C là tập con lồi đóng nhỏ nhất của H chứa C, nó được kí hiệu là convC.

1.2.2. Một số tính chất quan trọng

Mệnh đề 1.1. Cho C ⊆ H và D là tập tất cả các tổ hợp lồi của các điểm trong C, tức là (cid:40) (cid:41)

D = . αi = 1 αixi | I hữu hạn, {xi}i∈I ⊂ C, {αi}i∈I ⊂ (0, 1], ∑

∑ i∈I

i∈I

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn14

Khi đó D = convC.

7

Mệnh đề 1.2. Cho K là không gian Hilbert thực, giả sử T : H → K là một toán tử affine và cho C, D là các tập lồi trong H, K tương ứng. Khi đó T(C) và T−1(D) là các tập lồi trong K và H tương ứng.

∀x ∈ H, ∀y ∈ H, T((x, y)) = (Tx, Ty).

Chứng minh. Ta có

(x, y) ⊂ T−1(T(x, y)) ⊂ T−1(D).

Bây giờ lấy hai điểm trong T(C)là Tx và Ty, ∀x ∈ C và ∀y ∈ C. Do tính lồi (x, y) ⊂ C và do (Tx, Ty) = T((x, y)) ⊂ C. Suy ra T(C) là tập lồi. Cuối cùng cho x và y là hai điểm trong T−1(D) thì Tx và Ty nằm trong D, do tính lồi nên T((x, y))(Tx, Ty) ⊂ D. Do đó

Suy ra T−1(D) là tập lồi.

Mệnh đề 1.3. Cho (Ci)i∈I là họ các tập hữu hạn của m tập con lồi trong H. Khi đó ta có:

(i) ×i∈ICi là tập lồi.

(ii) ∀(αi)i∈I ∈ R, ∑i∈I αiCi là tập lồi.

Chứng minh. (i) Hiển nhiên.

(ii) Đây là hệ quả của (i) và Mệnh đề 1.2. Từ đó ∑i∈I αiCi = L(×i∈ICi).

Ở đây

αixi L : Hm → H : (xi)i∈I (cid:55)→ ∑ i∈I

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn15

là tổ hợp tuyến tính.

8

1.2.3. Phép chiếu theo chuẩn

Định nghĩa 1.4. Cho C ⊆ H, giả sử x ∈ H, p ∈ C. Khi đó p được gọi là một xấp xỉ tối ưu của x từ C (hay là hình chiếu của x lên C) nếu ||x − p|| = dC(x). Nếu mọi điểm trong H có ít nhất một hình chiếu lên C thì C được gọi là tập xấp xỉ.

Nếu mọi điểm trong H có đúng một hình chiếu lên C thì C được gọi là tập Chebyshev. Trong trường hợp này phép chiếu (hay toán tử chiếu) lên tập C là toán tử kí hiệu là PC, mà ảnh mọi điểm trong H lên nó là hình chiếu duy nhất lên C.

Ví dụ 1.4. Cho {ei}i∈I là một cơ sở trực chuẩn hữu hạn trong H. Giả sử V = span {ei}i∈I và x ∈ H. Khi đó V là tập Chebyshev,

(cid:104)x | ei(cid:105)ei và dV(x) =

(cid:104)x | ei(cid:105)2.

(cid:115)

||x||2 − ∑ i∈I

PV x = ∑ i∈I

Chứng minh. Cho mọi họ (αi)i∈I trong R , ta có:

||x − ∑ i∈I

|αi − (cid:104)x | ei(cid:105)|2.

αiei||2

αiei||2 = ||x||2 − 2(cid:104)x | ∑ αiei(cid:105) + || ∑ i∈I i∈I = ||x||2 − 2 ∑ αi(cid:104)x | ei(cid:105) + ∑ |αi|2 i∈I i∈I |(cid:104)x | ei(cid:105)|2 + ∑ = ||x||2 − ∑ i∈I i∈I

Chú ý 1.3. Cho C là tập khác rỗng trong H. Khi đó:

(i) C = {x ∈ H | dC(x) = 0}, không điểm trong tập C \C có hình chiếu lên C. Một lân cận (trong một tập Chebyshev ) là một tập đóng.

(ii) Nếu C là một không gian hữu hạn chiều trong H thì nó là tập Chebyshev

và do đó nó là tập đóng.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn16

Mệnh đề 1.4. Giả sử rằng H là không gian hữu hạn chiều và C là tập Chebyshev trong H thì PC là liên tục.

9

||xn − PCxn|| = dC(xn) = ||x − PCx||.

Chứng minh. Cho x ∈ H và giả sử (xn)n∈N là dãy trong H mà xn → x. Ta có dC là liên tục và do đó

||xkn − PCxkn|| → ||x − y|| = dC(x).

Như vậy PC(xn)n∈N là bị chặn. Bây giờ cho y là điểm tụ của PC(xn)n∈N, ta có PCxkn → y. Theo chú ý 1.3 (i) khẳng định rằng y ∈ C và mệnh đề 1.2 có nghĩa là

Kéo theo y = PCx là điểm tụ của dãy bị chặn PC(xn)n∈N. Do đó PCxn → PCx.

Ví dụ 1.5. Cho H là không gian hữu hạn chiều và (en)n∈N là một dãy các vectơ trực chuẩn trong H, (αn)n∈N là dãy trong (1, +∞) mà αn (cid:38) 1. Đặt

C = {xn}n∈N , ∀n ∈ N, xn = αnen.

||xn − xm||2 = ||xn||2 + ||xm||2 > ||en||2 + ||em||2 = 2.

Khi đó cho bất kì hai điểm phân biệt xn và xm, ta có:

Do đó mọi dãy hội tụ trong C đều là hằng số và C là tập đóng. Tuy nhiên 0 không có hình chiếu lên C, từ đó ∀n ∈ N, dC(0) = 1 < αn = ||0 − xn||.

Mệnh đề 1.5. Cho C là một tập lồi đóng khác rỗng trong H. Khi đó với mọi x ∈ H hình chiếu PC(x) của x trên C luôn tồn tại và duy nhất.

||xn − x|| → dC(x) < +∞.

Chứng minh. Giả sử x ∈ H, y ∈ C theo định nghĩa 1.4 ta có dC(x) = ||y − x||, suy ra tồn tại dãy (xn)n∈N trong C sao cho

||xn − x|| = dC(x).

||y − x|| = lim n

||xkn − x|| = lim n

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn17

Vậy dãy (xn)n∈N là bị chặn, do đó nó có một dãy con (xkn) hội tụ yếu đến y. Do C đóng nên y ∈ C. Vậy

10

Chứng tỏ y là hình chiếu của x trên C. Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy nếu tồn tại hai điểm y và z đều là hình chiếu của x trên C thì

x − y ∈ NC(y), x − z ∈ NC(z).

(cid:104)y − x , z − y(cid:105) ≤ 0

Tức là

(cid:104)z − x , y − z(cid:105) ≤ 0.

Cộng hai bất đẳng thức này ta suy ra ||y − z|| ≤ 0 và do đó y = z.

Mệnh đề 1.6. Cho C là tập lồi đóng khác rỗng trong H. Khi đó hình chiếu PC là ánh xạ không giãn.

(cid:104)PCy − PCx | x − PCx(cid:105) ≤ 0

Chứng minh. Cố định x và y thuộc H, ta có

(cid:104)PCx − PCy | y − PCy(cid:105) ≤ 0.

||PCx − PCy||2 ≤ (cid:104)x − y | PCx − PCy(cid:105).

Lấy tổng của hai bất đẳng thức trên ta được

Suy ra điều phải chứng minh từ bất đẳng thức Cauchy - Schwarz.

1.2.4. Định lí tách tập lồi

∃u ∈ H \ {0} , Sup(cid:104)C | u(cid:105) ≤ in f (cid:104)D | u(cid:105).

Định nghĩa 1.5. Cho C và D là hai tập con của H, tập C và D được gọi là tách được nếu

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn18

Và gọi là tách mạnh được nếu bất đẳng thức ở trên là ngặt.

11

Hơn nữa một điểm x ∈ H tách được từ D nếu tập x và D là tách được. Tương tự như vậy x tách mạnh được từ D nếu tập {x} và D là tách mạnh được.

Định lý 1.1. Cho C là tập lồi đóng khác rỗng trong H và x ∈ H \ C. Khi đó x tách mạnh được từ C.

Chứng minh. Đặt u = x − PCx và cố định y ∈ C. khi đó u (cid:54)= 0 và theo mệnh đề 1.3 có (cid:104)y − x + u | u(cid:105) ≤ 0, tức là (cid:104)y − x | u(cid:105) ≤ −||u||2. Do đó Sup(cid:104)C − x | u(cid:105) ≤ −||u||2 < 0.

Hệ quả 1.2. Cho C và D là các tập khác rỗng trong H mà C ∩ D = ∅ và C − D là tập lồi đóng. Khi đó C và D là tách mạnh được.

Chứng minh. Từ 0 /∈ C − D, theo định lí 1.1 thì vectơ 0 là tách mạnh từ C − D. Mà theo định nghĩa 1.5 thì C và D là tách mạnh được nếu và chỉ nếu 0 là tách mạnh được từ C − D.

Hệ quả 1.3. Cho C và D là tập lồi đóng khác rỗng trong H mà C ∩ D = ∅ và D bị chặn, khi đó C và D là tách mạnh được.

Chứng minh. Theo hệ quả 1.2 ta cần chứng tỏ rằng C − D là tập lồi đóng. Do tính lồi của C − D trong mệnh đề 1.3 (ii) chứng tỏ C − D là đóng. Lấy một dãy hội tụ trong C − D mà xn → yn → z, ở đây (xn)n∈N ∈ C, (yn)n∈N ∈ D và z ∈ H. Từ D là hội tụ yếu và compact nên tồn tại dãy con (xkn)n∈N hội tụ yếu đến y ∈ D. Do đó xkn → z + y. Từ C là hội tụ yếu đóng, ta có z + y ∈ C. Suy ra z ∈ C − D.

1.3. Hàm lồi

1.3.1. Định nghĩa và ví dụ

epi f = {(x, ξ) ∈ H × R | f (x) ≤ ξ} ,

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn19

Định nghĩa 1.6. Cho f : H → [−∞, +∞], khi đó f được gọi là hàm lồi nếu

12

là tập con lồi của H × R.

Hàm f được gọi là hàm lõm nếu − f là hàm lồi.

Ví dụ 1.6. Cho C là tập con của H, ta có epiiC = C × R+ và iC là hàm lồi nếu và chỉ nếu C là tập lồi.

⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).

Định nghĩa 1.7. Cho f : H → (−∞, +∞] là hàm chính thường. Khi đó f được gọi là hàm lồi ngặt nếu ∀x ∈ dom f , ∀y ∈ dom f , ∀α ∈ (0, 1), x (cid:54)= y

Bây giờ cho C là tập con khác rỗng của dom f , khi đó f là hàm lồi

trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1)

f (αx + (1 − α)y) ≤ α f (x) + (1 − α) f (y).

⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).

Và f là hàm lồi ngặt trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1), x (cid:54)= y

Ví dụ 1.7. Hàm || . || là lồi. Nếu H (cid:54)= {0} thì || . || không lồi ngặt.

||αx + (1 − α)0|| = α||x|| + (1 − α)||0||.

Chứng minh. Theo tính chất lồi, bây giờ lấy x ∈ H \ {0} và α ∈ (0, 1). Ta có

Do đó || . || là không lồi ngặt.

Ví dụ 1.8. Hàm || . ||2 là hàm lồi ngặt.

Định nghĩa 1.8. (i) Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞]

được kí hiệu là ΓH.

(ii) Tập các hàm lồi chính thường nửa liên tục dưới từ H vào (−∞, +∞]

0H.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn20

được kí hiệu là Γ

13

0H mà

Ví dụ 1.9. Cho (ei)i∈I là tổ hợp trong H và (φi)i∈I là một họ trong Γ ∀i ∈ I,

φi ≥ φi(0) = 0.

Đặt

φ((cid:104)x | ei(cid:105)). f : H → (−∞, +∞] : x (cid:55)→ ∑ i∈I

0H.

Khi đó f ∈ Γ

Chứng minh. Đặt

0H. Suy ra f ∈ ΓH.

fi : H → (−∞, +∞] : x (cid:55)→ φ((cid:104)x | ei(cid:105)), ∀i ∈ I.

Ta có f = ∑i∈I fi và ∀i ∈ I, 0 ≤ fi ∈ Γ Cuối cùng từ f (0) = 0 suy ra f là hàm chính thường.

1.3.2. Một số tính chất quan trọng

Mệnh đề 1.7. Cho f : H → [−∞, +∞] là hàm lồi. Khi đó

dom f = {x ∈ H | f (x) < +∞}

là tập hợp lồi.

Chứng minh. Đặt L : H × R → H : (x, ξ) (cid:55)→ x, khi đó L là tuyến tính và dom f = L(epi f ). Từ mệnh đề 1.2 ta có dom f là tập lồi.

: H → (−∞, +∞], hàm f là lồi nếu và chỉ nếu

Mệnh đề 1.8. Cho f ∀x ∈ dom f , ∀y ∈ dom f , ∀α ∈ (0, 1)

(1.3)

f (αx + (1 − α)y) ≤ α f (x) + (1 − α) f (y).

Chứng minh. Chú ý rằng f ≡ +∞ ⇔ epi f = ∅ ⇔ dom f = ∅ thì f (cid:54)= ∅ và lấy (x, ξ) ∈ là hàm lồi và thỏa mãn (1.3). Giả sử rằng dom f epi f , (y, η) ∈ epi f và α ∈ (0, 1). Trước hết giả sử f là hàm lồi thì

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn21

α(x, ξ) + (1 − α)(y, η) ∈ epi f .

14

(1.4)

Và do đó

f (αx + (1 − α)y) ≤ αξ + (1 − α)η.

Trong (1.3) cho ξ ↓ f (x) và η ↓ f (y) ta thu được (1.4). Bây giờ giả sử rằng hàm f thỏa mãn (1.3), khi đó

f (αx + (1 − α)y) ≤ α f (x) + (1 − α) f (y) ≤ αξ + (1 − α)η.

Và do đó α(x, ξ) + (1 − α)(y, η) ∈ epi f .

(1.5)

: H → (−∞, +∞], khi đó hàm f là lồi nếu và chỉ Mệnh đề 1.9. Cho f nếu tổ hợp hữu hạn tất cả các (αi)i∈I ∈ (0, 1) mà ∑i∈I αi = 1 và (xi)i∈I ∈ dom f , ta có

αi f (xi). f (∑ i∈I αixi) ≤ ∑ i∈I

Chứng minh. Giả sử f là hàm lồi và cố định (xi)i∈I ∈ dom f và (αi)i∈I ∈ (0, 1) mà ∑i∈I αi = 1. Khi đó (xi, f (xi))i∈I ∈ epi f . Như vậy theo tính chất lồi ta có

(∑ i∈I

αi f (xi)) ∈ conv(epi f ) = epi f . αixi, ∑ i∈I

Suy ra được (1.5). Ngược lại được suy ra từ mệnh đề 1.8.

: H → (−∞, +∞] là hàm chính thường. Khi đó các

Hệ quả 1.4. Cho f mệnh đề sau là tương đương:

(i) f là hàm lồi.

(ii) Cho tổ hợp hữu hạn các (αi)i∈I ∈ (0, 1) mà ∑i∈I αi = 1 và (xi)i∈I ∈

dom f , ta có

αi f (xi). f (∑ i∈I αixi) ≤ ∑ i∈I

(iii) ∀x ∈ H, ∀y ∈ H, ∀α ∈ (0, 1)

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn22

f (αx + (1 − α)y) ≤ α f (x) + (1 − α) f (y).

15 Mệnh đề 1.10. Cho f : H → (−∞, +∞] là hàm chính thường. Khi đó f là hàm lồi ngặt nếu và chỉ nếu mọi tổ hợp hữu hạn các (αi)i∈I ∈ (0, 1) mà ∑i∈I αi = 1 và (xi)i∈I ∈ dom f , ta có

αi f (xi). f (∑ i∈I αixi) ≤ ∑ i∈I

(1.6)

Chứng minh. Trước hết giả sử f là lồi ngặt. Ta chứng minh điều kéo theo bằng phương pháp quy nạp cho m phần tử trong I. Ta có kết quả đúng với m = 2. Bây giờ giả sử m ≥ 3 mà I = 1, ..., m và kết quả đúng với họ chứa m − 1 . Ta đặt µ = f (∑i∈I αixi) = ∑i∈I αi f (xi) thì

m−1 ∑ i=1

(1.7)

≤ (1 − αm)

µ ≤ (1 − αm) f ( xi) + αm f (xm) αi 1 − αm

m−1 ∑ i=1

f (xi) + αm f (xm)

αi 1 − αm = µ.

m−1 ∑ i=1 đó x1 = ... = xm. là điều cần tìm. Ngược lại điều kéo theo có được khi chú ý đến trường hợp trong I chỉ chứa hai phần tử.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn23

Như vậy bất đẳng thức (1.6) và (1.7) là đẳng thức thức thực sự và theo giả thiết quy nạp (1 − αm)−1( αixi) = xm và x1 = ... = xm−1. Do

Chương 2

Dưới vi phân của hàm lồi và tính đơn điệu của nó

Dưới vi phân là một công cụ cơ bản trong giải tích, hàm không khả vi và đặc biệt là hàm lồi. Đạo hàm theo hướng, tính liên tục và tính đơn điệu của nó là các khái niệm liên quan chặt chẽ đến nhau. Trong chương này ta nghiên cứu một số kết quả của dưới vi phân, đạo hàm theo hướng và tính đơn điệu của dưới vi phân hàm lồi. Nội dung kiến thức của chương này được trích từ cuốn sách "Convex Analysis and Monotone Operator Theory in Hilbert Spaces" của tác giả HenizH. Bauschke và PatrickL. Combettes [2].

2.1. Dưới vi phân

Định nghĩa 2.1. Cho f : H → (−∞, +∞] là hàm chính thường. Dưới vi phân của hàm f là tập giá trị của toán tử

∂ f : H → 2H : x (cid:55)→ {u ∈ H | ∀y ∈ H, (cid:104)y − x | u(cid:105) + f (x) ≤ f (y)} .

Cho x ∈ H, thì f có dưới vi phân tại x nếu ∂ f (x) (cid:54)= ∅, các phần tử của ∂ f (x) là các dưới đạo hàm của f tại x. Một vectơ u ∈ H là một dưới đạo hàm của hàm chính thường

16

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn24

f : H → (−∞, +∞] tại x ∈ dom f

17

nếu hàm liên tục affine

fx,u : y (cid:55)→ (cid:104)y − x | u(cid:105) + f (x)

trùng với giá trị nhỏ nhất của f tại x.

: H → (−∞, +∞] là hàm chính

Argmin f = zer∂ f = {x ∈ H | 0 ∈ ∂ f (x)} .

Định lý 2.1. (Quy tắc Fermat) Cho f thường. Khi đó :

Chứng minh. Cho x ∈ H, khi đó

x ∈ Argmin f ⇔ ∀y ∈ H, (cid:104)y − x | 0(cid:105) + f (x) ≤ f (y) ⇔ 0 ∈ ∂ f (x).

Mệnh đề 2.1. Cho f : H → (−∞, +∞] là hàm chính thường và cho x ∈ dom f . Ta có:

(i) dom∂ f ⊂ dom f .

y∈dom f {u ∈ H | (cid:104)y − x | u(cid:105) ≤ f (y) − f (x)}.

(ii) ∂ f (x) = (cid:84)

(iii) ∂ f (x) là đóng yếu*.

(iv) Giả sử x ∈ dom f thì f là hàm nửa liên tục dưới tại x.

⇒ ∂ f (x) = ∅.

Chứng minh. (i) Từ f là hàm chính thường và f (x) = +∞

(ii) Theo định nghĩa 2.1.

(iii) Theo (ii).

∀y ∈ H, f (x) ≤ f (y) + (cid:104)y − x | u(cid:105).

(iv) Lấy u ∈ ∂ f (x), ta có

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn25

Và do đó f (x) ≤ limy→x f (y).

18 Mệnh đề 2.2. Cho K là không gian Hilbert thực, cho f : H → (−∞, +∞] và g : K → (−∞, +∞] là các hàm chính thường. Cho L ∈ B(H, K) và λ ∈ R++. Khi đó ta có:

(i) ∂(λ f ) = λ∂ f .

(ii) Giả sử domg (cid:84) L(dom f ) (cid:54)= ∅ thì

∂ f + L∗ ◦ (∂g) ◦ L ⊂ ∂( f + g ◦ L)

(L∗ là liên hợp của L).

Chứng minh. (i) Hiển nhiên.

(ii) Lấy x ∈ H, u ∈ ∂ f (x) và v ∈ ∂g(Lx), ta có u + L∗v là điểm chung

trong ∂ f (x) + (L∗ ◦ (∂g) ◦ L)(x) và nó phải thỏa mãn

u + L∗v ∈ ∂( f + g ◦ L)(x).

(cid:104)y − x | u(cid:105) + f (x) ≤ f (y).

Từ định nghĩa 2.1 ∀y ∈ H, ta có

(cid:104)Ly − Lx | v(cid:105) + g(Lx) ≤ g(Ly).

(cid:104)y − x | L∗v(cid:105) + g(Lx) ≤ g(Ly).

Như vậy

∀y ∈ H, (cid:104)y − x | u + L∗v(cid:105) + ( f + g ◦ L)(x) ≤ ( f + g ◦ L)(y).

Cộng theo vế các bất đẳng thức trước và sau ta được:

Suy ra u + L∗v ∈ ∂( f + g ◦ L)(x).

Mệnh đề 2.3. Cho f : H → (−∞, +∞] là hàm chính thường. Với x ∈ H và u ∈ H, ta có

u ∈ ∂ f (x) ⇔ f (x) + f ∗(u) = (cid:104)x | u(cid:105) ⇒ x ∈ ∂ f ∗(u).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn26

(trong đó f ∗ là liên hợp của hàm f )

19

Chứng minh. Sử dụng định nghĩa 2.1 ta được

((cid:104)y | u(cid:105) − f (y)) ≤ (cid:104)x | u(cid:105) − f (x) ≤ f ∗(u)

⇔ f ∗(u) = sup y∈dom f

⇔ f (x) + f ∗(u) = (cid:104)x | u(cid:105).

u ∈ ∂ f (x) ⇔ ∀y ∈ dom f , (cid:104)y | u(cid:105) − f (y) ≤ (cid:104)x | u(cid:105) − f (x) ≤ f ∗(u)

2 ||.||2 thì ∂ f = Id.

Ví dụ 2.1. (i) Đặt f = 1

(ii) Cho C là tập lồi trong H thì ∂iC = NC.

: H → (−∞, +∞] là hàm lồi chính thường, giả sử

Mệnh đề 2.4. Cho f x ∈ H và u ∈ H. Khi đó

⇔ f (x) + f ∗(u) = (cid:104)x | u(cid:105) ⇒ x ∈ ∂ f ∗(x).

u ∈ ∂ f (x) ⇔ (u, −1) ∈ Nepi f (x, f (x))

(u, −1) ∈ Nepi f (x, f (x)) ⇔ x ∈ dom f .

Chứng minh. Để ý rằng epi f là tập lồi khác rỗng, hơn nữa

∀(y, η) ∈ epi f , (cid:104)(y, η) − (x, f (x)) | (u, −1)(cid:105) ≤ 0

⇔ x ∈ dom f và ∀(y, η) ∈ epi f , (cid:104)y − x | u(cid:105) + (η − f (x))(−1) ≤ 0 ⇔ ∀(y, η) ∈ epi f , (cid:104)y − x | u(cid:105) + f (x) ≤ η ⇔ ∀y ∈ dom f , (cid:104)y − x | u(cid:105) + f (x) ≤ f (y) ⇔ u ∈ ∂ f (x). Ta có điều phải chứng minh.

Mệnh đề 2.5. Cho f : H → (−∞, +∞], là hàm lồi chính thường và x ∈ dom f . Khi đó:

(i) Giả sử rằng int(dom f ) (cid:54)= ∅ và x ∈ bdry(dom f ) thì ∂ f (x) là rỗng hoặc

không bị chặn.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn27

(ii) Giả sử x ∈ cont f thì ∂ f (x) khác rỗng và compact yếu.

20

(iii) Giả sử x ∈ cont f thì tồn tại δ ∈ R++ mà ∂ f (B(x, δ)) là bị chặn.

(iv) Giả sử cont f (cid:54)= ∅, thì int(dom f ) ⊂ dom∂ f .

Chứng minh. (i) Ta có x là điểm tựa của dom f , do đó tồn tại

u ∈ H\ {0} mà ∀y ∈ dom f , (cid:104)y − x | u(cid:105) ≤ 0. Như vậy ∀v ∈ ∂ f (x), ∀λ ∈ R+, v + λu ∈ ∂ f (x).

∀(cid:101) ∈ R++, (x, f (x) − (cid:101)) /∈ epi f .

(ii) và (iii) Ta có epi f là lồi khác rỗng và int(epi f ) (cid:54)= ∅. Mặt khác

(cid:104)(y, f (y) + η) − (x, f (x)) | (u, ν)(cid:105) ≤ 0.

Do đó (x, f (x)) ∈ bdry(epi f ). Ta có (u, ν) ∈ Nepi f (x, f (x)) (0, 0). Cho y ∈ dom f và η ∈ R+, ta có

(cid:104)y − x | u(cid:105) + ( f (y) − f (x))ν + ην ≤ 0.

(2.1)

Và do đó

B(x, (cid:101)) ⊂ dom f ,

Trước hết chú ý rằng ν ≤ 0, ta có mâu thuẫn với (2.1) khi η → +∞. Chứng tỏ rằng ν < 0. Nếu ν = 0 thì Sup(cid:104)dom f − x | u(cid:105) ≤ 0 và từ đó suy ra

(

với mọi (cid:101) ∈ R++ đủ nhỏ. Ngoài ra ta kết luận rằng Sup(cid:104)B(x, (cid:101)) | u(cid:105) ≤ 0. Điều này kéo theo u = 0 và ta có (u, ν) = (0, 0). Như vậy ν < 0. Từ đó Nepi f (x, f (x)) là nón lồi. Ta có

)(u, ν) ∈ Nepi f (x, f (x)).

ν ∈ ∂ f (x). Như vậy ∂ f (cid:54)= ∅.

, −1) = ( u |ν| 1 |ν|

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn28

Ta được u Tồn tại β ∈ R++ và δ ∈ R++ mà f là Lipschitz liên tục với hằng

21

∀z ∈ B(0, δ), (cid:104)z | v(cid:105) ≤ f (y + z) − f (y) ≤ β||z||.

số β tương đối trong B(x, 2δ). Bây giờ cho y ∈ B(x, δ) và v ∈ ∂ f (y). Ta có:

Và do đó ||v|| ≤ β. Suy ra ∂ f (x) ⊂ ∂ f (B(x, δ)) ⊂ B(0, β). Vậy ∂ f (x) là bị chặn, lồi đóng và compact yếu.

0H là hàm thuần nhất dương. Khi đó f = σC, với

(iv) Là hệ quả của (ii).

Mệnh đề 2.6. Cho f ∈ Γ σC là hàm tựa của tập C = ∂ f (0).

2.2. Đạo hàm theo hướng

: H → (−∞, +∞] là hàm chính thường và x ∈

Định nghĩa 2.2. Cho f dom f , y ∈ H. Đạo hàm theo hướng của hàm f tại x trên hướng y là

, f (cid:48)(x; y) = lim α(cid:38)0 f (x + αy) − f (x) α

và giới hạn này tồn tại trong [−∞, −∞].

Mệnh đề 2.7. Cho f : H → (−∞, +∞] là hàm lồi chính thường và x ∈ dom f , y ∈ H. Khi đó:

là hàm không giảm. (i) φ : R++ → (−∞, +∞] : α → f (x + αy) − f (x) α

(ii) f (cid:48)(x; y) tồn tại trong [−∞, −∞] và

. f (cid:48)(x; y) = inf α∈R++ f (x + αy) − f (x) α

(iii) f (cid:48)(x; y − x) + f (x) ≤ f (y).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn29

(iv) f (cid:48)(x; .) là dưới tuyến tính và f (cid:48)(x; 0) = 0.

22

(v) f (cid:48)(x; .) là hàm lồi chính thường và dom f (cid:48)(x; .) = cone(dom f − x).

(vi) Giả sử x ∈ core(dom f ) thì f (cid:48)(x; .) là giá trị thực và dưới tuyến tính .

β , z = x + βy.

Chứng minh. (i) Cố định α và β trong R++ mà α < β,

và đặt λ = α Nếu f (z) = +∞ thì chắc chắn φ(α) ≤ φ(β) = +∞. Mặt khác

= f (x) + λ( f (z) − f (x)).

f (x + αy) = f (λz + (1 − λ)x) ≤ λ f (z) + (1 − λ) f (x)

Như vậy φ(α) ≤ φ(β).

(ii) Là hệ quả của (i) .

(iii) Nếu y /∈ dom f ta có bất đẳng thức cần chứng minh.

∀α ∈ (0, 1), f ((1 − α)x + αy) − f (x) ≤ α( f (y) − f (x)).

Mặt khác

Sử dụng điểm chia bởi α và cho α (cid:38) 0, ta thu được

f (cid:48)(x; y − x) ≤ f (y) − f (x).

≤ η + (cid:101)

(iv) Ta có f (cid:48)(x; 0) = 0 và f (cid:48)(x; .) là thuần nhất dương. Bây giờ ta lấy (y, η) và (z, ξ) ∈ epi f (cid:48)(x; .), λ ∈ (0, 1) và (cid:101) ∈ R++. Khi đó cho α ∈ R++ đủ nhỏ, ta có

f (x + αy) − f (x) α

≤ ξ + (cid:101).

f (x + αz) − f (x) α

= f ((1 − λ)(x + αy) + λ(x + αz)) − f (x − z)

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn30

Khi α đủ nhỏ, ta có f (x + α((1 − λ)y) + λz) − f (x)

23

≤ (1 − λ)( f (x + αy) − f (x)) + λ( f (x + αz) − f (x)).

Ta có

+ λ

≤ (1 − λ)

f (x + α((1 − λ)y) + λz) − f (x) α

≤ (1 − λ)(η + (cid:101)) + λ(ξ + (cid:101)).

f (x + αy) − f (x) α f (x + αz) − f (x) α

Khi α (cid:38) 0 và (cid:101) (cid:38) 0, ta kết luận rằng

f (cid:48)(x; (1 − λ)y + λz) ≤ (1 − λ)η + λ(cid:101)).

Do đó f (cid:48)(x; .) là hàm lồi.

(v) Được suy ra từ (ii) và (iv).

(vi) Tồn tại β ∈ R++ mà [x − βy, x + βy] ⊂ dom f .

Bây giờ lấy α ∈ (0, β), ta có

f (x) ≤ f (x − αy) + f (x + αy) 2

−(

) ≤ −(

) =

Và do đó từ (i) ta thu được

f (x − βy) − f (x) β f (x − αy) − f (x) α f (x) + f (x − αy) α

. f (x + αy) − f (x) α f (x + βy) − f (x) β

≤ − f (cid:48)(x; −y) ≤ f (cid:48)(x; y) ≤

Cho α (cid:38) 0, ta kết luận rằng:

(2.2) Số tận cùng trái và tận cùng phải trong (2.2) đều là số thuộc R nên tồn tại các số hạng giữa. Do đó f (cid:48)(x; .) có giá trị thực trên H.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn31

. f (x) + f (x − βy) β f (x + βy) − f (x) β

24 Mệnh đề 2.8. Cho f : H → (−∞, +∞] là hàm lồi chính thường và x ∈ dom f . Khi đó

x ∈ Argmin f ⇔ f (cid:48)(x; .) ≤ 0.

≥ 0 ⇒ f (cid:48)(x; .) ≤ 0.

∀α ∈ R++,

Chứng minh. Cho y ∈ H, ta có x ∈ Argmin f ⇒

f (x + αy) − f (x) α

Ngược lại giả sử f (cid:48)(x; .) ≤ 0, ta có

f (x) ≤ f (cid:48)(x; y − x) + f (x) ≤ f (y).

Do đó x ∈ Argmin f .

∀y ∈ H, f (cid:48)(x; y) = (cid:104)y | ∇ f (x)(cid:105).

Chú ý 2.1. Cho x ∈ dom f và giả sử f (cid:48)(x; .) là tuyến tính và liên tục trên H, f được gọi là khả vi Gâteaux tại x. Theo chú ý 1.1 (biểu diễn Riesz - Fréchet) thì tồn tại duy nhất vectơ ∇ f (x) ∈ H mà

Ngoài ra

∀y ∈ H, f (cid:48)(x; y) = (cid:104)y | ∇ f (x)(cid:105) = lim α→0

. f (x + αy) − f (x) α

: H → (−∞, +∞] là hàm lồi chính thường và cho

Mệnh đề 2.9. Cho f x ∈ dom f và u ∈ H. Khi đó:

(i) u ∈ ∂ f (x) ⇔ (cid:104). | u(cid:105) ≤ f (cid:48)(x; .).

(ii) f (cid:48)(x; .) là hàm chính thường và dưới tuyến tính .

Chứng minh. (i) Cho α ∈ R++, ta có

(cid:104)(x + αy) − x | u(cid:105) α

u ∈ ∂ f (x) ⇒ ∀y ∈ H, (cid:104)y | u(cid:105) = .

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn32

. f (x + αy) − f (x) α

25

∀y ∈ H, (cid:104)y | u(cid:105) ≤ f (cid:48)(x; y).

Khi giới hạn khi α (cid:38) 0 ta được

∀y ∈ H, (cid:104)y − x | u(cid:105) ≤ f (y) − f (x).

Ngược lại ∀y ∈ H, (cid:104)y − x | u(cid:105) ≤ f (cid:48)(x; y − x) suy ra

Suy ra u ∈ ∂ f (x).

(ii) Lấy u ∈ ∂ f (x), từ (i): f (cid:48)(x; .) ≥ (cid:104). | u(cid:105), do đó −∞ /∈ f (cid:48)(x; H). Như vậy f (cid:48)(x; .) là hàm chính thường, dưới tuyến tính .

2.3. Tính đơn điệu của dưới vi phân

2.3.1. Toán tử đơn điệu

∀(x, u) ∈ graA, ∀(y, v) ∈ graA, (cid:104)x − y | u − v(cid:105) ≥ 0.

Định nghĩa 2.3. Cho A : H → 2H, A được gọi là toán tử đơn điệu nếu

Mệnh đề 2.10. Cho A : H → 2H, các mệnh đề sau là tương đương:

(i) A là đơn điệu.

||x − y + α(u − v)|| ≥ ||x − y||.

(i) ∀(x, u) ∈ graA, ∀(y, v) ∈ graA, ∀α ∈ [0, 1],

||y − u||2 + ||x − v||2 ≥ ||x − u||2 + ||y − v||2.

(iii) ∀(x, u) ∈ graA, ∀(y, v) ∈ graA,

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn33

Ví dụ 2.2. Cho f : H → (−∞, +∞] là hàm chính thường, khi đó ∂ f là đơn điệu.

26

(cid:104)x − y | u(cid:105) + f (y) ≥ f (x)

Chứng minh. Lấy (x, u) và (y, v) ∈ gra∂ f . Ta có:

(cid:104)y − x | v(cid:105) + f (x) ≥ f (y).

Cộng theo vế hai bất đẳng thức trên ta được (cid:104)x − y | u − v(cid:105) ≥ 0.

(cid:104)x − y | Ax − Ay(cid:105) = ||x − y||2 + α(cid:104)x − y | Tx − Ty(cid:105)

≥ ||x − y||(||x − y|| − |α|||Tx − Ty||) ≥ 0.

Ví dụ 2.3. Cho D là tập khác rỗng trong H, cho T : D → H là không mở, α ∈ [0, 1] và A = Id + αT. Khi đó ∀x ∈ D, ∀y ∈ D

Do đó A là đơn điệu.

Mệnh đề 2.11. Cho A : H → 2H và đặt f = (cid:104). | .(cid:105), các mệnh đề sau là tương đương:

(i) A là đơn điệu.

(xi, ui)i∈I ∈ graA, ta có

(ii) Cho tất cả các tổ hơp hữu hạn (αi)i∈I trong (0, 1) mà ∑i∈I αi = 1 và

αi f (xi, ui). f (∑ i∈I αi(xi, ui)) ≤ ∑ i∈I

(iii) f là hàm lồi trên.

2.3.2. Toán tử đơn điệu cực đại

(x, u) ∈ graA ⇔ ∀(y, v) ∈ graB, (cid:104)x − y | u − v(cid:105) ≥ 0.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn34

Định nghĩa 2.4. Cho A : H → 2H là đơn điệu, khi đó A được gọi là đơn điệu cực đại nếu không tồn tại toán tử đơn điệu B : H → 2H mà graB thực sự chứa graA, tức là mọi (x, u) ∈ H × H,

27

Ví dụ 2.4. Cho T : H → H không mở và α ∈ [−1, 1] thì Id + αT là toán tử đơn điệu cực đại. Mệnh đề 2.12. Cho A : H → 2H là toán tử đơn điệu cực đại và x ∈ H. Khi đó Ax là lồi đóng.

{u ∈ H | (cid:104)x − y | u − v(cid:105) ≥ 0} .

(y,v)∈graA

Chứng minh. Giả sử x ∈ domA, ta có A = (cid:92)

(giao của các tập lồi đóng). Suy ra Ax là lồi đóng.

2.3.3. Tính đơn điệu của dưới vi phân hàm lồi

0(H × H) và A được định nghĩa thông qua

graA = {(x, u) ∈ H × H | f (x | u) = (cid:104)x | u(cid:105)} .

Định lý 2.2. Cho f ∈ Γ

Khi đó A là đơn điệu cực đại.

Một hệ quả cơ bản của định lí 2.2 là kết quả sau đây về tính cực đại

0(H) , khi đó ∂ f là đơn điệu cực đại.

của dưới vi phân. Định lý 2.3. Cho f ∈ Γ

Chứng minh. Ta có f (cid:76) f ∗ là tự liên hợp và

(cid:77)

(x, u) ∈ H × H | ( f

= gra∂ f .

(cid:110) (cid:111) f ∗)(x, u) = (cid:104)x | u(cid:105)

Ta suy ra ∂ f là đơn điệu cực đại.

(x1, u1) ∈ graA

Ví dụ 2.5. Cho C là tập lồi đóng khác rỗng trong H, khi đó NC là đơn điệu cực đại. Định nghĩa 2.5. Cho A : H → 2H và với mọi n ∈ N mà n ≥ 2. Khi đó A là đơn điệu tuần hoàn nếu mọi (x1, ..., xn+1) ∈ Hn+1 và (u1, ..., un) ∈ Hn,

(cid:104)xi+1 − xi | ui(cid:105) ≤ 0.

n ∑ i=1

  ...

(xn, un) ∈ graA xn+1 = xn

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn35



28 Mệnh đề 2.13. Cho f : H → (−∞, +∞] là hàm lồi chính thường, nửa liên tục dưới khi đó ∂ f là đơn điệu tuần hoàn.

∀i ∈ {1, ..., n} , (cid:104)xi+1 − xi | ui(cid:105) ≤ f (xi+1) − f (xi).

Chứng minh. Ta cố định một số tự nhiên n ≥ 2. Với mọi i ∈ {1, ..., n}, lấy (xi, ui) ∈ gra∂ f . Đặt xn+1 = x1, ta có:

i=1(cid:104)xi+1 − xi(cid:105) ≤ 0.

Suy ra ∑n

0(H) sao cho A = ∂ f .

Định lý 2.4. (Rockafellar) Cho A : H → 2H. Khi đó A là đơn điệu tuần hoàn cực đại nếu và chỉ nếu tồn tại f ∈ Γ

Chứng minh. Giả sử A = ∂ f cho mỗi f ∈ Γ 0H, theo mệnh đề 2.13 kéo theo A là toán tử đơn điệu cực đại là là đơn điệu tuần hoàn. Như vậy A là đơn điệu tuần hoàn cực đại. Ngược lại giả sử A là đơn điệu tuần hoàn cực đại, khi đó graA (cid:54)= 0. Lấy (x0, u0) ∈ graA và đặt f : H → [−∞, +∞]

(cid:40) (cid:41)

(cid:104)x − xn | un(cid:105) +

(cid:104)xi+1 − xi | ui(cid:105)

n≥1,n∈N

n−1 ∑ i=0

∀i = 1, ...n. Từ graA (cid:54)= 0, ta kết luận rằng −∞ ∈ f (H). Và do đó f ∈ ΓH. Theo tính đơn điệu tuần hoàn của A ta có f (x0) = 0, cùng 0H. Bây giờ lấy (x, u) ∈ graA và η ∈ (−∞, f (x)], khi đó tồn với f ∈ Γ tại hữu hạn các điểm (x1, u1), ..., (xn, un) trong graA mà

(2.3)

(cid:104)x − xn | un(cid:105) +

(cid:104)xi+1 − xi | ui(cid:105) > η.

n−1 ∑ i=0

x (cid:55)→ sup , sup (xi,ui)∈graA

Đặt (xn+1, un+1) = (x, u), sử dụng (2.3). Ta suy ra rằng với mọi y ∈ H

(cid:104)xi+1 − xi | ui(cid:105)

n ∑ i=0

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn36

f (y) ≥ (cid:104)y − xn+1 | un+1(cid:105) +

29

= (cid:104)y − x | u(cid:105) + (cid:104)x − xn | un(cid:105) +

(cid:104)xi+1 − xi | ui(cid:105)

n−1 ∑ i=0 > (cid:104)y − x | u(cid:105) + η.

∀y ∈ H, f (y) ≥ f (x) + (cid:104)y − x | u(cid:105),

Cho η ↑ f (x), ta suy ra

graA ⊂ gra∂ f .

tức là u ∈ ∂ f (x). Do đó

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn37

Từ đó suy ra ∂ f là đơn điệu tuần hoàn và A là đơn điệu tuần hoàn cực đại, ta kết luận rằng A = ∂ f .

Chương 3

Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của dưới vi phân

Hàm tựa lồi và hàm giả lồi cũng là một trong những hàm quan trọng trong giải tích và đặc biệt là trong giải tích lồi chúng nó được nghiên cứu khá nhiều. Trong chương này chúng ta nghiên cứu định nghĩa và một số tính chất quan trọng của hàm tựa lồi và hàm giả lồi cùng với tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả lồi. Nội dung các kiến thức nghiên cứu ở trong chương này được trích từ cuốn sách "Generalized Convexity and Optimization. Theory and Applications" của tác giả Alberto Cambini - Laura Martein [1].

3.1. Hàm tựa lồi và hàm giả lồi

3.1.1. Định nghĩa và ví dụ

Định nghĩa 3.1. Cho f là hàm xác định trên tập C ⊆ H. Hàm f được gọi là tựa lồi trên C nếu

30

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn38

f (αx + (1 − α)y) ≤ max { f (x), f (y)} , ∀x, y ∈ C và ∀α ∈ [0, 1].

31

Hay tương đương với

f (x) ≥ f (y) kéo theo f (x) ≥ f (x + α(y − x)), ∀x, y ∈ C và ∀α ∈ [0, 1].

Định nghĩa 3.2. Cho f là hàm xác định trên tập C ⊆ H ta nói f là tựa lồi ngặt nếu

∀x, y ∈ C, x (cid:54)= y và ∀α ∈ (0, 1).

f (αx + (1 − α)y) < max { f (x), f (y)} ,

Hay tương đương với f (x) ≥ f (y), kéo theo

f (x) > f (x + α(y − x)), ∀x, y ∈ C, x (cid:54)= y và ∀α ∈ (0, 1).

là hàm tựa lồi nhưng không Ví dụ 3.1. Hàm số f (x) = (cid:26) |x| x 0 , x (cid:54)= 0 , x = 0

phải là hàm tựa lồi ngặt.

∀x, y ∈ C, f (x) > f (y) ⇒ ∇ f (x)T(y − x) < 0.

Định nghĩa 3.3. Cho f là hàm khả vi, xác định trên tập lồi mở C ⊆ H, f được gọi là hàm giả lồi nếu

∀x, y ∈ C, x (cid:54)= y, f (x) ≥ f (y) ⇒ ∇ f (x)T(y − x) < 0.

Định nghĩa 3.4. Cho f là hàm khả vi, xác định trên tập lồi mở C ⊆ H, f được gọi là hàm giả lồi ngặt nếu

Ví dụ 3.2. Xét hàm Cobb -Douglas

n , x = (x1, ..., xn), xi > 0, αi < 0, i = 1, ..., n.

1 ...xαn

f (x) = xα1

Hàm f là hàm tựa lồi và ∇ f (x), f cũng là hàm giả lồi.

3.1.2. Một số tính chất quan trọng

Định lý 3.1. Cho C ⊆ H là một tập lồi. Khi đó

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn39

(i) Nếu f lồi trên C thì f là tựa lồi trên C.

32

(ii) Nếu f lồi ngặt trên C thì f tựa lồi ngặt trên C.

(iii) Nếu f tựa lồi ngặt trên C thì f tựa lồi trên C.

Chứng minh. (i) Ta có:

≤ αmax { f (x), f (y)} + (1 − α)max { f (x), f (y)} = max { f (x), f (y)} .

f (αx + (1 − α)y) ≤ α f (x) + (1 − α) f (y)

(ii) Theo định nghĩa.

(iii) Theo định nghĩa.

Định lý 3.2. Cho f là hàm thuần nhất bậc một, xác định trên tập lồi C ⊆ H. Nếu f (x) > 0, ∀x ∈ C thì f là tựa lồi nếu và chỉ nếu f là hàm lồi.

Định lý 3.3. Hàm f là tựa lồi trên tập lồi C ⊆ H nếu và chỉ nếu mọi xi ∈ C, i = 1, ..., n, ta có

(3.1)

i∈{1,...,n}

n ∑ i=1

n ∑ i=1

f ( f (xi), αixi) ≤ max αi = 1, αi ≥ 0, i = 1, ..., n.

Ngoài ra f là hàm tựa lồi ngặt trên C nếu và chỉ nếu bất đẳng thức trên là ngặt.

Chứng minh. Theo (3.1), cho n = 2 thì tương đương với định nghĩa của hàm tựa lồi. Bây giờ giả sử rằng f là tựa lồi, chúng ta sẽ chứng minh (3.1) bằng phương pháp quy nạp. Khi n = 2 ta có (3.1) đúng, ta chứng minh (3.1) đúng với mọi n đều kéo theo

i∈{1,...,n+1}

f (xi) f (α1x1 + ... + αnxn + αn+1xn+1) ≤ max

với

n+1 ∑ i=1

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn40

αi = 1, αi ≥ 0, xi ∈ C, i = 1, ..., n + 1.

33

= 1.

αi α0

n ∑ i=1

xn là một tổ hợp lồi của n điểm, từ đó Nếu αn+1 = 0 thì đây là giả thiết quy nạp. Mặt khác đặt α0 = α1 + ... + αn ta có α0 + αn+1 = 1 nên y = α1 α0 x1 + ... + αn α0

Theo kết quả y ∈ C nên ta có:

n ∑ i=1

αixi = α0y + αn+1xn+1

Do đó ta có điều phải chứng minh.

Định lý 3.4. Cho f là hàm khả vi trên tập lồi mở C ⊆ H và x0 ∈ C là điểm tới hạn. Nếu f là hàm giả lồi thì x0 là điểm cực tiểu toàn cục của f . Ngoài ra x0 là duy nhất nếu f là hàm giả lồi ngặt.

Chứng minh. Giả sử tồn tại y ∈ C mà f (y) < f (x0), thì ∇ f (x0) = 0 kéo theo ∇ f (x0)T(y − x0) = 0 . Suy ra x0 là điểm cực tiểu toàn cục của f . Ngoài ra ta cũng có x0 là duy nhất nếu f là hàm giả lồi ngặt.

Định lý 3.5. Cho f là hàm khả vi trên tập lồi mở C ⊆ H, ta có:

(i) Nếu f là giả lồi trên C, thì f là tựa lồi trên C.

(ii) Nếu ∇ f (x) (cid:54)= 0, ∀x ∈ C thì f là giả lồi trên C nếu và chỉ nếu f tựa lồi

trên C.

Chứng minh. (i) Giả sử f không tựa lồi thì tồn tại x, y ∈ C với f (x) >

f (y) mà ∇ f (x)T(y − x) > 0. Xét

ϕ(t) = f (x + t(y − x)), ∀t ∈ [0, 1].

Từ đó

ϕ(cid:48)(t) = ∇ f (x)T(y − x) > 0,

ϕ đạt giá trị cực đại tại một điểm t0 ∈ (0, 1) nên

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn41

ϕ(t0) = f (x0) > f (x) = ϕ(0) ≥ f (y) = ϕ(1);

34 và ϕ(cid:48)(t0) = ∇ f (x0)T(y − x) = 0, ở đây x0 = x + t0(y − x). Theo tính giả lồi của f , áp dụng với hai điểm x0 và y suy ra:

∇ f (x0)T(y − x)(1 − t0) < 0

và đây là điều mâu thuẫn.

(ii) Ta chứng minh được một hàm tựa lồi là hàm giả lồi, khi có các

điểm tới hạn. Ngược lại được suy ra từ định lí sau.

∀x, y ∈ C, f (x) > f (y), ∇ f (x) (cid:54)= 0 ⇒ ∇ f (x)T(y − x) < 0.

Định lý 3.6. Cho f là hàm khả vi, tựa lồi trên tập lồi mở C ⊆ H. Khi đó:

3.2. Tính đơn điệu suy rộng của dưới vi phân hàm

tựa lồi và hàm giả lồi

3.2.1. Toán tử tựa đơn điệu và giả đơn điệu

∀x, y ∈ C, (y − x)T F(x) > 0 ⇒ (y − x)T F(y) ≥ 0.

Định nghĩa 3.5. Toán tử F từ C vào (−∞, +∞] được gọi là tựa đơn điệu trên tập C ⊆ H nếu

Nếu bất đẳng thức cuối là ngặt ta cũng có F là tựa lồi ngặt.

(y − x)T F(x) ≥ 0 ⇒ (y − x)T F(y) ≥ 0;

Định nghĩa 3.6. Toán tử F được gọi là giả đơn điệu trên tập C ⊆ H nếu ∀x, y ∈ C,

(y − x)T F(x) > 0 ⇒ (y − x)T F(y) > 0.

hay tương đương

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn42

Ví dụ 3.3. (i) Toán tử F(x) = là toán tử tựa đơn (cid:26)−x + 1 , 0 ≤ x ≤ 1 , 1 < x ≤ 2 0 điệu.

35

(cid:26)0 (ii) Toán tử F(x) = là toán tử giả đơn điệu. x − 1 , 0 ≤ x ≤ 1 , 1 < x ≤ 2

Định lý 3.7. Cho C ⊆ H là tập lồi mở và F : C → H là toán tử liên tục mà F(x) (cid:54)= 0, ∀x ∈ C. Khi đó F là toán tử giả đơn điệu nếu và chỉ nếu F là toán tử tựa đơn điệu trên C.

(y + (cid:101)z − x)T F(y + (cid:101)z) < 0.

Chứng minh. Ta có F là toán tử giả đơn điệu thì F là toán tử tựa đơn điệu theo định nghĩa 3.1 và định nghĩa 3.2. Ngược lại, ta chứng minh bằng phản chứng. Giả sử ∃x, y ∈ C mà (y − x)T F(x) ≥ 0 và (y − x)T F(y) < 0. Theo giả thiết F là toán tử tựa đơn điệu ta có (y − x)T F(x) = 0. Từ F (cid:54)= 0 ⇒ ∃z ∈ H mà zT F(x) > 0. Theo tính liên tục và tích vô hướng nên ∃(cid:101) > 0 mà

Mà F là tựa đơn điệu nên ta có (y + (cid:101)z − x)T F(x) ≤ 0, tức là

(cid:101)zT F(x) ≤ 0.

Điều này mâu thuẫn với giả thiết.

3.2.2. Tính tựa đơn điệu và giả đơn điệu của đạo hàm của

hàm tựa lồi và hàm giả lồi

Định lý 3.8. Cho C ⊆ H là một tập lồi và f là hàm khả vi trên C.

(i) f là hàm lồi trên C nếu và chỉ nếu ∇ f là đơn điệu trên C.

(ii) f là hàm lồi ngặt trên C nếu và chỉ nếu ∇ f là đơn điệu ngặt trên C.

Chứng minh. (i) Giả sử f là hàm lồi trên C và cho x, y ∈ C, ta có:

(3.2)

f (y) ≥ f (x) + (y − x)T∇ f (x).

(3.3)

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn43

f (x) ≥ f (y) + (x − y)T∇ f (y).

36

(y − x)T(∇ f (y) − ∇ f (x)) ≥ 0.

Cộng (3.2) và (3.3) ta được:

∃ z = x + t(y − x), t ∈ (0, 1), f (y) = f (x) + (y − x)T∇ f (z).

Tức là ∇ f đơn điệu trên C. Ngược lại, ta chứng minh bằng phản chứng. Giả sử ∃x, y ∈ C mà f (y) < f (x) + (y − x)T∇ f (x). Suy ra

(y − x)T∇ f (z) = f (y) − f (x) < (y − x)T∇ f (x).

Nên ta có

(y − x)T(∇ f (y) − ∇ f (x)) =

(z − x)T(∇ f (z) − ∇ f (x)) < 0.

Tức là

1 t

Điều này là mâu thuẫn.

(ii) Chứng minh tương tự.

Bổ đề 3.1. Cho C ⊆ H là một tập lồi và f là hàm khả vi trên C

(i) Giả sử ∇ f là giả đơn điệu trên C.

Nếu x, y ∈ C mà (y − x)T∇ f (x) ≥ 0 thì thu hẹp của hàm f trên [x, y] là không giảm. Nếu x, y ∈ C mà (y − x)T∇ f (x) > 0 thì thu hẹp của hàm f trên [x, y] là tăng.

(ii) Giả sử ∇ f là tựa đơn điệu trên C.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn44

Nếu x, y ∈ C mà (y − x)T∇ f (x) > 0 thì thu hẹp của hàm f trên [x, y] là không giảm và f (x) < f (y).

37

Chứng minh. (i) Đặt

ϕ(t) = f (x + t(y − x)), t ∈ [0, 1]

(z − x)T∇ f (z) ≥ 0, ∀z ∈ [x, y].

và đặt z = x + t(y − x). Nếu (y − x)T∇ f (x) ≥ 0 thì (z − x)T∇ f (x) ≥ 0, ∀z ∈ [x, y]. Nên theo giả thiết ∇ f (x) là đơn điệu, suy ra

(z − x)T∇ f (z) = t(y − x)T∇ f (z) = tϕ(cid:48)(t) ≥ 0, ∀t ∈ [0, 1].

Tiếp theo ta có

Do đó ϕ(t) không giảm trên [0, 1]. Tương tự với điều kiện (y − x)T∇ f (x) > 0 và tính giả đơn điệu của ∇ f (x) suy ra ϕ(t) tăng trên [0, 1]. Suy ra (i) được chứng minh.

(ii) Với điều kiện (y − x)T∇ f (x) > 0 và tính tựa đơn điệu của ∇ f (x)

suy ra ϕ(t) không giảm trên [0, 1]. Ngoài ra ϕ(cid:48)(0) = (y − x)T∇ f (x) > 0, suy ra ϕ(t) là tăng địa phương tại t = 0. Suy ra (ii) được chứng minh.

Định lý 3.9. Cho C ⊆ H là một tập lồi và f là hàm khả vi trên C. Khi đó:

(i) f là hàm giả lồi trên C nếu và chỉ nếu ∇ f là giả đơn điệu trên C.

(ii) f là hàm tựa lồi trên C nếu và chỉ nếu ∇ f là tựa đơn điệu trên C.

Chứng minh. (i) Giả sử f là hàm giả lồi trên C và cho x, y ∈ C

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn45

mà (y − x)T∇ f (x) ≥ 0 ta có f (x) ≤ f (y). Từ đó f là hàm tựa lồi và ta cũng có (x − y)T∇ f (y) ≤ 0, tức là (y − x)T∇ f (y) ≥ 0 nên ∇ f (x) là giả đơn điệu trên C. Ngược lại, ta chứng minh bằng phản chứng. Giả sử ∃ x, y ∈ C mà f (x) > f (y) và (y − x)T∇ f (x) ≥ 0, kéo theo f là hàm không giảm nên f (x) ≤ f (y), mâu thuẫn với điều giả sử.

38

(y − x)T∇ f (x) > 0 ⇒ f (x) < f (y)

(ii) Giả sử f là hàm tựa lồi trên C và cho x, y ∈ C mà

(y − x)T∇ f (y) ≥ 0

và (x − y)T∇ f (y) ≤ 0, tức là

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn46

nên ∇ f (x) là tựa đơn điệu trên C. Ngược lại, giả sử tồn tại ∃ x, y ∈ C, f (x) ≥ f (y) mà (y − x)T∇ f (x) > 0. Theo bổ đề 3.1 ta suy ra điều mâu thuẫn.

Kết luận

39

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn47

Bản luận văn này đã trình bày một số các kiến thức cơ bản về không gian Hilbert thực. Qua đó nghiên cứu định nghĩa và một số tính chất cơ bản của tập lồi và hàm lồi trong không gian Hilbert thực. Nội dung chính của bản luận văn đã đề cập đến là các vấn đề về dưới vi phân, đạo hàm theo hướng, toán tử đơn điệu và đi đến nghiên cứu tính đơn điệu của dưới vi phân hàm lồi. Cuối cùng bản luận văn có trình bày đến hàm tựa lồi, hàm giả lồi và xét tính tựa đơn điệu, giả đơn điệu của đạo hàm của hàm tựa lồi và giả lồi.

Tài liệu tham khảo

[1] Alberto Cambini - Laura Martein, Generalized Convexity and Opti-

mization. Theory and Applications, Springer, 2008.

[2] HenizH. Bauschke - PatrickL. Combettes, Convex Analysis and

Monotone Operator Theory in Hilbert Spaces, Springer, 2010.

[3] T.Rockafellar, Convex Analysis, Princeton Unisversity Press,

Princeton New Jersey, 1970.

[4] Nguyễn Xuân Liêm, Giải tích hàm, NXBGD, 2002.

[5] Đỗ Văn Lưu - Phan Huy Khải, Giải tích lồi, NXBKHKT Hà Nội,

2000.

[6] Lê Dũng Mưu - Nguyễn Văn Hiền, Nhập môn giải tích lồi ứng dụng

, Sắp xuất bản.

[7] Hoàng Tụy, Hàm thực và giải tích hàm - Giải tích hiện đại,

40

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn48

NXBĐHQG Hà Nội, 2003.