Kỷ yếu Hội thảo Khoa học: “An ninh Sinh viên trong thời kỳ Chuyển đổi số”
345
NÂNG CAO NĂNG LỰC CỦA SINH VIÊN TRONG VIỆC
ỨNG PHÓ VỚI CÁC RỦI RO TỪ CÔNG NGHỆ DEEPFAKE
ENHANCING STUDENTS’ CAPACITY TO COPE WITH
RISKS FROM DEEPFAKE TECHNOLOGY
Trần Lê Trọng Văn*
Trường Đại học Kinh tế - Luật, ĐHQG-HCM
*Tác giả liên hệ: vantlt21503@st.uel.edu.vn
THÔNG TIN
TÓM TẮT
Từ khóa: Deepfake, an
ninh sinh viên, chuyển
đổi số, năng lực số.
Keywords: Deepfake,
student security, digital
transformation, digital
capacity.
Trong thời đại số hóa ngày nay, hình ảnh và âm
thanh cũng có thể bị biên tập, chỉnh sửa hoặc làm giả một
cách dễ dàng bằng các công cụ kỹ thuật số. Một trong
những công cụ đó là Deepfake với khả năng tạo ra các
video hoặc hình ảnh giả mạo rất thật bằng cách thay thế
chân dung của người này từ chân dung của người khác. Vì
vậy, việc nâng cao năng lực của sinh viên trong việc ứng
phó với các rủi ro từ công nghệ Deepfake là một vấn đề
cấp thiết và quan trọng. Bài tham luận này sẽ trình bày về
khái niệm và cơ chế hoạt động của Deepfake, những rủi ro
mà công nghệ này gây ra đối với sinh viên, cũng như một
số giải pháp để nâng cao năng lực của sinh viên trong việc
ứng phó các rủi ro từ công nghệ Deepfake.
ABSTRACT
In today’s digital age, images and sounds can be
easily edited, altered, or falsified using digital tools. One
such tool is Deepfake, which has the ability to create very
realistic fake videos or images by replacing one person’s
portrait with another’s. Therefore, enhancing students’
capacity to cope with risks from Deepfake technology is
an urgent and important issue. This paper will present the
concept and mechanism of Deepfake, the risks this
technology poses to students, as well as some solutions to
enhance students’ capacity in dealing with risks from
Deepfake technology.
Kỷ yếu Hội thảo Khoa học: “An ninh Sinh viên trong thời kỳ Chuyển đổi số”
346
1. Đặt vấn đề
Trí tuệ nhân tạo (AI) là một trong những lĩnh vực công nghệ số có tốc độ phát
triển nhanh chóng và ảnh hưởng sâu rộng đến nhiều khía cạnh của cuộc sống con người.
AI không chỉ mang lại những tiện ích cho con người trong các lĩnh vực mà còn tiềm ẩn
nhiều nguy cơ và thách thức cho xã hội, đặc biệt là trong việc bảo vệ quyền riêng tư, an
toàn thông tin của người dùng Internet. Một trong những công nghệ AI gây ra nhiều
tranh cãi và lo ngại nhất là công nghệ Deepfake. Deepfake là sự kết hợp giữa thuật ngữ
deep learning (học sâu) và fake (giả mạo). Đây là một dạng thức của trí tuệ nhân tạo
(AI), sử dụng các thuật toán “học máy” để chỉnh sửa hoặc tạo ra các hình ảnh, video,
âm thanh giả mạo, sao cho chúng trông giống như thật
50
.
Công nghệ Deepfake xuất hiện từ năm 2017, khi một người dùng Reddit có biệt
danh Deepfakes đăng tải các video khiêu dâm có sử dụng khuôn mặt của các nữ diễn
viên nổi tiếng được ghép vào bằng phần mềm AI
51
. Từ đó, công nghệ này đã được phát
triển và ứng dụng trong nhiều lĩnh vực khác nhau, chẳng hạn như giải trí, giáo dục, y tế,
bảo mật, chính trị… Công nghệ Deepfake có thể mang lại những ứng dụng tích cực, như
việc hoán đổi khuôn mặt để tạo ra các hiệu ứng hài hước, lồng tiếng để tạo ra các video
song ngữ, tạo ra những video giả lập để huấn luyện hoặc kiểm tra kỹ năng giao tiếp…
Tuy nhiên, công nghệ này cũng có thể được sử dụng với những mục đích tiêu cực hoặc
xấu xa, như việc xâm phạm quyền riêng tư, tạo ra những tin tức giả mạo, lừa đảo trực
tuyến, phá hoại danh tiếng, ảnh hưởng đến niềm tin và an toàn của người dùng Internet.
Trong bối cảnh công nghệ Deepfake ngày càng phát triển và tiềm ẩn nhiều nguy cơ
cho xã hội, sinh viên là một trong những đối tượng dễ bị ảnh hưởng bởi công nghệ này. Sinh
viên là những người thường xuyên tiếp xúc với các nội dung trực tuyến, có nhu cầu giải trí
và học tập cao, cũng như có ít kinh nghiệm và kiến thức về công nghệ. Do đó, sinh viên có
thể bị lợi dụng hình ảnh và giọng nói để tạo ra những video khiêu dâm, bạo lực hoặc phỉ báng;
bị lừa đảo trực tuyến bằng cách mạo danh người thân, bạn bè hoặc cấp trên để yêu cầu chuyển
tiền; bị ảnh hưởng đến uy tín và danh tiếng khi bị tung ra những video giả mạo có nội dung
xấu xa hoặc sai sự thật; bị mất niềm tin vào các nguồn thông tin trên Internet khi gặp phải
những tin tức giả mạo do Deepfake tạo ra.
Vì vậy, việc nâng cao năng lực của sinh viên trong việc ứng phó với các rủi ro từ
công nghệ Deepfake là một vấn đề cấp thiết và quan trọng, đòi hỏi sự quan tâm và đóng
góp của cả xã hội nói chung và các cơ quan, tổ chức, cá nhân liên quan nói riêng. Bài
50
Hern, A. (2020, January 13). What are deepfakes – and how can you spot them? The Guardian.
Retrieved from https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-
can-you-spot-them
51
Laura Payne (2020, August 27). Deepfake. Encyclopedia Britannica. Retrieved from
https://www.britannica.com/technology/deepfake
Kỷ yếu Hội thảo Khoa học: “An ninh Sinh viên trong thời kỳ Chuyển đổi số”
347
tham luận này sẽ trình bày về khái niệm và cơ chế hoạt động của Deepfake, những rủi
ro mà công nghệ này gây ra đối với sinh viên, cũng như một số giải pháp để nâng cao
năng lực của sinh viên trong việc ứng phó các rủi ro từ công nghệ Deepfake.
2. Khái niệm và cơ chế hoạt động của Deepfake
Deepfake là một kỹ thuật nâng cao để tổng hợp hình ảnh và âm thanh của con
người, dựa trên học máy (machine learning - ML) và trí tuệ nhân tạo (artificial
intelligence - AI). Công nghệ Deepfake cho phép người sản xuất đặt hình ảnh và/hoặc
giọng nói của bất kỳ ai vào một hình ảnh, video hoặc đoạn âm thanh đã có sẵn, và thậm
chí có thể được sử dụng để tạo ra những bức ảnh hoàn toàn giả tạo từ đầu.
Cơ chế hoạt động của Deepfake dựa trên công nghệ học sâu, một nhánh của học
máy, là một phần của AI. Học sâu mô tả ứng dụng hiện đại của mạng nơ-ron nhân tạo
(artificial neural network) vào các bộ dữ liệu lớn. Mạng nơ-ron nhân tạo là một hệ thống
máy tính được thiết kế để mô phỏng quá trình học xảy ra trong bộ não sinh học. Khi một
người học hoặc phản ứng với thế giới bên ngoài, các kết nối giữa các tế bào não của họ
sẽ thay đổi. Chúng tạo thành các mạch và cấu trúc logic, tăng cường một số kết nối và
làm yếu các kết nối khác. Khi bạn đã thành thạo một thứ gì đó, chẳng hạn như lái xe,
những mạch não này sẽ phản hồi nhanh hơn và hiệu quả hơn.
Về cơ bản, điều này cũng xảy ra tương tự với hệ thống học sâu. Nó sẽ nhìn vào
hàng đống ví dụ về một thứ, lĩnh vực gì đó và dần trở nên hiểu biết về lĩnh vực đó hơn.
Trong trường hợp của Deepfake, phần mềm sẽ quét video và ảnh chân dung của một
người nào đó và gán khuôn mặt của một người này sang cho một người khác trong
video. Để tạo ra Deepfake, người ta sử dụng các công cụ phần mềm và các mô hình học
sâu đã được huấn luyện trước. Các công cụ này có thể được tải về từ internet hoặc sử
dụng trực tuyến. Các mô hình học sâu là các hệ thống máy tính được thiết kế để bắt
chước cách học của não bộ con người. Chúng có thể nhận diện các đặc điểm và quy luật
từ các dữ liệu đầu vào, ví dụ như các hình ảnh hoặc âm thanh
52
.
Một trong những kỹ thuật phổ biến để tạo ra Deepfake là sử dụng Mạng Đối sinh
(Generative Adversarial Network - GAN). Đây là một loại mạng nơ-ron nhân tạo, gồm hai
phần: Mạng Sinh (Generative Network) và Mạng Phân biệt (Discriminative Network). Mạng
Sinh có nhiệm vụ tạo ra các hình ảnh mới từ các hình ảnh đã có. Mạng Phân biệt có nhiệm
vụ kiểm tra xem các hình ảnh mới có giống với các hình ảnh gốc hay không. Hai phần này
sẽ cùng nhau học và cải thiện qua quá trình tranh đấu với nhau. Kết quả cuối cùng là Mạng
Sinh có thể tạo ra các hình ảnh Deepfake chân thực và khó phát hiện
53
.
52
Jye Sawtell-Rickson (2023, January 23). What Is a Deepfake? Built In. Retrieved from
https://builtin.com/machine-learning/Deepfake
53
Megan Ellis (2022, December 8). What Are Deepfakes and How Are They Made? MakeUseOf.
Retrieved from https://www.makeuseof.com/tag/what-are-deepfakes-explained/
Kỷ yếu Hội thảo Khoa học: “An ninh Sinh viên trong thời kỳ Chuyển đổi số”
348
Ví dụ, để tạo ra một video Deepfake, trong đó khuôn mặt của người A được chèn
vào khuôn mặt của người B, người ta sẽ cần hai bộ dữ liệu: Một bộ gồm các video của
người A và một bộ gồm các video của người B. Sau đó, người ta sẽ cho Mạng Sinh quét
qua các video của người A để học được các đặc điểm của khuôn mặt của người A. Tương
tự, Mạng Sinh cũng quét qua các video của người B để học được các đặc điểm của khuôn
mặt của người B. Sau khi đã học xong, Mạng Sinh sẽ thử tạo ra các video mới, trong đó
khuôn mặt của người A được ghép vào khuôn mặt của người B. Những video này sẽ
được gửi cho Mạng Phân biệt để kiểm tra xem chúng có giống với video gốc hay không.
Nếu Mạng Phân biệt nhận ra rằng video mới là giả, nó sẽ gửi lại cho Mạng Sinh một
thông báo lỗi và yêu cầu Mạng Sinh cải thiện. Nếu Mạng Phân Biệt không nhận ra rằng
video mới là giả, nó sẽ gửi lại cho Mạng Sinh một thông báo thành công và khuyến
khích Mạng Sinh tiếp tục. Quá trình này sẽ lặp đi lặp lại cho đến khi Mạng Sinh tạo ra
được các video Deepfake hoàn hảo.
3. Những rủi ro mà công nghệ Deepfake gây ra đối với sinh viên
Công nghệ Deepfake là một công nghệ trí tuệ nhân tạo tiên tiến, có thể tạo ra
những video, âm thanh, hay hình ảnh giả mạo một cách chân thực, khiến cho người xem
khó phân biệt được thật và giả. Công nghệ này có thể mang lại nhiều lợi ích cho các lĩnh
vực như giải trí, nghệ thuật, hay giáo dục. Tuy nhiên, công nghệ này cũng tiềm ẩn nhiều
rủi ro và nguy cơ đối với xã hội, đặc biệt là đối với sinh viên. Sinh viên là một nhóm đối
tượng có nhu cầu cao về thông tin, có hoạt động tích cực trên mạng xã hội và có vai trò
quan trọng trong việc xây dựng, phát triển đất nước trong tương lai. Nếu sinh viên bị lợi
dụng và xâm phạm quyền riêng tư bởi công nghệ Deepfake, họ sẽ phải đối mặt với
những hậu quả nghiêm trọng về mặt học tập, đời sống và tâm lý.
3.1. Rủi ro về an toàn cá nhân
Một trong những rủi ro của công nghệ Deepfake đối với sinh viên là ảnh hưởng
đến an toàn cá nhân. Sinh viên là đối tượng rất dễ bị lừa đảo bởi các cuộc gọi video hoặc
tin nhắn giả mạo từ người thân, bạn bè, hoặc cấp trên yêu cầu chuyển tiền cho họ
54
.
Công nghệ Deepfake cho phép các kẻ lừa đảo tạo ra những video với hình ảnh và giọng
nói giống hệt người được làm giả. Đây là một hình thức lừa đảo mới và rất nguy hiểm
vì người nhận cuộc gọi rất khó phân biệt được thật giả và có thể tin tưởng vào những gì
họ nhìn thấy và nghe được. Bằng chứng là đã có nhiều vụ việc được ghi nhận trên thế
giới và tại Việt Nam liên quan đến việc sử dụng công nghệ Deepfake để thực hiện các
hành vi trên. Một ví dụ điển hình là trường hợp của một doanh nhân ở Đức bị mất
220.000 euro (khoảng 5,8 tỷ đồng) vào năm 2019, khi ông nhận được một cuộc gọi từ
54
PCBB (2022, February 28). Deepfakes Are Increasing - Top Three Scams To Watch. PCBB.
Retrieved from https://www.pcbb.com/bid/2022-02-28-deepfakes-are-increasing-top-three-scams-to-
watch
Kỷ yếu Hội thảo Khoa học: “An ninh Sinh viên trong thời kỳ Chuyển đổi số”
349
người giả danh là cấp trên của ông ở Anh, yêu cầu ông chuyển tiền cho một nhà cung
cấp ở Hungary
55
. Đây được cho là vụ lừa đảo sử dụng công nghệ Deepfake đầu tiên trên
thế giới
56
. Sinh viên cũng có thể gặp phải những trường hợp tương tự, ví dụ như bị người
giả danh là cha mẹ, người yêu, hoặc giáo viên yêu cầu chuyển tiền khẩn cấp cho họ vì
lý do này hay lý do khác.
Theo các chuyên gia an ninh mạng, công nghệ Deepfake có thể tạo ra các video
giả mạo rất khó phát hiện bằng mắt thường. Các kẻ lừa đảo có thể thu thập thông tin cá
nhân, hình ảnh, video có giọng nói của nạn nhân hoặc người thân của nạn nhân từ các
tài khoản mạng xã hội, rồi sử dụng các phần mềm hoặc ứng dụng Deepfake để tạo ra
các video giống hệt người thật. Các video này có thể được gửi qua các ứng dụng nhắn
tin hoặc gọi video như Zalo, Messenger, Viber, Telegram… để thực hiện kịch bản lừa
đảo. Về khía cạnh tâm lý, công nghệ Deepfake tận dụng sự tin tưởng của con người vào
những gì họ nhìn thấy và nghe được. Khi người nhận cuộc gọi video nhìn thấy khuôn
mặt và nghe được giọng nói quen thuộc của người thân, người quen, sếp… chúng sẽ có
xu hướng tin rằng đó là người thật và không nghi ngờ gì. Đặc biệt khi người gọi yêu cầu
chuyển tiền hoặc làm việc gấp với lý do khẩn cấp hoặc thiết tha, người nhận cuộc gọi sẽ
bị áp lực tâm lý và không có thời gian để suy nghĩ kỹ. Đặc điểm chung của những cuộc
gọi video như vậy thường có âm thanh, hình ảnh không rõ nét, tín hiệu chập chờn giống
như trong khu vực phủ sóng di động hoặc wifi yếu để nạn nhân khó phân biệt
57
. Hơn
nữa, khi cuộc gọi video chỉ diễn ra trong vài giây, người nhận cuộc gọi sẽ không có cơ
hội để kiểm tra hay hỏi thêm những câu hỏi để xác minh thông tin. Do đó, người nhận
cuộc gọi sẽ dễ dàng bị lừa đảo mà không hay biết.
Tại Việt Nam, theo chuyên gia tại Trung tâm Giám sát an toàn không gian mạng
quốc gia cho biết, thời gian qua, Trung tâm thường xuyên nhận được báo cáo về những
vụ việc lừa đảo qua videocall
58
. Trên thực tế đã có nhiều trường hợp tại TP. Hà Nội, Thái
Nguyên, Tuyên Quang bị lừa mất hàng trăm triệu đồng bởi các cuộc gọi video Deepfake.
Một số nạn nhân đã kể lại rằng, khi nhận được cuộc gọi video từ người thân yêu cầu
chuyển tiền gấp, họ đã không để ý kỹ đến chi tiết âm thanh và hình ảnh của người gọi.
55
Damiani, J. (2019, September 3). A Voice Deepfake Was Used To Scam A CEO Out Of $243,000.
Forbes. Retrieved from https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-
used-to-scam-a-ceo-out-of-243000/?sh=3d21732f2241
56
Margi Murphy (2023, August 25). Deepfake Video Phone Calls Could Be a Dangerous AI-Powered
Scam. Bloomberg.com. Retrieved from https://www.bloomberg.com/news/articles/2023-08-
25/deepfake-video-phone-calls-could-be-a-dangerous-ai-powered-scam
57
Dave J. et Alexander J. (2020, June 15). What is a deepfake? Everything you need to know about
the AI-powered fake videos that can make anyone say anything. Business Insider India. Retrieved
from https://www.businessinsider.com/guides/tech/what-is-deepfake
58
Đức Thiện (2023, March 30). Cuộc gọi video Deepfake để lừa đảo ra sao? Tuổi Trẻ Online.
Retrieved from https://tuoitre.vn/cuoc-goi-video-deepfake-de-lua-dao-ra-sao-
20230330094147252.htm
