Những ngày gần đây, nhiều người dùng Facebook tại Việt Nam phản ánh việc nền tảng này hiển thị nhiều video nhạy cảm khi tìm kiếm một số từ khóa quen thuộc. Đáng chú ý, các nội dung này không chỉ xuất hiện trên tài khoản người lớn mà còn có thể hiển thị với tài khoản khai báo là trẻ vị thành niên.
Trao đổi với phóng viên Dân trí, chuyên gia an ninh mạng Ngô Minh Hiếu, thường được biết đến với tên gọi Hiếu PC, cho rằng sự việc không nên chỉ được nhìn nhận như một lỗi kiểm duyệt đơn lẻ.
Theo ông Hiếu, dưới góc độ an ninh mạng, đây có thể là dấu hiệu của việc nền tảng bị thao túng thông qua thuật toán tìm kiếm và đề xuất nội dung.
“Kẻ xấu có thể lợi dụng các từ khóa quen thuộc, sau đó gắn nội dung nhạy cảm và liên kết ngoài để đánh lừa thuật toán tìm kiếm, kéo tương tác và đưa các kết quả độc hại lên cao”, chuyên gia Ngô Minh Hiếu nhận định.
Không chỉ là nội dung phản cảm
Theo chuyên gia, vấn đề đáng lo ngại không dừng lại ở việc người dùng vô tình nhìn thấy các video phản cảm. Rủi ro lớn hơn nằm ở những đường dẫn được gắn kèm trong bài đăng, bình luận hoặc phần mô tả nội dung.
Các đường dẫn này có thể đưa người dùng rời khỏi Facebook và truy cập vào những website giả mạo. Tại đó, nạn nhân có thể bị yêu cầu đăng nhập lại tài khoản, xác minh tuổi, tải tệp, cài ứng dụng hoặc bấm vào các nút xem tiếp video.
Đây là những kịch bản phổ biến trong các chiến dịch lừa đảo trực tuyến. Kẻ xấu có thể lợi dụng tâm lý tò mò của người dùng để đánh cắp tài khoản, chiếm cookie phiên đăng nhập, phát tán mã độc hoặc dẫn dụ nạn nhân vào các mô hình lừa đảo tài chính.
“Người dùng thường nghĩ rằng nội dung xuất hiện trong Facebook thì vẫn an toàn. Tuy nhiên, chỉ cần bấm vào liên kết ngoài, họ có thể bị đưa đến một môi trường hoàn toàn khác, nơi các cơ chế bảo vệ của nền tảng không còn phát huy tác dụng”, ông Hiếu phân tích.
Theo chuyên gia, nếu người dùng nhập thông tin đăng nhập vào các trang giả mạo, tài khoản Facebook hoặc email liên kết có thể bị chiếm quyền. Trong nhiều trường hợp, tài khoản sau đó bị dùng để gửi tin nhắn lừa đảo cho bạn bè, đăng bài quảng cáo bất thường hoặc tham gia các chiến dịch phát tán liên kết độc hại.
Vì sao tài khoản trẻ vị thành niên vẫn thấy nội dung nhạy cảm?
Một điểm gây lo ngại trong sự việc là nội dung nhạy cảm vẫn có thể xuất hiện với tài khoản khai báo độ tuổi vị thành niên. Theo ông Hiếu, điều này cho thấy nền tảng có thể đang tồn tại lỗ hổng ở nhiều lớp bảo vệ.
Thứ nhất là cơ chế xác minh độ tuổi chưa chắc chắn. Trên thực tế, nhiều nền tảng mạng xã hội vẫn chủ yếu dựa vào thông tin người dùng tự khai báo. Điều này khiến việc phân loại người dùng trưởng thành và trẻ vị thành niên không phải lúc nào cũng chính xác.
Thứ hai là bộ lọc nội dung nhạy cảm có thể chưa đủ tốt. Kẻ xấu có thể lợi dụng từ khóa đời thường, cách viết biến thể, tiếng lóng hoặc các cụm từ mang nhiều nghĩa để vượt qua hệ thống kiểm duyệt tự động.
Thứ ba là cơ chế tìm kiếm và đề xuất có thể chưa chặn hiệu quả những cụm từ bị lợi dụng. Khi một nội dung nhận được nhiều tương tác, thuật toán có thể hiểu nhầm rằng đó là nội dung đang được quan tâm, từ đó tiếp tục đẩy lên cao hơn trong kết quả tìm kiếm.
Theo ông Hiếu, đây là vấn đề phức tạp vì thuật toán của các nền tảng lớn luôn phải xử lý khối lượng nội dung khổng lồ trong thời gian thực. Tuy vậy, với các nội dung nhạy cảm có nguy cơ ảnh hưởng đến trẻ em, nền tảng cần có cơ chế bảo vệ chủ động hơn thay vì chỉ chờ người dùng báo cáo.
“Phụ huynh không nên chỉ dựa vào kiểm soát của nền tảng. Cần bật các tính năng giám sát tài khoản, giới hạn nội dung, kiểm tra lịch sử tương tác và quan trọng nhất là thường xuyên trao đổi với con về nguy cơ từ các liên kết lạ”, chuyên gia khuyến cáo.
Người dùng cần làm gì nếu lỡ bấm vào liên kết lạ?
Trong trường hợp đã bấm vào đường dẫn đáng ngờ, chuyên gia Ngô Minh Hiếu khuyến cáo người dùng cần lập tức thoát khỏi trang web đó. Người dùng tuyệt đối không nhập mật khẩu, không tải tệp, không cấp quyền cho ứng dụng lạ và không thực hiện các bước xác minh theo yêu cầu của website.
Sau đó, người dùng nên đổi mật khẩu Facebook và email liên kết, bật xác thực hai lớp, kiểm tra các thiết bị đang đăng nhập và đăng xuất khỏi những thiết bị lạ. Với điện thoại hoặc máy tính đã tải tệp đáng ngờ, cần quét mã độc bằng phần mềm bảo mật tin cậy.
Nếu tài khoản có dấu hiệu gửi tin nhắn bất thường, đăng bài lạ hoặc tự động tương tác với các nội dung không rõ nguồn gốc, người dùng nên cảnh báo bạn bè, kiểm tra lại quyền truy cập của các ứng dụng bên thứ ba và báo cáo sự cố với nền tảng.
Theo chuyên gia, người dùng cũng cần thay đổi thói quen sử dụng mạng xã hội. Không nên bấm vào các đường link được gắn trong nội dung nhạy cảm, giật gân hoặc có lời mời gọi tò mò. Đặc biệt, không nhập lại mật khẩu Facebook ở bất kỳ trang nào không phải trang chính thức của nền tảng.
Nền tảng phải chịu trách nhiệm với rủi ro thuật toán khuếch đại
Từ góc độ quản trị nền tảng, ông Hiếu cho rằng các mạng xã hội lớn như Facebook không thể chỉ dừng lại ở việc gỡ nội dung sau khi bị báo cáo. Khi thuật toán có khả năng khuếch đại nội dung, nền tảng cũng cần chịu trách nhiệm với những rủi ro mà thuật toán tạo ra.
Theo chuyên gia, Facebook cần chủ động phát hiện các chiến dịch spam theo từ khóa tiếng Việt, chặn liên kết rủi ro theo thời gian thực, hạ thứ hạng nội dung nhạy cảm trong kết quả tìm kiếm và tăng cường kiểm duyệt bản địa.
Bên cạnh đó, các cơ chế bảo vệ trẻ em cần được đặt ở trạng thái mặc định mạnh hơn, thay vì yêu cầu phụ huynh hoặc người dùng tự thiết lập thủ công. Những nội dung có yếu tố nhạy cảm, phản cảm hoặc dẫn ra các trang ngoài nền tảng cần được kiểm soát chặt hơn, đặc biệt khi xuất hiện trong môi trường tìm kiếm.
“Khi thuật toán tạo ra khả năng tiếp cận, nền tảng cũng phải chịu trách nhiệm về rủi ro mà thuật toán khuếch đại”, ông Hiếu nhấn mạnh.
Sự việc một lần nữa cho thấy các nền tảng mạng xã hội không chỉ là nơi phân phối nội dung, mà còn là môi trường có thể bị lợi dụng cho các chiến dịch lừa đảo, phát tán mã độc và thao túng người dùng. Với người dùng, đặc biệt là phụ huynh và trẻ vị thành niên, kỹ năng nhận diện liên kết độc hại và thói quen cảnh giác khi tìm kiếm trên mạng xã hội ngày càng trở nên cần thiết.
Ghi nhận của PV Dân trí sáng 24/6 cho thấy Facebook đã chặn và gỡ bỏ các trang phát tán video khiêu dâm. Khi truy cập, các trang này không còn hiển thị nội dung hoặc báo không tồn tại.
Chỉ cần vài thao tác tìm kiếm với các từ khóa như “phim lậu”, “game mod”, “Phim Moi”..., hàng loạt hội nhóm kín trên Facebook, Telegram hay Zalo lập tức hiện ra với những đường link mời tham gia cộng đồng.
Không còn xuất hiện rầm rộ như trước, các nền tảng phim, game lậu giờ hoạt động kín tiếng hơn bằng cách liên tục đổi tên miền, sử dụng chatbot tự động gửi link tải hoặc chia sẻ nội dung trong nhóm riêng.
Nội dung được đăng tải đa dạng, từ phim chiếu rạp chưa kiểm duyệt đến game “mod VIP”, vật phẩm hiếm hay phần mềm bẻ khóa mà người dùng thông thường phải trả phí mới có thể sở hữu.
Chia sẻ với phóng viên Tuổi Trẻ Online, bạn T., một sinh viên tại Hà Nội, cho biết mình thường tìm phần mềm crack trên các website lậu. Sau khi nhiều trang quen thuộc bị chặn truy cập, T. chuyển sang tham gia các nhóm Telegram chuyên chia sẻ ứng dụng miễn phí.
“Mình vào nhóm thấy hầu hết đều là chatbot tự động đăng link tải. Nhưng càng dùng càng lo vì không biết file có chứa mã độc hay không nên cuối cùng quyết định dừng lại, chuyển sang dùng các phần mềm trả phí có giá hợp lý để an toàn hơn”, T. chia sẻ.
Theo các chuyên gia, sự dịch chuyển từ website sang mạng xã hội cho thấy tình trạng vi phạm bản quyền trên Internet đang thay đổi cách tồn tại để khó kiểm soát hơn.
Theo chuyên gia an ninh mạng Ngô Minh Hiếu, tâm lý muốn sử dụng miễn phí các nội dung trả phí đã tồn tại từ lâu và khó thay đổi trong thời gian ngắn. Chính điều này khiến nhiều người dễ rơi vào bẫy của các hội nhóm phim, game lậu.
Người dùng thường bị dẫn dụ bằng những cụm từ như “bản crack”, “nhận quà miễn phí”, “link dự phòng” hay “vào nhóm riêng để lấy link”. Sau đó họ bị yêu cầu bấm vào link rút gọn, tải file APK ngoài kho ứng dụng chính thức hoặc đăng nhập tài khoản vào các website giả mạo.
Đây được xem là “cánh cửa” để mã độc xâm nhập thiết bị, đánh cắp dữ liệu cá nhân, tài khoản Facebook, Telegram, Gmail, ví điện tử hay thậm chí cả tài khoản ngân hàng.
Ông Hiếu cảnh báo, nếu một đường link yêu cầu nhập OTP, tắt bảo mật điện thoại, cài ứng dụng không rõ nguồn gốc hoặc chuyển tiền để “mở khóa nội dung”, người dùng nên dừng lại ngay lập tức.
Trong khi đó, Telegram đang trở thành nơi tập trung của nhiều cộng đồng chia sẻ phim và game lậu nhờ tính bảo mật cao, khó kiểm soát nội dung. Không ít bộ phim còn đang chiếu rạp vẫn bị phát tán tràn lan dưới dạng xem trực tuyến hoặc tải trực tiếp.
Chuyên gia cho rằng khi những nền tảng hợp pháp ngày càng dễ tiếp cận hơn, giá thành phù hợp hơn và nhận thức về an ninh mạng được nâng cao, thói quen sử dụng nội dung lậu của người dùng mới có thể dần thay đổi.
Li, 26 tuổi, người mẫu và người có sức ảnh hưởng trên mạng xã hội, nhưng không phải diễn viên. Do đó, khi thấy mình xuất hiện trong bộ phim do AI tạo ra có tên Chiếc trâm tóc hoa đào với vai phản diện, cô cảm thấy hoang mang, sau đó tức giận và sợ hãi.
"Tôi thực sự sốc. Rõ ràng đó là tôi", Li, hiện sống ở Hàng Châu, nói với AFP. "Họ sử dụng một bộ ảnh tôi đã chụp và đăng trên mạng xã hội từ cách đây hai năm".
Phim ngắn chiếu mạng (microdrama) rất phổ biến ở Trung Quốc. Chiếc trâm tóc hoa đào được phát sóng trên Hongguo, ứng dụng phim ngắn thuộc sở hữu của ByteDance, công ty mẹ TikTok. Li cho biết "cảm thấy vô cùng sợ hãi" và tự hỏi tại sao đội ngũ sản xuất lại có thể làm chuyện như vậy. Cô dự định kiện cả nhà sản xuất phim và nền tảng phát sóng này.
Theo France24, Hongguo cung cấp hàng nghìn bộ phim ngắn miễn phí, gồm cả người thật đóng và do AI tạo ra, với mỗi tập dài hai hoặc ba phút. Tính đến cuối năm ngoái, ứng dụng có 245 triệu người dùng hoạt động hàng tháng, theo số liệu do Short Drama Alliance - một nền tảng tư vấn, sáng tạo và hỗ trợ đăng ký phim ngắn tại Hong Kong - cung cấp.
Sau kiến nghị của Li, Chiếc trâm tóc hoa đào gây ra làn sóng phản đối mạnh mẽ trong dư luận. Tuy nhiên, phim vẫn tiếp tục được chiếu, dù sau đó gỡ bỏ các tập có hình ảnh của Li.
Trong khi đó, Hongguo khẳng định đã gỡ một số phim vì nhà sản xuất vi phạm quy tắc nền tảng, đồng thời "tiếp tục tăng cường quy trình kiểm duyệt nội dung và cấp phép cho người sáng tạo". Từ đầu năm, nền tảng xử lý 670 phim ngắn do AI sản xuất vi phạm quy định. Tuy nhiên, họ từ chối bình luận về trường hợp cụ thể.
Cũng giống Li, một người có biệt danh Baicai nói với AFP rằng anh cũng bị lợi dụng hình ảnh theo cách tương tự. Dù là nhà tạo mẫu chuyên về trang phục và trang điểm truyền thống Trung Quốc, anh bất ngờ xuất hiện trên một bộ phim AI với ngoại hình xấu xí, khắc họa dưới hình ảnh một nhân vật phản diện "đê tiện" trong phim.
"Liệu việc này có ảnh hưởng đến tôi, công việc hiện tại và cơ hội việc làm trong tương lai của tôi không?", Baicai tự đặt câu hỏi.
Microdrama bùng nổ tại Trung Quốc một nhờ vào công cụ AI tạo video ngày càng rẻ. Thay vì phải tuyển dụng nhiều diễn viên, nhà sản xuất giờ chỉ cần đưa hình ảnh, câu chuyện và để AI tự làm nội dung. Chúng trở thành phân khúc tăng trưởng mới của thị trường video ngắn Trung Quốc, vốn đã đứng hàng đầu thế giới. Loại phim này thường chia thành nhiều tập, mỗi tập dài vài phút, được tạo bằng thuật toán thay vì diễn viên và cảnh quay thật. Nhờ tiết kiệm chi phí sản xuất, phim ngắn AI trở nên phổ biến trong bối cảnh khán giả cũng dễ tính hơn.
Dữ liệu từ nền tảng phân tích DataEye cho thấy, phim AI với nhân vật kỹ thuật số chiếm 38% trong top 100 phim manju (phim ngắn chuyển thể từ tiểu thuyết mạng, truyện tranh hoặc kịch bản gốc) tháng 1, tăng mạnh so với mức 7% cùng kỳ năm ngoái. Tổng lượt xem của loại này trên bảng xếp hạng tháng 1 đạt 2,55 tỷ. Theo ECNS, khán giả đón nhận phim ngắn AI một phần do các nhân vật đang trở nên chân thực hơn, giảm hiệu ứng "thung lũng kỳ lạ" (uncanny valley) - cảm giác khó chịu với vật thể gần giống người nhưng không thật.
Việc sử dụng AI cho hầu hết quy trình sản xuất trong ngành công nghiệp phim ngắn tại Trung Quốc được đánh giá giúp cắt giảm kinh phí. Tuy nhiên, nó cũng gây nhức nhối khi nội dung chủ yếu mang tính gây sốc, câu view, không được kiểm soát, cũng như vi phạm bản quyền khi nhiều người bị sử dụng hình ảnh trái phép cho phim.
Quy định của Trung Quốc nêu rõ nền tảng phải kiểm soát nội dung có khả năng gây hại. Theo Cục Quản lý phát thanh và truyền hình quốc gia Trung Quốc, nếu không thực hiện kiểm duyệt nội dung bắt buộc, video sẽ bị cưỡng chế gỡ bỏ. Kể từ đầu tháng 4, nhà làm phim ngắn cũng được yêu cầu đăng ký giấy phép, đặc biệt khi sử dụng trí tuệ nhân tạo.
Chuyên gia Zhao Zhanling của công ty luật Beijing Javy tại Bắc Kinh cho biết, nếu các nền tảng biết về hành vi vi phạm nhưng không xử lý, bên bị ảnh hưởng có thể báo cáo cho Cơ quan quản lý không gian mạng Trung Quốc. Dù vậy, ông ghi nhận một số đang tìm cách lách luật bằng cách đăng ký doanh nghiệp tạm thời, sử dụng máy chủ ở nước ngoài để che giấu danh tính.
Baicai cho biết chưa khởi kiện nền tảng và đội ngũ sử dụng hình ảnh trái phép. Anh hy vọng nhà quản lý sẽ có nhiều biện pháp hơn nhằm bảo vệ những người như anh. "Có lẽ ngoài kia, còn có rất nhiều trường hợp bị lợi dụng như thế", anh nói thêm.
Theo Reuters, nhiều tờ rơi đang xuất hiện trong phòng họp, trên máy bán hàng tự động và hộp đựng giấy vệ sinh tại văn phòng Meta hôm 12/5. Chúng có nội dung: "Bạn không muốn làm tại Nhà máy Trích xuất Dữ liệu Nhân viên phải không?" và khuyến khích mọi người ký vào bản kiến nghị trực tuyến phản đối việc công ty cài đặt phần mềm theo dõi chuột, máy tính.
Các tờ rơi và bản kiến nghị đều dẫn Đạo luật Quan hệ Lao động Quốc gia Mỹ, khẳng định "người lao động được pháp luật bảo vệ khi họ chọn hành động theo tổ chức để cải thiện điều kiện làm việc".
Khi được hỏi về tình huống trên, Andy Stone, người phát ngôn Meta, nhắc lại tuyên bố trước đó mà công ty đưa ra về công nghệ theo dõi chuột: "Nếu chúng tôi xây dựng tác nhân giúp mọi người hoàn thành nhiệm vụ hàng ngày bằng máy tính, thì các mô hình cần ví dụ thực tế về cách họ dùng máy như chuyển động chuột, nhấn nút và thao tác với menu thả xuống".
Reuters nhận định, việc phát tờ rơi là dấu hiệu rõ ràng về phong trào lao động đang hình thành bên trong Meta, khi một số nhân viên bắt đầu chuyển sự phẫn nộ trước kế hoạch tái cấu trúc nhân sự do AI thành hành động mang tính tổ chức.
Tại Anh, một nhóm nhân viên Meta đang bắt đầu chiến dịch thành lập công đoàn với United Tech and Allied Workers (Công đoàn Người lao động Công nghệ và các Ngành liên quan), một chi nhánh của Communication Workers Union (Công đoàn Người lao động Truyền thông). Họ lập trang web tuyển thành viên với URL "Leanin.uk", gợi nhớ đến Lean In (Dấn thân) - cuốn sách bán chạy của Sheryl Sandberg, cựu giám đốc vận hành (COO) Facebook, khuyến khích phụ nữ tìm kiếm sự bình đẳng tại nơi làm việc.
"Nhân viên Meta đang phải trả giá cho những canh bạc liều lĩnh và tốn kém của đội ngũ lãnh đạo. Trong khi các giám đốc theo đuổi chiến lược AI mang tính đầu cơ, nhân viên phải đối mặt với các đợt cắt giảm việc làm nghiêm trọng, sự giám sát hà khắc và thực tế tàn nhẫn là phải đào tạo hệ thống kém hiệu quả sắp thay thế họ", Eleanor Payne, thành viên United Tech and Allied Workers, nói.
Trước đó, Meta cài đặt công cụ Sáng kiến năng lực mô hình (Model Capability Initiative - MCI) trên máy tính nhân viên, cho phép ghi lại thao tác với chuột và bàn phím. Đây là một phần trong chiến dịch lớn hơn của công ty nhằm xây dựng tác nhân AI có thể làm việc tự động. MCI hoạt động trên các ứng dụng và website liên quan đến công việc. Ngoài thu thập dữ liệu chuột và bàn phím, nó cũng sẽ chụp ảnh màn hình định kỳ nội dung trên màn hình.
Meta cuối tháng trước cũng thông báo cắt giảm 10% lực lượng lao động, tương đương 8.000 nhân viên, vào ngày 20/5. Những người bị ảnh hưởng dự kiến nhận gói thôi việc gồm 16 tuần lương cơ bản, cộng thêm hai tuần cho mỗi năm làm việc. Nhiều nhân viên gọi khoảng thời gian chờ nhận email sa thải là "28 ngày địa ngục", khi không biết liệu mình có nằm trong danh sách.
Đây được coi là đợt sa thải quy mô lớn đầu tiên, mở đường cho kế hoạch cắt giảm nhân sự kéo dài trong năm 2026 để tái cơ cấu cho AI. Đợt sa thải tiếp theo dự kiến diễn ra vào nửa cuối năm.
