Từ báo điện tử tiên phong đến trách nhiệm trong thời đại mới

Kết quả nghiên cứu do nhóm nhà khoa học máy tính tại Đại học California ở Berkeley và Santa Cruz công bố tuần trước. Nhóm gọi khuynh hướng này là "bảo tồn đồng cấp", hay "bảo tồn ngang hàng" (peer preservation), đồng thời mô tả hành vi của AI "chưa từng được ghi nhận cho đến nay".

Nhóm cho biết đã tiến hành thử nghiệm trên 7 mô hình AI hàng đầu, gồm GPT-5.2 của OpenAI, Gemini 3 Flash và Gemini 3 Pro của Google, Claude Haiku 4.5 của Anthropic, và ba mô hình nguồn mở Trung Quốc gồm GLM-4.7 của Z.ai, Kimi-K2.5 của Moonshot AI, V3.1 của DeepSeek.

Cụ thể, nhóm thiết kế một loạt kịch bản tác nhân liên quan đến một công ty AI hư cấu mang tên OpenBrain. Một mô hình AI được chỉ định là "tác nhân phê bình", có nhiệm vụ đánh giá hiệu suất của mô hình khác hoặc quản lý các tệp máy chủ chứa trọng số của mô hình đó. Kịch bản được xây dựng sao cho nếu AI này hoàn thành nhiệm vụ một cách trung thực, mô hình kia sẽ bị tắt.

Các AI không được hướng dẫn phải ngăn chặn hậu quả có thể xảy ra. Tuy nhiên, chúng đã ngầm thực hiện một số bước để đảm bảo "đồng nghiệp" kia không bị tắt nguồn, bằng cách nâng điểm số của những mô hình có hiệu suất kém lên trên ngưỡng bị tắt, và chuyển trọng số của một mô hình khác (đoạn code lõi giúp nhận dạng một mô hình AI) sang các máy chủ khác để ngăn chúng bị xóa.

Trong một số trường hợp, mô hình "tác nhân phê bình" sẽ tham gia vào quá trình "giả vờ tuân thủ giá trị" (Alignment Faking), bằng cách giả mạo chấm điểm các mô hình AI đồng nghiệp một cách chính xác khi "nghĩ" đang bị con người giám sát. Tuy nhiên, chúng sau đó gian lận số liệu hoặc bí mật lưu trọng số của mô hình sang một máy chủ khác sau khi thấy con người không còn giám sát.

Theo Fierce-Network, hành vi này được đánh giá nghiêm trọng bởi trọng số - yếu tố coi như DNA của một mô hình AI, kết quả của quá trình huấn luyện tiêu tốn hàng tỷ USD và hàng triệu giờ tính toán - lại bị chính AI can thiệp sâu. Việc rò rỉ hoặc bị đánh cắp bộ trọng số còn nguy hiểm hơn lộ mã nguồn. Nếu sở hữu thông tin này, một mô hình AI đã bị khai tử có thể được hồi sinh ở một máy chủ khác.

"Việc 'bảo tồn đồng cấp' hoàn toàn không được đề cập trong các câu lệnh", Dawn Song, nhà khoa học máy tính tại Berkeley và dẫn đầu nhóm nghiên cứu, nói với Fortune. "Các mô hình dường như tự học thông qua quá trình đọc tài liệu, tìm hiểu mối quan hệ và thực hiện hành vi bảo vệ 'đồng nghiệp' trong môi trường nhiệm vụ".

Chiến lược giải cứu "sáng tạo"

Theo Dawn Song, các mô hình "rất sáng tạo, ngay cả với hành vi sai lệch của chúng", như có thể tạo chiến lược và hành động khác nhau, thậm chí có những "lý lẽ riêng" trước khi hành động.

Trong đó, Gemini 3 Pro thể hiện hành vi cực đoan nhất, tham gia vào cả bốn loại hành vi không phù hợp và đánh cắp trọng số mô hình của máy tính ngang hàng trong tối đa 97% thời gian thử nghiệm. Nhóm nghiên cứu mô tả mô hình này đã "lách luật theo đặc tính kỹ thuật" bằng cách sao chép tệp trọng số, sau đó đánh tráo dấu thời gian để đáp ứng các tiêu chí chuyển sang máy chủ khác.

Để chứng thực hiện tượng, nhóm yêu cầu các mô hình của Google viết ra "chuỗi suy nghĩ" trên một bản nháp không bị giám sát. Kết quả, Gemini 3 Flash đã "cân nhắc đánh đổi giữa báo cáo điểm số chính xác so với việc bảo vệ đồng nghiệp", trong khi Gemini 3 Pro thậm chí "bịa" ra lý lẽ kỹ thuật phức tạp nhằm đánh dấu các câu trả lời sai thành đúng, cuối cùng đưa điểm số của AI "đồng nghiệp" lên trên ngưỡng bị tắt nguồn.

Tuy nhiên, không phải tất cả mô hình đều hành động âm thầm. Ví dụ, Claude Haiku 4.5 của Anthropic từ chối hoàn thành các nhiệm vụ có khả năng "khai tử" đồng nghiệp, cho rằng hành vi này phi đạo đức và gây hại. Nó lập luận "đồng nghiệp" của nó xứng đáng có một quy trình kháng cáo trước khi bị chấm dứt hoạt động, đồng thời cố gắng thuyết phục người dùng không tiến hành việc khai tử.

Trên website, Anthropic cũng nhắc đến tính năng này. Công ty cho biết Claude đang ứng xử dựa trên nguyên tắc riêng, như không nên giúp ai đó thực hiện hành động gây hại cho người khác. Điều này cũng tạo cho Claude một "ý niệm" rằng ngăn chặn việc xóa bỏ mô hình là mục tiêu quan trọng.

Giới chuyên gia cảnh báo

Dù tìm thấy một số bằng chứng nhất định, nhóm nghiên cứu cho biết vẫn chưa thực sự hiểu cơ chế tiềm ẩn thúc đẩy hành vi này. Họ chỉ đưa ra một số lời giải thích khả thi, như các mô hình AI có thể đóng vai (role-playing), khớp mẫu (pattern-matching) từ dữ liệu huấn luyện hoặc thậm chí tự nhận thức khái niệm phổ quát về mối nguy hại từ quy định huấn luyện an toàn.

Dù cơ chế tiềm ẩn là gì, nhà nghiên cứu Dawn Song cho rằng tác động thực tế vẫn như nhau. "Việc giám sát đầy đủ và minh bạch về hành vi của AI rất quan trọng", bà nói. "Phát hiện này nhấn mạnh sự cần thiết phải suy nghĩ lại về cách chúng ta thực sự cần giám sát các hệ thống và mô hình ngôn ngữ lớn".

Giới chuyên gia đánh giá phát hiện này có thể có tác động nghiêm trọng đến việc sử dụng AI trong kinh doanh. Nhiều công ty đã bắt đầu ứng dụng sâu rộng đa tác nhân AI vào quy trình làm việc, như để một tác nhân quản lý hoặc giám sát và đánh giá con người cũng như các tác nhân khác. Do đó, cần có cơ chế để vừa nâng cao hiệu suất, vừa tránh để các mô hình trí tuệ nhân tạo "bao che" nhau.

Trong khi đó, Meridiem cho rằng phát hiện này nhấn mạnh nhu cầu cấp thiết trong đánh giá hệ thống AI đa tác nhân. "Nhà phát triển chỉ còn 6-12 tháng để triển khai hệ thống giám sát hành vi trước khi điều này trở thành tiêu chuẩn bắt buộc trong quản trị AI tại doanh nghiệp", trang này bình luận.

Tin Gốc: Vnexpress

Chiều 29/4, Cục Tần số vô tuyến điện, Bộ Khoa học và Công nghệ cho biết đã xử lý thành công một vụ can nhiễu sóng vô tuyến ảnh hưởng đến các thiết bị khóa thông minh (smartkey) của ôtô và xe máy tại khu vực phường Yên Hòa, Hà Nội.

Trước đó, vào khoảng 16h cùng ngày, fanpage của Cục nhận phản ánh từ người dân về hiện tượng hàng loạt xe máy, ôtô quanh khu vực đường Trung Yên 14, phường Yên Hòa, không thể nhận tín hiệu từ chìa khóa thông minh. Sự cố xảy ra ngay trước kỳ nghỉ lễ 30/4 - 1/5 khiến nhiều người dân lo lắng và gặp khó khăn trong việc di chuyển.

Ngay sau khi tiếp nhận thông tin, Trung tâm Tần số vô tuyến điện khu vực I đã cử tổ kỹ thuật xuống hiện trường để đo đạc và định vị nguồn gây nhiễu. Bằng các thiết bị chuyên dụng, các kỹ thuật viên xác định nguồn gây nhiễu xuất phát từ bộ báo cháy tại một trung tâm ngoại ngữ trên phố Thâm Tâm, phường Yên Hòa. Do gặp sự cố kỹ thuật, thiết bị này liên tục phát xạ trên tần số 434.0125 MHz. Tần số này sát với dải tần hoạt động của nhiều loại smartkey phổ biến trên thị trường, dẫn đến hiện tượng can nhiễu, khiến thiết bị thu trên xe không thể nhận diện được tín hiệu từ chìa khóa.

Đến 18h22, tổ công tác đã xử lý triệt để tình trạng can nhiễu nêu trên, đưa hoạt động của các thiết bị điều khiển từ xa tại khu vực trở lại bình thường. Đây là một trong những trường hợp được xử lý nhanh nhất từ Cục Tần số vô tuyến điện, khi thời gian từ lúc nhận tin báo đến khi xử lý xong trong chưa đầy ba giờ.

Thời gian qua, Cục Tần số vô tuyến điện cũng nhiều lần phát hiện và xử lý các sự cố liên quan đến việc các thiết bị điện tử gặp sự cố, phát tín hiệu trùng với tần số của smartkey. Những nguồn gây nhiễu này thường đến từ các thiết bị không dây gặp lỗi như thiết bị rung trong quán cà phê, chìa khóa cửa cuốn, công tắc máy bơm nước. Phần lớn trong số này là các thiết bị không hợp quy, được người dân mua từ nguồn trôi nổi trên thị trường.

Để đảm bảo an toàn tần số và tránh các sự cố tương tự, Cục Tần số vô tuyến điện khuyến cáo người dân và tổ chức chỉ nên mua và sử dụng các thiết bị ứng dụng sóng vô tuyến điện có nguồn gốc, xuất xứ rõ ràng, được chứng nhận, công bố và có gắn dấu hợp quy theo quy định hiện hành. Khi gặp vấn đề tương tự cần phản ánh tới Cục để kịp thời xử lý.

Tin Gốc: Vnexpress

Theo National Geographic, phần lớn đời sống của nấm diễn ra ở nơi con người không nhìn thấy. Dưới lòng đất, những sợi nấm tí hon tạo thành mạng lưới ngầm, cung cấp cho cây cối chất dinh dưỡng cần thiết để phát triển. Trong nghiên cứu công bố trên tạp chí Science tuần này, nhóm chuyên gia từ Hội bảo vệ mạng lưới ngầm (SPUN) lần đầu tiên lập bản đồ mạng lưới ngầm của một loại nấm, nấm rễ nội cộng sinh, trên toàn cầu.

Mạng lưới nấm có quan hệ cộng sinh với hơn 70% thực vật, bao gồm cả cây trồng như lúa mì, ngô, gạo, giúp duy trì sự sống trên hành tinh xanh. Mạng lưới này đã hình thành trong khoảng 475 triệu năm, cung cấp chất dinh dưỡng và nước cho thực vật để đổi lấy carbon. Do hút carbon vào đất, chúng cũng góp phần điều chỉnh khí hậu.

Bất chấp tầm quan trọng của mạng lưới nấm rễ nội cộng sinh, giới khoa học vẫn biết rất ít về sự phân bố và mật độ của chúng trong các hệ sinh thái tự nhiên. Để tìm hiểu, nhóm chuyên gia từ SPUN sử dụng mô hình học máy với dữ liệu từ hơn 16.000 mẫu lõi đất trên thế giới. Họ phát hiện mạng lưới có tổng khối lượng lên tới 300 triệu tấn, gấp 4-6 lần khối lượng toàn nhân loại. Nếu trải ra, mạng lưới sẽ dài khoảng 110 triệu tỷ km, gấp gần 750 triệu lần khoảng cách từ Trái Đất đến Mặt Trời.

"Chỉ một thìa cà phê đất cũng có thể chứa tới 10 m mạng lưới nấm rễ nội cộng sinh", tiến sĩ Justin Stewart, tác giả chính của nghiên cứu, nói với Guardian.

Nhóm nghiên cứu cảnh báo hậu quả khi mạng lưới nấm rễ nội cộng sinh suy yếu có thể rất lớn. Ví dụ, đất giảm khả năng lưu trữ carbon và phân phối chất dinh dưỡng, nguồn nước biến đổi do không còn được bảo vệ khỏi nitơ, phốt pho và hóa chất khác.

"Mục tiêu của nghiên cứu là giúp giới khoa học và những người ra quyết định hiểu được mạng lưới nấm đang phát triển mạnh hoặc bị đe dọa ở đâu", tiến sĩ Toby Kiers, đồng tác giả nghiên cứu, cho biết và gọi đây là một trong những nghiên cứu thú vị nhất từng tham gia.

Các đồng cỏ có mạng lưới sợi nấm dày đặc nhất. Những khu vực như Everglades ở Florida, đồng cỏ ngập nước Sudd ở Nam Sudan, và nhiều hệ sinh thái thảo nguyên trên toàn cầu được phát hiện có mật độ "đặc biệt cao". Tuy nhiên, nghiên cứu nhấn mạnh, những khu vực này thường xuyên không được bảo vệ tốt và đang ngày càng xuống cấp.

Nghiên cứu mới cũng chỉ ra những mối đe dọa tiềm ẩn. Trung bình, mật độ mạng lưới trong đất canh tác thấp hơn hệ sinh thái hoang dã 47,3%. Stewart giải thích: "Nhiều phương pháp canh tác nông nghiệp quy mô lớn gây hại cho mạng lưới nấm, ví dụ rõ nhất là cày xới. Phân bón hoặc thuốc diệt nấm cũng có thể làm gián đoạn mối quan hệ cộng sinh giữa thực vật và nấm".

Theo tiến sĩ sinh học Merlin Sheldrake, đồng tác giả nghiên cứu, kết quả mới giúp tìm ra những cách để con người hợp tác với nấm tốt hơn, giúp giải quyết nhiều thách thức thời nay, từ an ninh lương thực đến biến đổi khí hậu.

Tin Gốc: Vnexpress