Lo ngại AI vượt tầm kiểm soát của nhân loại, Anthropic cảnh báo toàn cầu

Lo ngại AI vượt tầm kiểm soát của nhân loại, Anthropic cảnh báo toàn cầu

Hãng AFP ngày 5.6 đưa tin Công ty Anthropic vừa đề xuất tạm dừng toàn cầu việc xây dựng các hệ thống trí tuệ nhân tạo (AI) mạnh nhất, vì những mô hình mới nhất bắt đầu thể hiện dấu hiệu có thể vượt tầm kiểm soát của con người.

Công ty Anthropic, có trụ sở tại San Francisco (Mỹ) và sản xuất các mô hình AI Claude, cho biết việc giảm tốc trong phát triển AI tiên tiến trên toàn cầu có thể là một điều tốt, nhưng cảnh báo rằng nếu chỉ một công ty dừng lại, các đối thủ sẽ dễ dàng vượt lên trước.

“Chúng tôi tin rằng sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm dừng sự phát triển của AI tiên tiến để cho phép các cấu trúc xã hội và nghiên cứu điều chỉnh theo kịp sự tiến bộ của công nghệ”, báo cáo của Anthropic cho biết.

Theo đó, để việc tạm dừng thực sự có hiệu quả, cần nhiều công ty AI lớn ở nhiều quốc gia – nhất là Mỹ và Trung Quốc – đồng ý dừng lại vào cùng một thời điểm, theo các quy tắc mà mọi người đều có thể xác minh được.

“Nếu không có cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ phải đưa ra những quyết định khó khăn về an toàn trong bối cảnh cạnh tranh và áp lực địa chính trị”, báo cáo cho biết.

Cảnh báo trên được đưa ra cùng với dữ liệu nội bộ cho thấy AI đang đẩy nhanh đáng kể sự phát triển của chính công nghệ này.

Sự tăng tốc đó tạo ra một vòng phản hồi mà Anthropic cảnh báo có thể dẫn đến điều mà các nhà nghiên cứu gọi là “sự tự cải thiện mang tính đệ quy”. Đây là ý tưởng về một hệ thống AI có khả năng tự học để trở nên thông minh hơn, mà không cần nhiều sự trợ giúp của con người.

“Bằng chứng cho thấy vai trò của con người đang giảm dần ở mỗi giai đoạn trong quá trình phát triển AI”, Anthropic cho biết.

Anthropic đã vấp phải sự phản đối từ các bên khác trong ngành và các quan chức Nhà Trắng, những người cho rằng việc tập trung vào các kịch bản xấu nhất đã phóng đại rủi ro và là một chiến lược nhằm làm chậm bước tiến của các đối thủ.

Tuy nhiên, Nhà Trắng đã thừa nhận sức mạnh của mô hình Mythos của Anthropic, vốn chưa được cung cấp cho công chúng do khả năng bảo mật mạng và hiện chỉ được triển khai cho một số ít tổ chức được thẩm định.

Tin Gốc: Thanh Niên