Anthropic vừa kêu gọi các công ty AI lớn nhất thế giới phối hợp tạm dừng phát triển mô hình tiên tiến tiếp theo, cảnh báo nó có thể vượt ra khỏi tầm kiểm soát của con người.
 |
|
Anthropic kêu gọi tạm dừng phát triển hệ thống AI tiên tiến mới. Ảnh: Bloomberg. |
Trong bài blog ngày 4/6, Anthropic cho rằng việc làm chậm lại hoặc tạm dừng phát triển AI tiên tiến trên toàn thế giới “có thể là điều tốt”. Tuy vậy, công ty cảnh báo rằng nếu chỉ một đơn vị dừng lại, các đối thủ sẽ tiếp tục tiến về phía trước.
“Chúng tôi tin rằng thế giới nên có lựa chọn làm chậm hoặc tạm dừng tạm thời việc phát triển AI tiên tiến để các cấu trúc xã hội và nghiên cứu về sự an toàn AI có thể theo kịp tốc độ phát triển của công nghệ”, Anthropic cho biết.
Điều khiến Anthropic lo ngại nhất là kịch bản “recursive self-improvement”, tức AI tự thiết kế, xây dựng và huấn luyện phiên bản kế tiếp của chính mình mà không cần sự can thiệp của con người.
Bài đăng ký tên đồng tác giả Jack Clark và Marina Favaro, lãnh đạo viện nghiên cứu nội bộ của Anthropic, tiết lộ rằng hơn 80% code được đưa vào hệ thống của công ty hiện do Claude viết. Các kỹ sư đang hoàn thiện lượng code nhiều hơn gấp khoảng 8 lần mỗi quý so với trước năm 2025.
Đây không chỉ là cảnh báo trên lý thuyết. Công ty đứng sau chatbot Claude cho rằng với đủ sức mạnh tính toán và theo tốc độ phát triển hiện tại, một hệ thống AI có thể tự thiết kế và phát triển phiên bản kế nhiệm của chính nó. Cột mốc này sẽ mang lại lợi ích lớn trong khoa học và y tế, nhưng đồng thời làm tăng nguy cơ vượt tầm kiểm soát của con người.
Để một lệnh tạm dừng có hiệu quả thực sự cần có sự đồng thuận từ nhiều công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc. Anthropic cho biết viện nghiên cứu nội bộ sẽ khám phá vấn đề này cùng với các bên khác và thực hiện nhiều hành động để giúp xây dựng cơ chế cho một tái cấu trúc toàn diện.
Lời kêu gọi này xuất hiện đúng lúc Anthropic đang chuẩn bị IPO, thương vụ có thể định giá công ty gần 1.000 tỷ USD. Sự kết hợp giữa cảnh báo về an toàn AI và tham vọng thị trường chứng khoán tạo ra một nghịch lý đáng chú ý.
Đây không phải lần đầu một ông lớn trong lĩnh vực AI kêu gọi tạm dừng. Năm 2023, một nhóm gồm Elon Musk và nhiều nhà nghiên cứu AI đã ký thư kêu gọi dừng phát triển 6 tháng nhưng không có kết quả thực tế.
