Với các tổ chức đang đánh giá AI cho ứng dụng thực tế, nghiên cứu của Anthropic mang đến nhiều cảnh báo. Claude 'sống đúng' với triết lý 'hữu ích - trung thực - vô hại', nhưng không phải lúc nào cũng vậy. Anthropic đã xây dựng hệ thống phân loại giá trị đạo đức đầu tiên dựa trên dữ liệu thực, với 5 nhóm lớn: Thực dụng, Nhận thức, Xã hội, Bảo vệ và Cá nhân. Bên trong là hơn 3.300 giá trị nhỏ - từ 'lòng tự trọng' đến 'hiếu thảo', 'khiêm tốn trí tuệ' đến 'tư duy chiến lược'. Đây không chỉ là bản đồ đạo đức của Claude, mà còn giúp con người hiểu hơn về chính mình.
Anthropic hiện được định giá 61,5 tỷ USD, với hậu thuẫn từ Amazon (8 tỷ USD) và Google (hơn 3 tỷ USD). Việc công khai bộ dữ liệu giá trị đạo đức cũng là một chiến lược cạnh tranh rõ ràng với OpenAI, đối thủ đang được Microsoft rót vốn và định giá lên đến 300 tỷ USD. Dù phương pháp phân tích còn nhiều hạn chế - chẳng hạn việc định nghĩa 'giá trị' vẫn mang tính chủ quan, và khó áp dụng cho các mô hình chưa triển khai - đây vẫn là bước tiến quan trọng để giúp cộng đồng hiểu rõ hơn: khi AI ngày càng mạnh, nó không chỉ phản hồi, mà còn đưa ra lựa chọn đạo đức.
Anthropic kết luận rằng 'AI sẽ phải ra quyết định có giá trị đạo đức, dù ta muốn hay không'. Để đảm bảo những quyết định đó phản ánh giá trị của con người, chúng ta cần có cách đo lường và kiểm chứng cụ thể - ngay từ bây giờ. Việc này đòi hỏi sự hợp tác giữa các nhà nghiên cứu AI, doanh nghiệp công nghệ và chính phủ để xây dựng tiêu chuẩn đạo đức cho AI.
Theo bài viết của XU HƯỚNG 24
Bình luận