Trong khi nhiều công ty AI thừa nhận rằng người dùng sẽ phải sống chung với hiện tượng 'Ảo giác AI', một thị trường ngách mới đang âm thầm hình thành: bảo hiểm cho những sai lầm của AI. Các công ty bảo hiểm tại Lloyd's of London, trung tâm bảo hiểm danh tiếng thế giới, vừa ra mắt sản phẩm bảo vệ doanh nghiệp khỏi thiệt hại tài chính do AI gây ra, đặc biệt là hiện tượng 'hallucination' (ảo giác) của các chatbot thông minh. Sản phẩm mới này do Armilla, một startup được hỗ trợ bởi quỹ đầu tư Y Combinator phát triển, nhắm vào nhu cầu ngày càng tăng của các doanh nghiệp đang lo lắng về rủi ro pháp lý từ công nghệ AI.
Sản phẩm bảo hiểm này chi trả cho các khoản kiện tụng nếu công ty bị khách hàng hoặc bên thứ ba kiện vì bị tổn hại do công cụ AI hoạt động kém hiệu quả. Được bảo lãnh bởi nhiều công ty bảo hiểm tại Lloyd's, hợp đồng bảo hiểm này chi trả các chi phí bồi thường thiệt hại và phí pháp lý liên quan.
Sự ra đời của sản phẩm bảo hiểm này không phải không có lý do. Gần đây, nhiều trường hợp AI "phát ngôn bừa" đã gây ra những tình huống đáng xấu hổ và tốn kém cho các doanh nghiệp. Điển hình như Virgin Money phải công khai xin lỗi vào tháng 1 sau khi chatbot AI của họ quở trách khách hàng vì sử dụng từ 'virgin' - chính là tên của công ty.
Trong một trường hợp khác, tập đoàn chuyển phát DPD buộc phải vô hiệu hóa một phần chatbot dịch vụ khách hàng sau khi nó chửi thề khách hàng và mỉa mai gọi chính chủ sở hữu là "công ty dịch vụ giao hàng tồi tệ nhất thế giới". Nghiêm trọng hơn, một tòa án năm ngoái đã buộc Air Canada phải tôn trọng mức giảm giá mà chatbot dịch vụ khách hàng của hãng đã tự bịa ra.
Karthik Ramakrishnan, Giám đốc điều hành của Armilla, cho biết sản phẩm mới này có thể khuyến khích nhiều doanh nghiệp áp dụng AI hơn, vì nhiều công ty hiện đang e ngại rằng các công cụ như chatbot sẽ gặp trục trặc. "Chúng tôi đánh giá mô hình AI, tạo điều kiện thuận lợi cho xác suất xuống cấp của nó, và sau đó bồi thường nếu mô hình xuống cấp," Ramakrishnan giải thích.
Trong khi một số công ty bảo hiểm đã bao gồm tổn thất liên quan đến AI trong các hợp đồng bảo hiểm lỗi và thiếu sót công nghệ chung, những hợp đồng này thường chỉ bao gồm giới hạn thấp đối với các khoản bồi thường. Preet Gill, một nhà môi giới tại Lockton, công ty cung cấp sản phẩm của Armilla cho khách hàng, cho biết một hợp đồng thông thường có thể bao gồm tới 5 triệu USD cho các tổn thất nhưng có thể chỉ quy định giới hạn phụ 25.000 USD cho các trách nhiệm pháp lý liên quan đến AI.
Tom Graham, người đứng đầu quan hệ đối tác tại Chaucer, một công ty bảo hiểm tại Lloyd's đang bảo lãnh cho các hợp đồng do Armilla bán, nhấn mạnh rằng công ty của ông sẽ không ký hợp đồng bảo hiểm cho các hệ thống AI mà họ đánh giá là quá dễ bị hỏng. "Chúng tôi sẽ chọn lọc, giống như bất kỳ công ty bảo hiểm nào khác," ông nói.
Hiện tượng 'hallucination' của AI đang trở thành mối quan tâm ngày càng lớn trong ngành công nghệ. Thuật ngữ này được các nhà khoa học máy tính sử dụng để mô tả hiện tượng khi thuật toán tạo ra thông tin có vẻ đáng tin cậy nhưng thực tế lại sai hoặc gây hiểu lầm. Trong khi một số lỗi tương đối vô hại - như chatbot đưa ra câu trả lời sai - thì những lỗi khác có thể có hậu quả nghiêm trọng, đặc biệt trong các lĩnh vực nhạy cảm như vụ kiện pháp lý hoặc quyết định bảo hiểm y tế.
Đáng lo ngại hơn, mặc dù các công ty như OpenAI và Google đã cải tiến để giảm tỷ lệ ảo giác, vấn đề này lại có xu hướng trầm trọng hơn với các mô hình lý luận mới. Đánh giá nội bộ của OpenAI cho thấy mô hình tiên tiến nhất của họ, o3, tạo ra ảo giác 33% thời gian trên chuẩn PersonQA (kiểm tra khả năng trả lời câu hỏi về nhân vật công khai) - cao gấp đôi so với mô hình o1 trước đó.
Giống như các mô hình AI, thị trường bảo hiểm cũng đang thích ứng và phát triển. Sự xuất hiện của các sản phẩm bảo hiểm cho AI là minh chứng cho thực tế rằng công nghệ này, dù mạnh mẽ và hứa hẹn, vẫn còn nhiều rủi ro và bất trắc. Trong khi các doanh nghiệp tiếp tục đầu tư vào công nghệ AI để tăng hiệu quả và cạnh tranh, các công ty bảo hiểm đang nhanh chóng nắm bắt cơ hội kinh doanh từ chính những rủi ro này.
Hiện tượng "hallucination" của AI không chỉ giới hạn trong chatbot mà còn bao gồm nhiều ứng dụng khác như phân tích dữ liệu, dự báo thị trường và tự động hóa quy trình làm việc. Ví dụ, một hệ thống phân tích dữ liệu AI có thể đưa ra kết quả sai lệch do sử dụng mô hình học máy không chính xác hoặc thiếu dữ liệu đa dạng. Điều này có thể dẫn đến quyết định kinh doanh không phù hợp, gây tổn thất tài chính và uy tín cho công ty.
Ngoài ra, các lỗi của AI cũng có thể xuất phát từ yếu tố con người. Các kỹ sư AI thường gặp khó khăn trong việc kiểm tra và debug mô hình phức tạp, đặc biệt là khi chúng hoạt động ở quy mô lớn. Điều này làm tăng nguy cơ xảy ra "hallucination" và gây ra hậu quả không mong muốn.
Các công ty bảo hiểm cũng đang nỗ lực cải thiện sản phẩm của mình để đáp ứng nhu cầu ngày càng cao từ thị trường. Họ đang hợp tác với các nhà nghiên cứu AI để phát triển các chỉ số đánh giá rủi ro AI, giúp khách hàng hiểu rõ hơn về mức độ nguy cơ và lựa chọn gói bảo hiểm phù hợp.
Trong tương lai, việc áp dụng AI sẽ trở nên phổ biến hơn trong nhiều lĩnh vực khác nhau. Điều này đồng nghĩa với việc nhu cầu về bảo hiểm cho AI cũng tăng lên. Các công ty như Armilla đang nắm bắt xu hướng này để cung cấp giải pháp toàn diện cho doanh nghiệp, giúp họ giảm bớt lo lắng về rủi ro và tập trung vào mục tiêu kinh doanh chính.
Tuy nhiên, việc phát triển sản phẩm bảo hiểm AI cũng đặt ra nhiều thách thức. Đầu tiên là vấn đề xác định rủi ro cụ thể của từng mô hình AI. Thứ hai là xây dựng các quy trình đánh giá rủi ro hiệu quả và công bằng. Cuối cùng, cần có sự hợp tác chặt chẽ giữa các bên liên quan như nhà nghiên cứu AI, doanh nghiệp và công ty bảo hiểm để đảm bảo sản phẩm cuối cùng đáp ứng được nhu cầu thực tế của thị trường.
Những phát triển này không chỉ ảnh hưởng đến ngành bảo hiểm mà còn mở ra nhiều cơ hội mới cho các startup và công ty công nghệ. Họ có thể tận dụng kiến thức chuyên môn để tạo ra giải pháp sáng tạo, giúp doanh nghiệp quản lý rủi ro AI một cách hiệu quả hơn.
Theo bài viết của XU HƯỚNG 24
Bình luận