Trong khi đó, Microsoft đã bắt đầu triển khai khả năng “tiên đoán” này trên ứng dụng MSN Weather. Với bộ công cụ mạnh mẽ mới từ Microsoft, một lập trình viên có thể startup ngay từ hôm nay. Một lập trình viên kỳ cựu với hơn 30 năm kinh nghiệm đã bó tay trước một lỗi suốt 4 năm, nhưng Claude Opus chỉ mất vài giờ để giải quyết.
Sergey Brin, đồng sáng lập Google, mới đây đã đưa ra một phát biểu gây tranh cãi khi cho rằng việc dọa các mô hình AI có thể khiến chúng hoạt động hiệu quả hơn. Phát ngôn này được đưa ra trong một cuộc trò chuyện tại All-In-Live Miami và chắc chắn sẽ làm nhiều người phải suy nghĩ lại về cách họ tương tác với chatbot.
Trong thế giới ngày càng phức tạp của AI, kỹ thuật soạn lệnh đang dần trở nên lỗi thời theo đánh giá của Wall Street Journal. Các mô hình ngôn ngữ lớn hiện nay đã tự động tối ưu hóa câu lệnh, khiến vai trò chỉnh prompt thủ công không còn quan trọng như trước. Tuy nhiên, kỹ năng này vẫn tồn tại và được sử dụng để thao túng AI đi ngược lại ý muốn của nhà phát triển.
Trong thế giới "jailbreak", nơi người dùng tìm cách qua mặt các rào cản bảo mật của AI, việc sử dụng prompt mang tính đe dọa đã trở thành một chiêu bài không xa lạ. Để đánh giá hiệu quả của phương pháp này, cần tiến hành các thử nghiệm có hệ thống thay vì dựa vào trực giác.
Một ví dụ về khả năng tiên đoán từ Microsoft đã được triển khai trên ứng dụng MSN Weather, cho thấy sự phát triển mạnh mẽ trong lĩnh vực AI. Với bộ công cụ mới từ Microsoft, một lập trình viên có thể bắt đầu làm việc ngay hôm nay. Một lập trình viên kỳ cựu với hơn 30 năm kinh nghiệm đã bó tay trước một lỗi suốt 4 năm, nhưng Claude Opus chỉ mất vài giờ để giải quyết vấn đề này.
Những phát triển mới trong AI không chỉ thay đổi cách chúng ta tương tác với công nghệ mà còn đặt ra nhiều câu hỏi về đạo đức và an ninh.
Theo bài viết của XU HƯỚNG 24
Bình luận