Amazon vượt ngân sách 860% khi dùng AI Claude Sonnet cho một tác vụ đối chiếu dữ liệu, tiêu tốn thêm 1,8 triệu USD trong nhiều dự án nội bộ.

Theo báo cáo nội bộ được tờ Financial Times tiếp cận, Amazon đang phải đối mặt với tình trạng chi tiêu vượt mức nghiêm trọng khi triển khai các mô hình trí tuệ nhân tạo vào quy trình làm việc. Những sai sót vốn dĩ “gần như không tốn kém gì” trong quá khứ giờ đây trở nên “đắt đỏ đến mức thảm khốc” khi lượng token tiêu thụ tăng vọt, đặc biệt sau khi công ty đưa các AI agent vào vận hành tự động.

Sự cố lớn nhất được ghi nhận liên quan đến việc triển khai mô hình Claude Sonnet nhằm đối chiếu thông tin tác giả với các danh mục sản phẩm trên nền tảng Amazon. Dự án này đã tiêu tốn thêm 1,8 triệu USD, tương đương mức vượt ngân sách lên tới 860%, và vấn đề chỉ được phát hiện sau khoảng năm tháng kể từ khi bắt đầu phát sinh chi phí bất thường.

Nhiều dự án khác cũng đội vốn vì AI

Không chỉ dừng lại ở đó, một dự án xây dựng công cụ kiểm toán tài chính cũng phát sinh thêm 541.000 USD chi phí ngoài dự kiến — một sự trớ trêu đáng chú ý khi chính công cụ dùng để kiểm soát tài chính lại gây thất thoát ngân sách. Tương tự, một hệ thống được thiết kế nhằm rút ngắn thời gian giao hàng trong mạng lưới logistics của Amazon cũng khiến công ty phát sinh thêm 134.000 USD.

Phản hồi trước những con số này, Amazon cho biết trong một bài trình bày nội bộ rằng: “Như với bất kỳ công nghệ mới nào, chúng tôi đang thử nghiệm, học hỏi và cải thiện cách sử dụng nó, bao gồm cả cách tối ưu chi phí”. Công ty cũng cho rằng việc chọn lọc vài ví dụ nhỏ lẻ rồi coi đó là hoạt động thường nhật không phản ánh đúng cách các đội nhóm trên toàn Amazon đang sử dụng AI.

Xét về quy mô, dù con số hơn 1 triệu USD nghe có vẻ lớn với người bình thường, nhưng doanh thu quý gần nhất của Amazon đạt hơn 181 tỷ USD, đồng nghĩa các khoản chi vượt mức này thậm chí chưa chiếm tới 0,1% doanh thu một tháng của tập đoàn.

Bài học từ những lần AI gây gián đoạn trước đó

Đây không phải lần đầu Amazon gặp trục trặc liên quan đến AI trong vận hành. Trước đó trong năm nay, AWS từng ghi nhận một số sự cố gián đoạn dịch vụ do lỗi từ các bot lập trình AI gây ra. Công ty đã khắc phục bằng cách giới hạn quyền truy cập của các AI agent, thay vì cấp quyền tương đương với các kỹ sư cấp cao mà chúng hỗ trợ. Amazon cũng từng vận hành một bảng xếp hạng nội bộ theo dõi mức độ sử dụng AI của nhân viên, nhưng đã loại bỏ chính sách này khi chi phí AI tăng vọt ngoài tầm kiểm soát.

Xu hướng thúc đẩy nhân viên sử dụng AI để tăng năng suất đang diễn ra rộng rãi trong ngành công nghệ. Tuy nhiên, CTO của Uber từng nhận định rằng không có mối liên hệ rõ ràng nào giữa chính sách này và khả năng đưa ra sản phẩm thành công. Khi các AI agent được giao quyền tự chủ nhiều hơn và các nhà cung cấp chuyển từ mô hình thuê bao sang tính phí theo token, chi phí đã tăng đến mức nhiều công ty tiêu hết ngân sách cả năm chỉ trong vài tuần. Với các tập đoàn lớn như Amazon hay Microsoft, đây chưa phải vấn đề cấp bách, nhưng với phần lớn doanh nghiệp khác, đây là mức chi phí khó có thể duy trì lâu dài.

Nguồn tham khảo: tomshardware.com