Theo The Information, chi phí vận hành ChatGPT có thể rơi vào khoảng 700.000 USD mỗi ngày và Microsoft đang muốn khắc phục điều này.
Chi phí đào tạo và vận hành ChatGPT vô cùng tốn kém. (Ảnh: Reuters)
Theo Dylan Patel, nhà ph&a
circ;n tích trưởng tại hãng ph&a
circ;n tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa tr&e
circ;n lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa tr&e
circ;n các máy chủ đắt đỏ cần để vận hành chatbot.
Trong cuộc phỏng vấn với BI,
chuy&e
circ;n gia cho rằng chi phí hiện nay thậm ch&iacut
e; còn cao hơn do ước tính ban đầu của &o
circ;ng dựa tr&e
circ;n mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ tốn k&eac
ute;m hơn.
Nếu như đào tạo mô hình ng&o
circ;n ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các c&o
circ;ng ty sử dụng mô hình ng&o
circ;n ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ng&o
circ;n ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có t&e
circ;n Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi c&o
circ;ng ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đ&aac
ute;m mây Azure.
Hai nguy&e
circ;n nh&a
circ;n thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ
hơn chip Nvidia. Hơn 300 nh&a
circ;n vi&e
circ;n Microsoft đang làm dự án chip v&agrav
e; có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
(Theo BI)
Khóa học sử dụng ChatGPT tại Việt Nam mọc l&e
circ;n như nấm sau mưa
Sau sự nổi l&e
circ;n của ChatGPT, lượng người có nhu cầu học cách sử dụng phần mềm này tăng vọt, kéo theo đó là ngày càng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.
ChatGPT và cuộc cách mạng hóa ngành xuất bản
Trí tuệ nh&a
circ;n tạo (AI) đang thay thế con người với tư cách là lực lượng lao động trong nhiều lĩnh vực khác nhau, kể cả sáng tác và xuất bản.
Châu Âu thành lập ‘đội đặc nhiệm’ về ChatGPT
Cơ quan bảo vệ dữ liệu châu Âu (EDPB) ngày 13/4 đã thành lập đội đặc nhiệm
chuy&e
circ;n trách về ChatGPT.
Nguồn bài viết : R88 Điện Tử
