AI giờ đã tốt hơn rồi thì sao không dùng AI để nghiên cứu tạo ra thuật toán mới sử dụng ít RAM đi
CEO Qualcomm nói smartphone chạy được mô hình AI 100 tỷ tham số có thể ra mắt năm 2028
Trong cuộc trò chuyện với Fireside Alpha, CEO Qualcomm Cristiano Amon cho biết một số công ty AI muốn có điện thoại chạy liên tục các mô hình ngôn ngữ lớn (LLM) 100 tỷ tham số vào năm 2028. Ông cũng xác nhận vài công ty đang tự phát triển điện thoại cho mục tiêu này, nhưng không nêu tên cụ thể.
Theo Amon, các hãng điện thoại sẽ tăng mạnh dung lượng RAM để chạy được những mô hình nặng như vậy. Phát biểu này đưa ra đúng lúc nguồn cung DRAM khan hiếm và giá bộ nhớ tăng cao. Wccftech cho rằng với tình hình hiện nay, smartphone khó vượt mốc 16 GB RAM trong thời gian tới. Nhiều hãng đã ngừng bán các phiên bản RAM cao, dù chỉ một năm trước vẫn có máy Android dùng tới 24 GB LPDDR5X.
Bộ nhớ là trở ngại lớn nhất. Một mô hình 100 tỷ tham số lượng tử hóa 4-bit cần tối thiểu 50GB RAM, chưa tính phần dành cho hệ điều hành, ứng dụng và bộ nhớ đệm ngữ cảnh. Hạ xuống 2-bit thì riêng mô hình vẫn chiếm 25GB. Bên cạnh chi phí và nguồn cung DRAM, việc chạy liên tục mô hình lớn còn sinh nhiệt nhiều, dễ khiến máy bóp hiệu năng vì quá nhiệt.
Apple và Qualcomm đã phần nào xử lý vấn đề bằng cách thay đổi kiểu đóng gói chip trên A20 Pro và Snapdragon 8 Elite Extreme Gen 6. Dù vậy, nút thắt bộ nhớ vẫn còn nếu không có thêm giải pháp khác. Wccftech nêu một vài hướng đi. Lượng tử hóa mạnh tay giúp giảm nhu cầu bộ nhớ đáng kể, đủ để phiên bản 1-bit nằm gọn trong DRAM. Đổi lại, chất lượng mô hình giảm rõ khi xuống dưới 4-bit, nhất là với các tác vụ suy luận.
Hướng thứ hai là dùng kiến trúc MoE (Mixture of Experts) kết hợp đẩy bớt ra ngoài RAM. Mỗi token chỉ kích hoạt một phần nhỏ, phần này được giữ trong RAM, số còn lại nằm trên bộ nhớ flash. Apple từng nghiên cứu cách chạy LLM từ bộ nhớ flash, nhưng tốc độ suy luận có thể giảm vì UFS và NVMe chậm hơn DRAM.
Trong cuộc trò chuyện với Fireside Alpha, CEO Qualcomm Cristiano Amon cho biết một số công ty AI muốn có điện thoại chạy liên tục các mô hình ngôn ngữ lớn (LLM) 100 tỷ tham số vào năm 2028. Ông cũng xác nhận vài công ty đang tự phát triển điện thoại cho mục tiêu này, nhưng không nêu tên cụ thể.
Theo Amon, các hãng điện thoại sẽ tăng mạnh dung lượng RAM để chạy được những mô hình nặng như vậy. Phát biểu này đưa ra đúng lúc nguồn cung DRAM khan hiếm và giá bộ nhớ tăng cao. Wccftech cho rằng với tình hình hiện nay, smartphone khó vượt mốc 16 GB RAM trong thời gian tới. Nhiều hãng đã ngừng bán các phiên bản RAM cao, dù chỉ một năm trước vẫn có máy Android dùng tới 24 GB LPDDR5X.
Bộ nhớ là trở ngại lớn nhất. Một mô hình 100 tỷ tham số lượng tử hóa 4-bit cần tối thiểu 50GB RAM, chưa tính phần dành cho hệ điều hành, ứng dụng và bộ nhớ đệm ngữ cảnh. Hạ xuống 2-bit thì riêng mô hình vẫn chiếm 25GB. Bên cạnh chi phí và nguồn cung DRAM, việc chạy liên tục mô hình lớn còn sinh nhiệt nhiều, dễ khiến máy bóp hiệu năng vì quá nhiệt.
Apple và Qualcomm đã phần nào xử lý vấn đề bằng cách thay đổi kiểu đóng gói chip trên A20 Pro và Snapdragon 8 Elite Extreme Gen 6. Dù vậy, nút thắt bộ nhớ vẫn còn nếu không có thêm giải pháp khác. Wccftech nêu một vài hướng đi. Lượng tử hóa mạnh tay giúp giảm nhu cầu bộ nhớ đáng kể, đủ để phiên bản 1-bit nằm gọn trong DRAM. Đổi lại, chất lượng mô hình giảm rõ khi xuống dưới 4-bit, nhất là với các tác vụ suy luận.
Hướng thứ hai là dùng kiến trúc MoE (Mixture of Experts) kết hợp đẩy bớt ra ngoài RAM. Mỗi token chỉ kích hoạt một phần nhỏ, phần này được giữ trong RAM, số còn lại nằm trên bộ nhớ flash. Apple từng nghiên cứu cách chạy LLM từ bộ nhớ flash, nhưng tốc độ suy luận có thể giảm vì UFS và NVMe chậm hơn DRAM.
6
RAM giờ quý như vàng rồi. Béo nhất Hàn Quốc.
- Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
- © 2026 Công ty Cổ phần MXH Tinh Tế
- Địa chỉ: 351/56 Lê Văn Sỹ, P. Nhiêu Lộc, Tp HCM
- Số điện thoại: 02822460095
- MST: 0313255119
- Giấy phép cung cấp dịch vụ MXH số 41/GP-BVHTTDL, Ký ngày: 25/03/2026
