Meta mới tung Muse Spark Open: AI mở 816 tỷ tham số, chạy được trên 2 chiếc Mac Studio
Meta vừa công bố trọng số của Muse Spark Open, được hãng gọi là mô hình open-weight mạnh nhất của Mỹ hiện nay. Mô hình có 816 tỷ tham số theo kiểu MoE, mỗi lần chỉ kích hoạt 42 tỷ, hỗ trợ đa phương thức với ngữ cảnh 1 triệu token, mạnh về lập trình và tác vụ agent.
Điểm mình thấy đáng chú ý nhất là nó chạy được ngay tại nhà trên 2 chiếc Mac Studio M5 Ultra 512GB nhờ MLX của Apple, và cụm 4 máy cho hơn 36 token mỗi giây. Cá nhân mình thấy chạy AI cỡ này ở nhà rất hay cho quyền riêng tư, có điều số tiền bỏ ra cho dàn máy cũng không nhỏ.
Meta mới tung Muse Spark Open: AI mở 816 tỷ tham số, chạy được trên 2 chiếc Mac Studio
Meta vừa công bố trọng số của Muse Spark Open, được hãng gọi là mô hình open-weight mạnh nhất của Mỹ hiện nay. Mô hình có 816 tỷ tham số theo kiểu MoE, mỗi lần chỉ kích hoạt 42 tỷ, hỗ trợ đa phương thức với ngữ cảnh 1 triệu token, mạnh về lập trình và tác vụ agent.
Điểm mình thấy đáng chú ý nhất là nó chạy được ngay tại nhà trên 2 chiếc Mac Studio M5 Ultra 512GB nhờ MLX của Apple, và cụm 4 máy cho hơn 36 token mỗi giây. Cá nhân mình thấy chạy AI cỡ này ở nhà rất hay cho quyền riêng tư, có điều số tiền bỏ ra cho dàn máy cũng không nhỏ.
Mình cũng có chém gió công nghệ ở Facebook này: https://www.facebook.com/trananhtu57/
Chiều cao màn hình không khả dụng cho nội dung này. Vui lòng xoay dọc màn hình thiết bị.
Meta mới tung Muse Spark Open: AI mở 816 tỷ tham số, chạy được trên 2 chiếc Mac Studio
Meta vừa công bố trọng số của Muse Spark Open, được hãng gọi là mô hình open-weight mạnh nhất của Mỹ hiện nay. Mô hình có 816 tỷ tham số theo kiểu MoE, mỗi lần chỉ kích hoạt 42 tỷ, hỗ trợ đa phương thức với ngữ cảnh 1 triệu token, mạnh về lập trình và tác vụ agent.
Điểm mình thấy đáng chú ý nhất là nó chạy được ngay tại nhà trên 2 chiếc Mac Studio M5 Ultra 512GB nhờ MLX của Apple, và cụm 4 máy cho hơn 36 token mỗi giây. Cá nhân mình thấy chạy AI cỡ này ở nhà rất hay cho quyền riêng tư, có điều số tiền bỏ ra cho dàn máy cũng không nhỏ.