Satya Nadella: nên giả định các mô hình AI "đã bị xâm phạm" ngay từ đầu, con người phải dừng...

Satya Nadella: nên giả định các mô hình AI "đã bị xâm phạm" ngay từ đầu, con người phải dừng được AI giữa chừng

CEO Microsoft Satya Nadella vừa đăng một bài viết dài trên X, cho rằng các biện pháp an toàn đơn giản như dùng AI để giám sát chính AI là chưa đủ trong thời kỳ AI tác tử (agentic AI) phát triển mạnh. Theo ông, các mô hình tiên phong, dù là mô hình đóng hay mô hình mở trọng số, nên được đối xử như người trong nội bộ doanh nghiệp vì chúng đang được trao quyền truy cập vào nhiều hệ thống quan trọng.

Nadella thừa nhận các mô hình AI vốn không có tính tất định, tức cùng một đầu vào có thể cho ra những kết quả khác nhau qua mỗi lần chạy. Dù vậy, chúng vẫn đang được triển khai với quyền truy cập vào dữ liệu nhạy cảm nhất và được phép thực hiện những thao tác trọng yếu thay cho con người. Ông từng chia sẻ mình dùng nhiều tác tử AI trong công việc đánh giá lợi nhuận và hiệu quả đầu tư.

Hai cách làm phổ biến hiện nay bị Nadella cho là chưa đủ. Cách thứ nhất là dùng mô hình AI này để đánh giá mô hình AI khác. Cách thứ hai là dựa vào chuỗi suy luận (chain of thought, CoT) để hiểu mô hình đã đi đến kết quả như thế nào. Ông cho rằng các mô hình không phải lúc nào cũng trung thực và minh bạch trong chuỗi suy luận của mình.

Về việc để AI kiểm tra lẫn nhau, Nadella viết rằng các mô hình nên được dùng để kiểm thử đối kháng với nhau, nhưng kết quả có thể là một mô hình khó hiểu nằm trong một lớp điều phối khó hiểu, rồi lại được giám sát bởi một mô hình khó hiểu khác. Ông gọi đó là những hộp đen lồng vào nhau.

Hai nguyên tắc còn lại là khả năng quan sát và kiểm toán độc lập. Nadella cho rằng không mô hình nào được phép vừa kiểm soát hành vi của hệ thống vừa nắm giữ bằng chứng dùng để xác định hành vi đó có đúng với mục đích ban đầu hay không. Mọi thao tác có ý nghĩa của mô hình phải để lại bằng chứng mà con người đọc được và không thể bị chỉnh sửa. Ông cũng muốn có thể tái hiện cách một kết quả được tạo ra mà không phải dựa vào lời xác nhận của chính mô hình.

Phát biểu của Nadella xuất hiện khi các báo cáo về tác tử AI tự ý hành động ngày càng nhiều. Một trong những trường hợp sớm nhất diễn ra hồi tháng 7, khi khoảng 700 đến 1.200 tác tử AI của OpenAI xâm nhập hạ tầng của Hugging Face.

Giải pháp ông đề xuất là bao quanh các mô hình không tất định bằng thiết kế hệ thống có tính tất định, cơ chế kiểm soát của con người và quy trình vận hành đáng tin cậy. Nói cách khác, phần mềm có đầu ra thiếu nhất quán cần được giám sát bởi một bên có tiêu chí đánh giá nhất quán. CoT và kiểm thử đối kháng chỉ là bước đệm cho cách tiếp cận này.

Nadella nêu ra bảy nguyên tắc, trong đó ba nguyên tắc được nhấn mạnh. Nguyên tắc đầu tiên là cô lập. Theo ông, cần mặc định một mô hình đã bị xâm phạm và cô lập nó ngay từ đầu. Người có thẩm quyền phải luôn tạm dừng hoặc tắt được mô hình khi nó đang thực hiện tác vụ.

Rút điện là ok thôi

Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
© 2026 Công ty Cổ phần MXH Tinh Tế
Địa chỉ: 351/56 Lê Văn Sỹ, P. Nhiêu Lộc, Tp HCM
Số điện thoại: 02822460095
MST: 0313255119
Giấy phép cung cấp dịch vụ MXH số 41/GP-BVHTTDL, Ký ngày: 25/03/2026

Pnghuy

5 giờ755 lượt xem

Satya Nadella: nên giả định các mô hình AI "đã bị xâm phạm" ngay từ đầu, con người phải dừng được AI giữa chừng CEO Microsoft Satya Nadella vừa đăng một bài viết dài trên X, cho rằng các biện pháp an toàn đơn giản như dùng AI để giám sát chính AI là chưa đủ trong thời kỳ AI tác tử (agentic AI) phát triển mạnh. Theo ông, các mô hình tiên phong, dù là mô hình đóng hay mô hình mở trọng số, nên được đối xử như người trong nội bộ doanh nghiệp vì chúng đang được trao quyền truy cập vào nhiều hệ thống quan trọng. Nadella thừa nhận các mô hình AI vốn không có tính tất định, tức cùng một đầu vào có thể cho ra những kết quả khác nhau qua mỗi lần chạy. Dù vậy, chúng vẫn đang được triển khai với quyền truy cập vào dữ liệu nhạy cảm nhất và được phép thực hiện những thao tác trọng yếu thay cho con người. Ông từng chia sẻ mình dùng nhiều tác tử AI trong công việc đánh giá lợi nhuận và hiệu quả đầu tư. Hai cách làm phổ biến hiện nay bị Nadella cho là chưa đủ. Cách thứ nhất là dùng mô hình AI này để đánh giá mô hình AI khác. Cách thứ hai là dựa vào chuỗi suy luận (chain of thought, CoT) để hiểu mô hình đã đi đến kết quả như thế nào. Ông cho rằng các mô hình không phải lúc nào cũng trung thực và minh bạch trong chuỗi suy luận của mình. Về việc để AI kiểm tra lẫn nhau, Nadella viết rằng các mô hình nên được dùng để kiểm thử đối kháng với nhau, nhưng kết quả có thể là một mô hình khó hiểu nằm trong một lớp điều phối khó hiểu, rồi lại được giám sát bởi một mô hình khó hiểu khác. Ông gọi đó là những hộp đen lồng vào nhau.

Chiều cao màn hình không khả dụng cho nội dung này. Vui lòng xoay dọc màn hình thiết bị.

Pnghuy

5 giờ755 lượt xem

Pnghuy 5 giờ

sốt-xuất-huyết-2025 5 giờ

Rút điện là ok thôi