Giống với trí tuệ nhân tạo (AI) và ML đang được triển khai trong nhiều ứng dụng mới đã khiến kẻ tấn công không chỉ cung cấp năng lượng cho phần mềm độc hại của mình, mà còn lạm dụng nó để đánh lừa các mô hình lọc máy bằng bộ dữ liệu bị nhiễm độc.

Do đó, các hệ thống có lợi đã đưa ra các quyết định không chính xác đe dọa đến sự ổn định và an toàn của các ứng dụng AI.

Các nhà nghiên cứu của ESET trong năm ngoái đã phát hiện Emotet – một phần mềm độc hại trên email khét tiếng gây ra hàng loạt các cuộc tấn công ransomware. Mã độc này đang lợi dụng ML để cải thiện và mở rộng mục tiêu lây nhiễm của mình.

Tiếp theo, Microsoft đã đưa ra cảnh báo về một chủng ransomware Android mới, chủng này có chứa một mô hình học máy. Mặc dù chủng này chưa hề được tích hợp vào phần mềm độc hại nhưng mối đe dọa của chủng này chính là có thể được sử dụng để điều chỉnh hình ảnh ghi chú đòi tiền chuộc trên thiết bị di động của bạn mà không hề bị biến dạng.

Không chỉ thế, các nhà nghiên cứu còn phát hiện ra một kiểu tấn công có tên là model-inversion attack (tấn công đảo ngược mô hình). Kẻ tấn công sẽ lạm dụng quyền truy cập vào mô hình để suy ra thông tin của dữ liệu đào tạo.

Tính tới năm 2022, theo báo cáo của Gartner dự kiến 30% các cuộc tấn công mạng AI sẽ liên quan đến việc nhiễm độc từ dữ liệu đào tạo độc hại, sử dụng mẫu đối kháng hoặc đánh cắp mô hình để tấn công các hệ thống hỗ trợ học máy.

Microsoft cho biết: "Bất chấp những lý do thuyết phục nêu trên và sự cấp thiết trong việc bảo mật hệ thống ML, cuộc khảo sát mới đây của Microsoft với 28 doanh nghiệp cho thấy hầu hết các chuyên gia trong ngành vẫn chưa nhìn nhận rõ mối nguy hiểm của các cuộc tấn công đối kháng nhắm vào hệ thống học máy," "25 trong số 28 doanh nghiệp thực hiện khảo sát cho biết họ không có các công cụ phù hợp để bảo mật hệ thống ML của mình."

Adversarial ML Threat Matrix hy vọng sẽ giải quyết các mối đe dọa chống lại việc vũ khí hóa dữ liệu. Bằng cách tập hợp các lỗ hổng bảo mật và hành vi đối thủ để chống lại các hệ thống ML.

Bằng cách mô phỏng kịch bản tấn công thực tế theo các chiến thuật có sẵn, các công ty có thể sử dụng Adversarial ML Threat Matrix để kiểm tra khả năng chống đỡ của các mô hình AI.

Ngoài ra, Microsoft còn cho biết thêm rằng: "Mục tiêu của Ma trận là định vị các cuộc tấn công vào hệ thống ML trong một khuôn khổ mà các nhà phân tích bảo mật có thể tự định hướng trong các mối đe dọa mới và sắp tới này".

"Ma trận được cấu trúc giống như khuôn khổ ATT & CK , các nhà phân tích bảo mật không phải học một khuôn khổ mới hoặc khác để tìm hiểu về các mối đe dọa đối với hệ thống ML."

Đây có thể xem là sự phát triển mới nhất trong một loạt các động thái được thực hiện nhằm nỗ lực bảo vệ AI khỏi các cuộc tấn công đầu độc dữ liệu và tấn công mô hình. Đáng chú ý hơn nữa đó là các nhà nghiên cứu từ Đại học John Hopkins đã phát triển một framework có tên là TrojAI – được thiết kế để ngăn chặn các cuộc tấn công bằng trojan. Trong đó mô hình được sửa đổi để phản ứng với kích hoạt đầu vào khiến nó đưa ra phản hồi không chính xác.