Theo thông tin từ GizmoChina, vai trò của trí tuệ nhân tạo ngày càng trở nên quan trọng trong lĩnh vực công nghệ, với nhiều công ty tích hợp công nghệ này vào các dịch vụ của họ. Trong số đó, Microsoft là một trong những cái tên nổi bật, với nhiều mục tiêu nhằm cải thiện trải nghiệm người dùng thông qua công nghệ AI tạo sinh.
Tuy nhiên, việc sử dụng trí tuệ nhân tạo cũng mang theo những rủi ro, vì việc lạm dụng có thể dẫn đến những vấn đề nghiêm trọng. Microsoft đang đối mặt với thách thức khi một công cụ AI, ban đầu được phát triển để tạo ra hình ảnh, đã bị lạm dụng để tạo ra nội dung không phù hợp liên quan đến người nổi tiếng.
Cụ thể, thông qua công nghệ AI, người sử dụng có khả năng tạo ra bất kỳ hình ảnh nào mà họ mong muốn, mà không cần đến kỹ thuật chụp ảnh chuyên nghiệp. Một số người đã lợi dụng điều này bằng cách sử dụng API Azure Face của Microsoft để tạo ra ảnh và video giả mạo với nội dung nhạy cảm, đặc biệt là liên quan đến nghệ sĩ nổi tiếng như Taylor Swift. Trước những hành động có hại này, Microsoft đã công bố việc khắc phục lỗ hổng bảo mật để ngăn chặn việc tạo ra những hình ảnh không phù hợp.
Cụ thể hơn, công ty đã phát hiện một lỗ hổng bảo mật có thể cho phép kẻ xấu thay đổi một số tham số API cụ thể, từ đó có thể thay thế khuôn mặt của Taylor Swift vào những hình ảnh không đúng đắn. Để khắc phục vấn đề này, Microsoft đã phát hành một bản cập nhật để ngăn chặn việc sử dụng các tham số không hợp lệ trong API.
Những hình ảnh và video bị chỉnh sửa này thường được sử dụng để lan truyền tin giả mạo hoặc thực hiện các chiến dịch đen đủi. Taylor Swift đã trở thành nạn nhân thường xuyên của những hành vi lạm dụng này.
Ngoài Microsoft, nhiều công ty công nghệ khác cũng đang nỗ lực để giải quyết vấn đề này. Ví dụ, mạng xã hội X của Elon Musk đã giới hạn khả năng tìm kiếm về Taylor Swift để ngăn chặn sự lan truyền của những video deepfake.
