Apple vừa công bố kế hoạch rà soát iPhone của người dùng để phát hiện các hình ảnh bạo hành trẻ em, khởi đầu tại Mỹ.
Đây là một phần trong nỗ lực bảo vệ trẻ em của Apple. Theo công bố, ngay trong năm 2021, thông qua việc phát hành iOS 15, watchOS 8 và macOS Monterey, Apple sẽ bổ sung hàng loạt tính năng liên quan tới sự an toàn của trẻ em trên môi trường mạng vào các công cụ phổ biến của mình như Messages, Photos hay trợ lý ảo Siri.
Trong đó, ứng dụng tin nhắn Messages sẽ có thêm cảnh báo khi trẻ em gửi đi hoặc nhận được những bức ảnh có nội dung tình dục. Khi ai đó gửi cho những đứa trẻ các bức ảnh không phù hợp, Messages cũng sẽ làm mờ ảnh, đồng thời hiển thị nhiều cảnh báo. Trong tất cả các tình huống bất thường này, iPhone hay iPad đều thông báo tới các bậc phụ huynh.
Trong trường hợp những đứa trẻ vẫn cố tình xem các bức ảnh được cho là không phù hợp nói trên, ngay lập tức Messages sẽ cảnh báo cha mẹ chúng. Quy trình này cũng diễn ra tương tự đối với mọi nỗ lực gửi đi các hình ảnh xấu.
Đối với iCloud, Apple cũng sẽ bổ sung các công cụ rà soát nội dung tải lên. Để bảo đảm độ chính xác cao, cơ chế này không rà quét mọi nội dung người dùng đưa vào iCloud, mà thay vào đó sẽ đối chiếu nhờ cơ chế trí tuệ nhân tạo “neuralMatch” - so sánh với cơ sở dữ liệu về các nội dung lạm dụng trẻ em đã được cơ quan chức năng và các tổ chức bảo vệ trẻ em ghi nhận. Việc đối chứng và kiểm định sau đó đều dựa trên chữ ký số (hash) của từng bức ảnh, thay vì nội dung cụ thể của những bức ảnh đó. Điều này sẽ giúp bảo vệ tính riêng tư của người dùng.
Khi phát hiện nội dung chứa các hình ảnh lạm dụng tình dục có liên quan tới trẻ em, Apple sẽ ngay lập tức thông báo với cơ quan chức năng (tại Mỹ). Apple cho biết, cơ chế rà soát của mình có độ chính xác cực cao, với tỉ lệ sai sót chỉ khoảng 1/1 nghìn tỷ mỗi năm. Dĩ nhiên, người dùng có quyền “kháng án” nếu cảm thấy mình bị đánh giá sai.
Cảnh báo khi phát hiện nội dung lạm dụng trẻ em trên iPhone.
Đối với Siri và các tính năng tìm kiếm tích hợp trong iOS và macOS, cập nhật mới sẽ bổ sung các cơ chế định hướng người dùng tới những nguồn thông tin tin cậy về bảo đảm an toàn đối với trẻ em. Một ví dụ là giờ đây Siri đã có thể trả lời các câu hỏi liên quan tới cách thức báo cáo những vụ việc lạm dụng trẻ em. Trợ lý ảo này thậm chí có thể can thiệp nếu phát hiện ai đó cố gắng tìm kiếm các nội dung xấu.
