Một trong những tính năng gây tranh cãi nhất của iOS 11 kể từ khi được Apple phát hành là một công cụ có tên Core ML. Nó cho phép nhà phát triển dễ dàng tích hợp thuật toán machine learning (có thể hiểu là thuật toán giúp ứng dụng học tập thói quen sử dụng của người dùng) được lập trình sẵn của mình vào ứng dụng,ềntảnghỗtrợmachinelearningmớicủaApplecóthểăntrộmdữliệungườidùbảng xếp hạng hạng 4 anh từ đó giúp ứng dụng có thể lập tức cá nhân hóa bản thân sao cho phù hợp với nhu cầu của từng người dùng. Khỏi cần nói, đây là con dao hai lưỡi, khi khả năng tự động cá nhân hóa bản thân đi kèm với việc ứng dụng sẽ truy cập nhiều hơn vào dữ liệu riêng tư của chủ thiết bị. Thật vậy, một số nhà nghiên cứu đã bày tỏ lo ngại rằng Core ML có thể thu thập nhiều thông tin hơn những gì nó cần, cũng như nhiều hơn những gì chúng ta nghĩ.

Chức năng chính của Core ML là tăng tốc một số tác vụ như nhận diện ảnh và nhận diện khuôn mặt (trùng hợp làm sao khi iPhone X lại có mở khóa bằng khuôn mặt), xử lý ngôn ngữ tự nhiên và xác định vật thể, cùng với đó là hỗ trợ sâu cho nhiều công cụ machine learning khác như mạng lưới thần kinh nhân tạo và cấu trúc cây quyết định. Đối với ứng dụng iOS, những ứng dụng nào sử dụng Core ML sẽ xin cấp quyền truy cập dữ liệu như lịch hay microphone. Nhưng các nhà nghiên cứu cảnh báo không loại trừ trường hợp một ứng dụng bất kỳ có thể bí mật sử dụng Core ML để đưa ra kết luận về người dùng cho mục đích mật.

“Vấn đề cốt lõi của Core ML từ góc nhìn bảo mật đó là nó khiến quá trình kiểm duyệt ứng dụng trên App Store trở nên khó khăn hơn bao giờ hết đối với những ứng dụng thường không tận dụng Core ML.Hầu hết những cấu trúc machine learning đều được viết dưới dạng con người không hiểu được, càng không thể kiểm tra kỹ càng các lỗi hay tính năng ẩn. Chẳng hạn, quá trình kiểm duyệt một ứng dụng không thể cho biết được liệu một model Core ML có vô tình hay cố ý ăn trộm dữ liệu nhảy cảm hay không”, bà Suman Jana, một nhà nghiên cứu bảo mật và riêng tư tại Đại học Columbia cho biết.