Корпорация Apple планирует запуск технологий, которые помогут усилить защиту для детей от показа им материалов со сценами сексуального насилия. Одна из новых мер — автоматический поиск на iPhone и iPad детской порнографии. Такое обновление выйдет для всех операционных систем Apple — iOS, iPadOS, macOS и watchOS. Об этом сообщила корпорация Apple.

«В Apple наша цель — создать технологию, которая расширяет возможности людей и обогащает их жизнь, помогая им оставаться в безопасности. Мы хотим помочь защитить детей от хищников, которые используют средства коммуникации для их вербовки и эксплуатации, а также ограничить распространение материалов о сексуальном насилии над детьми
Новая технология будет обнаруживать изображения содержащими сцены сексуального насилия над детьми до их загрузки в iCloud», — поясняют представители Apple.

Сканирование фотографий также проводится с помощью машинного обучения, которое не позволяет Apple увидеть все фотографии пользователя. Сопоставляться изображение будет с популярными хэшами баз детской порнографии, составленной экспертами Национального центра пропавших без вести детей и других организаций по защите детей от насилия. Такая база данных является нечитаемым набором хэшей, утверждают Apple.

Если подобные материалы будут найдены, то Apple сможет уведомить об этом Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC), которые сотрудничают с правоохранительными органами. Передача информации произойдет, если будет превышено некое пороговое значение.
«Пороговое значение установлено для обеспечения чрезвычайно высокого уровня точности и гарантирует менее одного случая на один триллион в год неправильной пометки данной учетной записи», — сообщают в Apple. — Только при превышении порогового значения криптографическая технология позволяет Apple интерпретировать содержимое ваучеров безопасности, связанных с соответствующими образами CSAM (детское порно- прим). Затем Apple вручную просматривает каждый отчет, чтобы подтвердить совпадение, отключает учетную запись пользователя и отправляет отчет в NCMEC (организации помощи детям).

Также после выхода обновления в «Сообщениях» фотографии с незаконными материалами с помощью машинного обучения будут размываться. Ребенку предоставят справочную информацию о проблеме и объяснят, что данный контент запрещен. Такие же меры будут приняты, если сам ребенок решит отправить сексуальные фотографии, но в этом случае родители автоматически получат уведомление об этом.

Если пользователь захочет сообщить о насилии над детьми и будет искать помощи в интернете, то он сможет об этом написать в «Поиске» на телефоне или сообщить голосовому помощнику Siri, который покажет все ресурсы, необходимые для оказания помощи.

Пользователи, которые будут искать в интернете материалы, связанные с детским порно, получат уведомление о возможности получения психологической помощи.

Выход обновления ожидается осенью 2021 года. Корпорация планирует в дальнейшем расширять функции своих устройств для борьбы с сексуальным насилием над детьми.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.