В Apple объяснили, как скрыть запрещённые фото от проверки

Несмотря на благие цели, которые явно преследовали в Apple, новая инициатива компании по выявлению фотографий с признаками насилия над детьми была презентована как-то скомкано. Пользователи в большинстве своём негативно отреагировали на то, что теперь кто-то посторонний будет копаться в фотографиях на их смартфонах, а эксперты в области безопасности окрестили это самым настоящим бэкдором. В общем, ситуация явно требовала разъяснения, причём как можно более подробного. Этим в компании и занялись.

Со дна постучали. Apple согласилась взламывать старые iPhone для спецслужб

По словам Крейга Федериги, старшего вице-президента Apple по разработке программного обеспечения, в Купертино неправильно подали новую технологию обнаружения детского порно на устройствах пользователей. Об этом он рассказал в интервью The Wall Street Journal. Такой подход, уверен он, спровоцировал путаницу и не позволил людям как следует разобраться ни в предназначении нововведения, ни в его технических особенностях.

Apple будет проверять фото. Правда ли?

Первым делом Федериги счёл необходимым объясниться за анализ сообщений пользователей, поскольку специальный алгоритм будет анализировать и их на предмет взрослого контента.

Оглядываясь назад, я могу сказать, что одновременный анонс сразу двух функций безопасности стал первопричиной подобного рода путаницы. Люди естественным образом связали их и испугались: что будет с моими сообщениями? Ответ: с вашими сообщениями ничего не будет. Новая функция означает, что дети, которые отправляют или получают откровенные фото через iMessage, получат предупреждение об опасности, а их родители – уведомление о пересылке их чадами такого контента, — заявил Федериги.

Почему Apple разрешили не устанавливать российский софт

В случае с анализом фотографий на устройствах пользователей ситуация обстоит несколько иначе. Если изучение сообщений призвано защитить детей от нежелательного контента и оповестить об этом их родителей, то сканирование снимков в памяти iPhone направлено на выявление насильников.

Сканирование фотографий пользователей защищено на самом высоком уровне. Во-первых, за это отвечают умные алгоритмы, а не живые люди. Во-вторых, сканируются только те фотографии, которые выгружаются в iCloud. Те учётные записи, где были обнаружены квалифицирующие снимки, будут изучаться Apple вручную и могут быть переданы в Национальный фонд пропавших без вести и эксплуатируемых детей, — пояснил Федериги.

Как запретить Apple проверять фото

В целом, пока ничего нового. Но более важная информация содержалась во второй части интервью Федериги:

• Алгоритмы проверяют не сами фото, а их хэш (массив данных о фотографиях и их содержимом, переведённый в битовую строку). Затем снимки с признаками насилия, если таковые есть, передаются на дополнительную проверку сотрудниками компании. Все остальные фотографии при этом не раскрываются.
• Алгоритмы вычисляют фотографии только с признаками насилия, отталкиваясь от других подобных снимков, которые Apple загрузила в их базу данных. Другие откровенные фото детей, которые делают родители, алгоритмами не затрагиваются.
• Система оповещений о наличии фотографий с признаками насилия над детьми работает в том числе на основе количественного признака. Это значит, что, если у вас хранится меньше 30 снимков с насилием, система попросту не сработает.
• Сканирования можно избежать (об этом мы уже рассказывали и сами), если отключить «iCloud Фото». Несмотря на то что проверка проводится строго на устройстве пользователя, анализу подлежат только те фото, которые подлежат выгрузке в облако.
• Системой анализа фотографий будет управлять только Apple. Компания не планирует передавать контроль над ней правительственным органам. Поэтому преследования, в том числе политического, по признакам насилия можно будет избежать.

Apple следит за сотрудниками на удаленке

По большому счёту Федериги не сказал ничего такого, что могло бы успокоить людей, переживающих за свою конфиденциальность. Несмотря на технику безопасности, которую проработали в Купертино, лично меня это всё равно не убеждает дать согласие на проверку своих фото. Я знаю, что у в моей медиатеке нет ничего запрещённого или даже похожего на это. Однако меня смущает сам факт того, что кто-то имеет возможность проверять мои фотографии. И дело тут даже не в том, что я чего-то боюсь. Просто я считаю эти меры нерациональными и неэффективными.

Поймите меня правильно: я за защиту детей. Но искать фотографии уже совершённых преступлений – это не то, что нужно делать на самом деле. Действовать нужно так, чтобы этого не происходило в принципе, чтобы у насильников не было возможности это сделать. Только тогда мы, как общество, сможем победить. А по факту всё, что нам остаётся, — это собирать факты о совершённых случаях насилия и получать на выходе детей со сломанной психикой. Браво, Apple. Придумать что-то лучшее и вправду было нельзя.