Как обмануть алгоритмы Apple, ищущие детское порно, и опасно ли это для вас

Недавно я рассказал о том, почему я против того, чтобы Apple проверяла мои фотографии. Мой основной месседж заключался даже не в том, что любая проверка как таковая не имеет ничего общего с конфиденциальностью, а в том, что поиск насильников по фото – это практически бесполезное занятие. Потому что всегда лучше пресечь преступление, а не сетовать и хвататься за голову, когда это уже произошло. Однако нашлись люди, которые решили, что сама по себе проверка фотографий на предмет насилия над детьми может стать почвой для устранения неугодных политическим режимам людей.

«Приватность — это iPhone». Так было раньше, а теперь — нет

Как запретить Apple сканировать мои фото на iPhone

С тех самых пор, как Apple объявила о намерении проверять фотографии пользователей, по Сети гуляют домыслы о том, что, во-первых, систему можно будет легко обмануть, а, во-вторых, что из-за этого пострадают невинные люди. Ну, откровенно говоря, правды здесь практически нет. Разберёмся, почему.

Apple будет проверять фото

Проверка фотографий вряд ли принесёт кому-то вред. Но и пользы от неё тоже не будет

Сама по себе методика проверки фотографий заключается в использовании хэшей. Если говорить совсем примитивным языком, то алгоритмы Apple не будут буквально рассматривать снимки. Они просто разобьют их на последовательность чисел, в которых зашита информация о том, что на них изображено.

Из-за этого «знатоки» систем анализа тут же всполошились и заявили, что вариантов того, что может быть изображено на фотографиях, так много, что алгоритмы Apple обязательно ошибутся. Ну, потому что квалифицирующих сочетаний чисел очень много, и система гарантированно воспримет совершенно обычные снимки за порно или насилие.

В России могут запретить iPhone из-за проверки Apple личных фотографий

Один энтузиаст даже разместил на Google Диске набор изображений, на которых не изображено ничего предосудительного, но которые могут быть распознаны алгоритмами Apple как порнография. Вот, посмотрите сами (главное, не сохраняйте их себе на iPhone, мало ли что):

Что вы тут видите?

А здесь?

Вытащите руку из штанов!

Вы видите здесь порнографию? Ну, конечно, нет, потому что её здесь и нет. Не пытайтесь всмотреться в картинку, будто это тест Роршарха. В ней нет скрытого подтекста. Это просто абстракция, которая способна обмануть алгоритмы Apple. Да, такое реально возможно. Но, даже если компания обнаружит у вас эти снимки, и вы по счастливой случайности окажетесь в США, где действуют алгоритмы поиска, вам ничего не будет.

Можно ли скрыть фото от Apple

Пожалуй, и хорошо, что фотографии будут перепроверять живые люди

На это есть несколько причин:

  • Во-первых, какова вероятность, что у вас случайно окажутся фотографии такого же свойства, как те, что показаны выше, которые Apple примет за порно? Ну, очевидно, что очень низкая. Пожалуй, даже ничтожная.
  • Во-вторых, фотографии, в случае обнаружения алгоритмами, будет проверять живой человек, который увидит, что на снимках нет ничего противозаконного, и просто оставит вас в покое.
  • В-третьих, алгоритм – не дурак. Крейг Федериги сказал, что он не срабатывает на единичные случаи подобных фотографий. Алгоритму нужно как минимум 30 квалифицирующих снимков, чтобы сработал триггер, и их отправили на проверку.
  • В-четвёртых, Apple уже давно анализирует наши фото в iCloud, просто почему-то раскрыть это было решено только сейчас. А за это время не было никаких ложных срабатываний.

Что мы имеем в сухом остатке? Ну, очевидно, что все спекуляции на тему того, что из-за системы отслеживания фотографий могут пострадать невинные люди, не стоят и выеденного яйца. Не будет такого, что Apple по первой же фотографии сдаст вас спецслужбам. Для этого нужно очень постараться.

Сканирование фотографий в iCloud – угроза или достижение Apple

Другой вопрос – зачем тогда в Купертино вообще затеяли всю эту чепуху, если они будут выжидать, пока насильник не загрузит 30 фото и более? Очевидно, что компанию просто заставляют это делать. А порог в 30 снимков Apple установила для того, чтобы хоть как-то защитить своих пользователей.

Тем не менее, я по-прежнему считаю, что этот метод поиска насильников – бесполезный чуть более чем на 100%. Моя позиция заключается в том, что мероприятия по выявлению преступности, должны быть превентивными. То есть предупреждать наступление противоправных деяний, а не выискивать их уже постфактум.

Безопасность AppleКомпания AppleФото на iPhone
Лучший комментарий  
Чтобы оставить комментарий