МВД предупредило об опасной функции ChatGPT

Если вы хоть раз советовались с ChatGPT о здоровье, деньгах или работе, эта новость касается вас напрямую. В МВД выпустили предупреждение про функцию нейросети, которая тихо работает у большинства пользователей и о которой мало кто вспоминает. Звучит как очередная страшилка, но за словами ведомства стоит научная работа с цифрами, и цифры эти неприятные. Хуже другое: большую часть таких сведений человек сам никуда сохранять не просил. Ниже разберем, что именно копит нейросеть, чем это грозит и какие настройки на iPhone стоит проверить уже сегодня.

iPhone с открытым разделом «Память» в настройках ChatGPT стоит на столе рядом с кружкой кофе

Почти все записи в памяти появились без спроса

В ChatGPT с 2024 года есть память: нейросеть запоминает факты о вас между разговорами, чтобы следующие ответы были точнее. Мы уже показывали, как узнать, что ChatGPT знает о вас, и многих читателей тогда удивила длина списка. Теперь в Управлении по организации борьбы с противоправным использованием ИКТ МВД объяснили, почему смотреть стоит не только на длину.

Ведомство сослалось на исследование ученых из Германии, Нидерландов и Индии. Они разобрали 2050 записей из памяти 80 пользователей ChatGPT. Сами люди выгрузили эти данные через европейский запрос о персональной информации и добровольно передали исследователям. Как выяснилось, только около 4% записей человек создал сам, попросив что-то запомнить. Остальные 96% нейросеть завела по собственной инициативе.

По версии МВД, у большинства аккаунтов в памяти лежали имена, адреса, сведения о достатке и социальном положении. У половины нашлась информация о здоровье и убеждениях. А цели, намерения, предпочтения и особенности поведения нейросеть запомнила почти у всех. В ведомстве подчеркивают, что так OpenAI действует вопреки собственной политике конфиденциальности.

Выглядит жутковато, но паниковать рано. По подсчетам авторов работы, 84% записей опираются на то, что человек сам написал в чате. То есть ChatGPT ничего не подслушивает. Он делает выводы из ваших же сообщений и складывает их в аккуратную карточку, о которой вы не просили.

Псевдоним не спасает, а память можно подменить

Первая угроза, о которой говорят в МВД, связана с идентификацией. Допустим, вы зарегистрировались под выдуманным именем и с отдельной почтой. Детали все равно складываются в портрет: где работаете, чем болеете, сколько зарабатываете, что не дает уснуть. По отдельности это мелочи. Вместе получается то, что в ведомстве назвали цифровым досье, и анонимность от псевдонима тут уже не помогает.

Схема угроз: из деталей о человеке складывается цифровое досье, а скрытые инструкции в файлах влияют на ответы ИИ

Вторая угроза больше похожа на сюжет шпионского фильма. В документы, которые вы даете нейросети на разбор, можно спрятать ложные инструкции (например, мелким белым текстом на белом фоне). Человек их не замечает, а ИИ читает и выполняет. Если такая команда попадет в память, она способна долго влиять на ответы, и связать странные советы с одним старым файлом будет почти невозможно.

Главными мишенями в МВД называют госслужащих и ученых: через ответы ИИ их можно подталкивать к нужным решениям, учитывая личные данные и психологические особенности. Основную опасность ведомство видит в том, что такое воздействие «незаметно и направлено на конкретного человека».

Рядовому пользователю целевая атака вряд ли грозит. Но механизм одинаковый для всех: чем больше нейросеть о вас помнит, тем больше можно из этого вытащить. Новости про безопасность ИИ мы выкладываем в наших каналах в Telegram и МАКС, загляните, если тема вам близка.

Память выключается одним переключателем

Первым делом МВД советует проверить настройки памяти и персонализации. В приложении ChatGPT на iPhone на это уйдет пара минут. Порядок действий такой:

1. Откройте ChatGPT, вызовите боковое меню и нажмите на свое имя внизу.
2. В блоке «Настроить ChatGPT» выберите пункт «Память».
3. Откройте «Сводку памяти», чтобы посмотреть, что нейросеть о вас узнала, и уберите лишнее.
4. Если память не нужна совсем, выключите переключатель «Включить память».

Сводка памяти и есть та самая карточка с фактами о вас. Под переключателем приложение само предупреждает, что память может содержать конфиденциальную информацию, которую вы предоставили. Выключите ее, и ChatGPT будет общаться с вами как в первый день знакомства.

Настройки ChatGPT на iPhone: пункт «Память» в меню и экран с переключателем «Включить память» и сводкой памяти

Учтите одну деталь: удаление записи из памяти не стирает сами чаты, из которых она взялась. Если в старой переписке остались анализы, номер договора или подробности о семье, такие диалоги лучше удалить полностью. А в настройках управления данными можно запретить использовать ваши разговоры для обучения моделей.

Если пункты в вашей версии приложения называются иначе, спросите в нашем чате в Telegram или МАКС, там быстро подскажут, куда их перенесли.

Временный чат и пара привычек вместо паранойи

Остальные советы МВД касаются того, что вы пишете. Главный — не загружать в чат служебные документы и личную информацию. Мы отдельно разбирали, чем грозит рабочая информация в нейросети, а после истории с закладками в файлах этот совет уже не кажется перестраховкой.

Четыре привычки для безопасной работы с ChatGPT: без документов, обезличенные запросы, временный чат и приватность экрана

Дальше — обезличивать запросы. Нейросети незачем знать, что анализ сдавал именно Иван Петров из Казани. Вопрос «что значит повышенный ферритин у мужчины 40 лет» дает тот же ответ без имени и города. Перед тем как вставить договор или выписку, сотрите ФИО, адреса, номера счетов и телефонов. Со снимками то же самое: у нас есть список фото, которые лучше не загружать в ChatGPT и Gemini.

Последний совет ведомства — временные чаты. В этом режиме ChatGPT ничего не берет из памяти, не пополняет ее и не сохраняет разговор в истории. Включается он значком в правом верхнем углу нового чата. Только бесследным его не назовешь: для проверки на злоупотребления OpenAI может хранить такие переписки до 30 дней.

Есть и бытовая мелочь, к нейросетям отношения не имеющая. Переписку с ChatGPT в метро легко прочитать через плечо, и никакие переключатели от этого не спасут. Защитные стекла с эффектом приватности для разных айфонов периодически появляются в «Сундук Али-Бабы» в МАКС, можно присмотреть там.

Так стоит ли бросать ChatGPT после предупреждения МВД? Нет. Даже память выключать необязательно, если она реально экономит вам время на объяснения. Хватит раз в пару месяцев открывать список записей и не рассказывать нейросети то, что вы не написали бы в анкете незнакомому сервису.