Почему Apple Intelligence такой тупой? Теперь все ясно
Пожалуй, не было в истории Apple такого громкого и долгожданного анонса, который бы так быстро превратился в повод для разочарования, как Apple Intelligence. Да, интернет еще помнит проект неудавшейся зарядной станции AirPower. Но, как ни крути, это был просто удобный аксессуар. А ИИ предстояло кардинальным образом изменить то, как мы взаимодействуем с iPhone. Однако чем больше проходило времени с момента презентации, тем яснее становилось: что-то пошло не так. Но что? Почему нейросеть Apple оказалась такой неумелой и бесполезной? Сейчас разберемся.
Apple Intelligence никогда не учился на реальных данных. В этом его проблема
Содержание
Как Apple обучает нейросеть
Apple всегда делала ставку на приватность пользователей, и это стало ее визитной карточкой. В отличие от конкурентов, которые не стесняются собирать реальные пользовательские данные для обучения своих моделей, Apple еще много лет назад решила идти по собственному пути. Этот подход нашел применение и при создании ИИ. И именно он помешал компании сделать по-настоящему полезный и функциональный продукт.
Оказывается, вместо того чтобы анализировать пользовательские данные, включая письма, сообщения и заметки, как это делают все остальные, Apple ориентировалась на синтетическую информацию. Для этого компания предложила своей нейросети искусственно сгенерированные сведения, которые должны были имитировать живое общение, но никогда не существовали в реальности.
⚡️ПОДПИШИСЬ НА ТЕЛЕГРАМ-КАНАЛ СУНДУК АЛИБАБЫ И ПОКУПАЙ ТОЛЬКО ТОПОВЫЕ ТОВАРЫ С АЛИЭКСПРЕСС
На бумаге идея выглядела элегантно: никакая личная информация не покидает устройство, обучение происходит на обезличенных примерах и приватность пользователей никоим образом не страдает. Но на практике оказалось, что синтетические данные не могут полноценно заменять настоящие. Искусственный интеллект, обученный на выдуманных письмах и шаблонных ситуациях, просто не понимает нюансов живой речи, не улавливает контекста и не может адекватно реагировать на реальные запросы пользователей.
В итоге Apple Intelligence начал сам выдумывать многие данные, путать важные и неважные уведомления, а генерация текстов и писем превратилась в лотерею. Даже такие простые задачи, как обобщение писем или создание кратких заметок, стали поводом для жалоб. А все потому, что ИИ не учился на реальных данных и не знал, как люди действительно общаются.
Безопасность Apple Intelligence
Главная проблема синтетических данных — их оторванность от жизни. Каким бы продвинутым ни был генератор, он не способен воспроизвести всю палитру человеческой коммуникации: сленг, опечатки, сарказм, двусмысленности. Из-за этого Apple Intelligence оказался, по сути, глухим ко многим нюансам запросов пользователей, а его ответы получались либо слишком формальными, либо попросту неуместными.
⚡️ПОДПИСЫВАЙСЯ НА НАШ ЧАТ В ТЕЛЕГРАМЕ, ТАМ ТЕБЕ ОТВЕТЯТ НА ЛЮБЫЕ ВОПРОСЫ ПО ТЕХНИКЕ APPLE
Ситуация усугубилась тем, что Apple Intelligence не мог эффективно работать с длинными текстами и сложными сценариями. Синтетические данные просто не охватывали всего многообразия пользовательских ситуаций, а потому ИИ постоянно «спотыкался» на нестандартных задачах. В него было заложено множество сценариев, но большинство из них не отвечали реалиям настоящей человеческой жизни. А ведь Apple просто хотела как лучше.
Как изменится нейросеть Apple
Вот так должна выглядеть новая схема обучения ИИ на основе писем пользователей. Ничего непонятно, но очень технологично
Впрочем, по прошествии почти целого года стало ясно, что ставка на синтетические данные себя не оправдала. Поэтому Apple решила пересмотреть подход. Теперь компания осторожно внедряет новый механизм обучения, который позволяет использовать реальные пользовательские данные.
Как сообщила сама Apple, она все еще планирует использовать синтетические данные, но теперь сравнивает их с реальными образцами. Например, компания будет сопоставлять генеративные сведения для обучения ИИ с реальными письмами, отправленными по электронной почте. А как же приватность?
⚡️ПОДПИСЫВАЙСЯ НА НАШ КАНАЛ В ДЗЕНЕ И ЧИТАЙ ЛУЧШИЕ СТАТЬИ НАШИХ АВТОРОВ, ПОКА ЕЩЁ МОЖНО
Ну, Apple уверяет, что ни один байт личных данных пользователей не попадет в руки самой компании или ее сотрудников. Во всяком случае, ИИ будет просто искать в письмах определенные фрагменты по принципу «есть» или «нет», не анализируя сам контекст. При этом в Купертино не будут знать, кто и кому писал изучаемое сообщение. А значит, конфиденциальность вроде как должна сохраниться.
Судя по всему, цель Apple — просто дать ИИ возможность понять, как строятся реальные письма, какие конструкции используют живые люди. Таким образом, компания получает статистику по миллионам устройств. Но говорить о том, что она «не прочитает ни одного письма», на мой взгляд, все-таки не совсем верно. Ведь все-таки, чтобы найти в послании конкретный фрагмент (или не найти), его придется так или иначе проанализировать. Пусть и при помощи специальных алгоритмов.
Обновление Apple Intelligence
Что все это значит? Ну, с одной стороны хорошо, что Apple признала, что прежняя стратегия с синтетическими данными не сработала, и именно поэтому многие функции Apple Intelligence оказались неэффективными или даже вредными. Компания даже вынуждена была задержать запуск ключевых обновлений Siri и других ИИ-инструментов, а внутри Apple обсуждают, что ситуация стала «уродливой и позорной» для бренда.
Планировали опробовать Apple Intelligence? Тогда подождите, когда он станет лучше. Фото: investopedia.com
Тем не менее, новый подход отнюдь не является гарантией, что Apple Intelligence «полетит» как ChatGPT. Даже с дифференциальной приватностью и анализом исключительно на устройствах пользователей Apple все равно остается сильно ограничена в объеме и качестве данных, которые можно использовать для обучения. Например, OpenAI не столь щепетильна в вопросах приватности, а потому позволяет себе обучать свои модели на огромных массивах реальных данных, что позволяет им быстрее учиться и точнее реагировать на запросы пользователей.
⚡️ПОДПИШИСЬ НА ТЕЛЕГРАМ-КАНАЛ ТЕХНОКОТ. ЭТО АГРЕГАТОР ЛУЧШИХ СТАТЕЙ, НОВОСТЕЙ И ИНСТРУКЦИЙ ПО ВЕРСИИ РЕДАКЦИИ APPLEINSIDER.RU. ТЕБЕ ПОНРАВИТСЯ
Apple же вынуждена идти по тонкому льду: с одной стороны, компания не может отказаться от своих принципов приватности, с другой — ей нужно срочно улучшать качество ИИ, чтобы не потерять рынок. Пока что Apple делает ставку на постепенное расширение программы Device Analytics, улучшение синтетических данных и внедрение новых методов анонимизации. Но удастся ли ей догнать конкурентов — пока вопрос открытый.
