Не искать номер магазина, не слушать музыку в ожидании оператора, не заполнять очередную форму. Просто написать помощнику, что нужно сделать, и заняться своими делами. Именно такое удобство предлагает Muse, новый ИИ-сервис Meta, способный выполнять поручения от имени пользователя.

Но между «помоги разобраться» и «сделай за меня» обнаружилась разница, о которой легко забыть. Вопрос уже не только в том, насколько умно отвечает программа. Важно, кто получает ваши данные, какие решения принимаются без вас и где заканчивается разрешение, которое вы дали.

Подпишитесь на нас в Google

Чем Muse отличается от обычного разговора с нейросетью

Meta представила Muse 8 сентября, начав запуск в США. Компания описывает его как личного цифрового помощника для повседневных дел: он может работать с сайтами, заполнять формы, отправлять письма, заниматься покупками и бронированиями.

Разница понятнее на простом примере. В обычном разговоре с нейросетью вы просите помочь составить письмо в службу поддержки. Получаете текст, перечитываете его, исправляете детали и отправляете самостоятельно.

Помощнику с доступом к почте можно поручить и отправку. А если он умеет звонить, часть вопросов получится решить вообще без переписки.

У такого подхода очевидная привлекательность. Нам предлагают избавиться от мелких дел, которые по отдельности занимают несколько минут, но вместе съедают вечер.

По данным Sensor Tower, приведенным Reuters, за две недели Muse набрал более 2,5 млн загрузок. Это показатель интереса к приложению, хотя сам по себе он ничего не говорит о том, насколько успешно оно справляется с поручениями.

Откуда в этой истории появились живые операторы

22 сентября Reuters сообщил, что во внутреннем тесте Muse некоторые звонки поручали подрядчикам-людям. После вопросов сотрудников о приватности и недостаточном предупреждении функцию временно откатили. Meta заявила, что публичный запуск потребует доработки и корректного уведомления.

Речь именно об эксперименте внутри компании. Из него нельзя заключить, что люди выполняют все звонки обычных пользователей.

Само участие человека не делает сервис бесполезным. Если помощник решил вопрос, результат может вполне устраивать заказчика. Но знать о возможном подключении оператора лучше до того, как передавать подробности поручения.

Представьте две задачи. В первой нужно узнать, есть ли в магазине конкретная модель чайника. Во второй предстоит обсудить доставку: назвать адрес, номер телефона и время, когда дома никого не будет.

В обоих случаях просьба звучит одинаково: «Позвони за меня». Объем личной информации при этом совершенно разный.

Скрытый пароль еще не означает, что можно перестать следить за действиями

Meta подробно описывает защиту Muse. По заявлению компании, учетные данные хранятся отдельно от основной программы, а перед чувствительными действиями, например отправкой письма или покупкой, предусмотрено согласование с пользователем.

Это важные меры. Но здесь полезно разделять два вопроса: видит ли помощник ваш пароль и что ему разрешено делать в вашем аккаунте.

Программа может не знать пароль в привычном нам виде, но пользоваться предоставленным доступом. Поэтому фраза «пароль защищен» сама по себе не отвечает на вопросы, сможет ли помощник отправить письмо, передать адрес продавцу или изменить запись в календаре.

В техническом описании, опубликованном при запуске, Meta также оговаривала: действующая архитектура не исключает доступ компании к данным, когда это необходимо для обслуживания, защиты или работы сервиса. Усиленный конфиденциальный режим, который должен технически ограничить такой доступ, был заявлен на более поздний срок.

Для пользователя это существенная разница. Защита от посторонних, правила доступа сотрудников и режим, при котором сам поставщик сервиса не может прочитать данные, означают разные вещи.

С приложением для Mac возникла отдельная проблема

Параллельно специалист по безопасности Патрик Уордл обнаружил уязвимость в версии Muse для Mac. В интервью Ars Technica он объяснил, что вредоносный код, уже запущенный на компьютере, мог использовать доступ и возможности помощника.

Meta выпустила исправление. Представитель компании Дэвид Синглтон подчеркнул, что речь шла о локальной атаке, для которой на устройстве уже должен был работать вредоносный код, а не об удаленном взломе через интернет.

Это отдельная история, не связанная с участием операторов в телефонном тесте.

Однако она показывает, почему к помощнику с доступом к аккаунтам стоит относиться внимательнее, чем к приложению, которое просто составляет текст. Чем больше полезных действий ему разрешено, тем важнее надежность механизмов, которые эти действия контролируют.

«Найди», «закажи» и «оплати»: три совершенно разных поручения

Проверить собственную готовность доверять цифровому помощнику можно на одной бытовой задаче. Допустим, вам нужен новый пылесос.

«Найди три подходящих варианта».

Помощник собирает информацию и сравнивает характеристики. Вы пока ничего не покупаете и не обязаны передавать ему платежные данные. Ошибка неприятна, но ее еще можно заметить до заказа: сверить комплектацию, размеры, условия гарантии.

«Положи выбранный пылесос в корзину и подготовь заказ».

Теперь важно проверить точную модель, продавца, стоимость доставки, дополнительные услуги. Внешне похожие товары могут отличаться комплектацией, а привлекательная цена на странице не всегда совпадает с итоговой суммой заказа.

«Оплати и договорись о доставке».

Здесь уже появляются деньги и личные данные. Перед подтверждением нужно увидеть, что именно покупается, у кого, за какую сумму и на каких условиях. Отдельного внимания заслуживают подписки, платные дополнения и согласия, которые не были частью первоначальной просьбы.

Одно короткое «сделай» не должно незаметно объединять все три этапа. Возможность поручить программе поиск еще не обязывает доверять ей весь процесс.

Что стоит оставить за собой

Начать знакомство с таким помощником разумнее с задач, результат которых легко проверить. Сравнить варианты, подготовить черновик, собрать информацию. Затем постепенно расширять доступ, если действительно становится удобнее.

При этом важны не только формулировки в чате, но и настройки разрешений. Просьба «ничего не отправляй без меня» полезна, однако не заменяет технического ограничения доступа. Если сервис позволяет отдельно разрешить чтение почты и отправку писем, эти возможности стоит рассматривать по отдельности.

То же относится к сроку действия разрешения. Доступ для одного поручения и постоянный доступ к аккаунту нужны для разных задач. Не стоит выбирать второй вариант только потому, что он избавляет от дополнительного нажатия.

Подтверждение покупки тоже имеет смысл лишь тогда, когда вы проверили ее детали. Нажать «разрешить», не посмотрев на сумму и продавца, почти равнозначно тому, чтобы вообще отказаться от проверки.

После выполнения важного поручения полезно убедиться в результате на стороне самого сервиса: письмо действительно отправлено нужному человеку, бронь появилась в личном кабинете, сумма в заказе совпадает с согласованной. Сообщение помощника «готово» не должно быть единственным подтверждением.

Удобство, которое не требует отдавать все сразу

Желание поручить кому-то звонки, формы и бесконечные уточнения вполне понятно. Хороший цифровой помощник действительно может освободить время. Но оценивать его стоит не только по эффектной демонстрации, в которой все получается с первой попытки.

Гораздо показательнее, как он ведет себя в сложном месте: показывает ли условия, спрашивает ли перед важным действием, позволяет ли отказаться и понятно ли объясняет, что уже сделал. Удобнее становится тогда, когда вам больше не нужно выполнять каждую мелочь самостоятельно, но последнее слово в существенных вопросах остается за вами.