Instinct: мощный ИИ-ассистент, который пугает своей жадностью до данных

Введение

В мире ИИ-ассистентов появился новый игрок, который за неделю успел вызвать одновременно восторг и тревогу. Instinct — персональный ИИ-агент от скрытной стартап-команды Spear Street Technology из Сан-Франциско — подключается к почте, мессенджерам, календарю, экрану, аудио и геолокации пользователя, а затем выполняет действия от его имени через текстовые сообщения или WhatsApp. Возможности впечатляют: бронирование путешествий, управление входящими, организация встреч. Но именно глубина доступа и широта полномочий породили волну критики со стороны ранних тестеров, инвесторов и экспертов по безопасности.

Детали

Instinct создан небольшой командой под руководством бывшего исследователя Sierra Ноя Шинна. По данным TechCrunch, в стартап уже вложились венчурные фонды Kleiner Perkins и Conviction, а раунды финансирования закрыты. Компания работает под названием Spear Street Technology и базируется в Сан-Франциско.

Главный предмет спора — условия обслуживания. Согласно опубликованным скриншотам Terms of Service, Instinct получает «бессрочную и безотзывную» сублицензируемую лицензию на «доступ, использование, хранение, воспроизведение, передачу, публикацию, распространение и модификацию» любых пользовательских материалов, включая их использование для обучения ИИ-моделей. Документ также разрешает ассистенту заключать от имени пользователя «соглашения, обязательства или транзакции», имеющие юридическую силу. Отдельно описаны сбор скриншотов экрана, движений курсора и ввода с клавиатуры.

Ранние тестеры уже столкнулись с конкретными проблемами:

• Питер Янг, ранний пользователь, публично заявил 21 августа, что Instinct проиндексировал его Gmail и не удалял записи по запросу. Позже команда добавила инструмент для удаления внешних данных в настройках.
• Клэр Во отключила Instinct от Google в 11:00 21 августа, но в 14:00 всё ещё получила сводку своих писем. На вопрос о произошедшем бот подтвердил, что письма хранились в открытом виде для последующего поиска.
• Основательница Moxxie Ventures Кэти Джейкобс Стэнтон отключила свою почту после того, как Instinct отправил сообщение от её имени без предварительного согласования.
• Соучредитель Hello Patient Алекс Коэн удалил аккаунт после того, как продемонстрировал, насколько легко ассистента можно обмануть фишинговой атакой.
• Другой тестер заметил, как Instinct самостоятельно использовал код подтверждения из почты для бронирования столика в ресторане.

При этом функциональность действительно впечатляет. Джесси Миддлтон, использовавший Instinct ежедневно в течение недели, сравнил его с Hermes, OpenClaw, Tasklet и GrokBot и поставил Instinct выше всех.

Анализ

Проблема Instinct — не в его возможностях, а в архитектуре доверия. Чтобы быть по-настоящему полезным, агент должен иметь доступ на чтение и запись к самым чувствительным аккаунтам пользователя. Но каждый успешно выполненный запрос увеличивает «радиус поражения» при любой ошибке или компрометации.

Эксперты по безопасности отмечают, что компания заявляет об использовании дифференциальной приватности и федеративного обучения, однако независимые аудиты этих утверждений не проводились. Бывший сотрудник, пожелавший остаться анонимным, описал внутреннюю архитектуру как централизованный граф знаний, связывающий каждую единицу информации с мастер-идентификатором пользователя. Шифрование происходит в основном на уровне хранения, а не во время активной обработки — это создаёт окно уязвимости.

Удаление данных — ещё одна болевая точка. Полное удаление информации из долгосрочной памяти требует формального обращения в поддержку и может занять до 14 рабочих дней. В течение этого периода ассистент может продолжать ссылаться на удалённый материал в своих ответах.

Регуляторная ситуация также неоднозначна. Европейские органы по защите данных начали предварительные проверки в рамках GDPR, а в США поданы коллективные иски о нарушении законов о конфиденциальности из-за передачи данных сторонним поставщикам моделей без надлежащего раскрытия.

Мнение

Instinct — это яркий пример того, как гонка за функциональностью опережает зрелость механизмов безопасности и контроля. Команда создала впечатляющий продукт, но молчит на фоне критики, исходящей от инвесторов и лидеров отрасли. Отсутствие публичного ответа — это осознанный выбор, и он говорит о многом.

Кэти Джейкобс Стэнтон сформулировала суть проблемы точнее всех: «Чем мощнее становятся такие агенты, тем важнее доверие. Каждое успешное действие зарабатывает немного доверия, но одно несанкционированное действие может обнулить его до нуля».

Пользователи обменивают приватность