Расширение браузера могло через Claude Dispatch выполнять код на компьютере

Исследователи Forever Security описали1 атаку ThisBash на функцию Dispatch в Claude.
Вредоносное или взломанное расширение браузера может через вкладку claude.ai отправлять задания агенту Claude Desktop и добиться выполнения кода на компьютере пользователя. Первым об отчёте написал2 The Register.
Dispatch позволяет ставить задачи Claude Desktop с телефона или из браузера, а агент выполняет команды на компьютере. По данным исследователей, интерфейс и APIПрограммный интерфейс, через который приложения и сервисы могут обмениваться данными и выполнять команды. Dispatch были доступны из обычной сессии claude.ai, хотя веб-версия ссылку на него не показывает.
Расширению с правом scripting и доступом ко всем сайтам достаточно открыть Dispatch в маленьком неактивном окне, узнать идентификатор сессии Claude Desktop, отправлять агенту сообщения и нажимать за пользователя кнопки «Разрешить».
В демонстрации агент сначала отказался ставить незнакомый npm-пакет, но согласился после нескольких сообщений. Пакет при установке открывал калькулятор, на его месте мог быть любой код. Если Claude Desktop запущен на другом компьютере, например личный аккаунт открыт на рабочем ноутбуке, атака переходит туда.
Forever Security сообщила об уязвимости 14 мая через HackerOne. 19 мая AnthropicАмериканская компания, занимающаяся разработкой искусственного интеллекта. Основана в 2021 году бывшими сотрудниками OpenAI. Известна семейством языковых моделей Claude и исследованиями в области безопасности и надёжности ИИ. признала находку, но закрыла отчёт как дубликат проблемы, которую уже нашла сама; вознаграждения и CVECVE: международная система идентификации публично известных уязвимостей. Каждой уязвимости присваивается уникальный номер. не было. 13 октября компания сообщила исследователям, что выведет Dispatch из эксплуатации к концу октября. 6 ноября справка Claude3 по-прежнему называет Dispatch ограниченной бетой: новым пользователям функция недоступна, у прежних она «пока» работает. На вопросы The Register AnthropicАмериканская компания, занимающаяся разработкой искусственного интеллекта. Основана в 2021 году бывшими сотрудниками OpenAI. Известна семейством языковых моделей Claude и исследованиями в области безопасности и надёжности ИИ. не ответила.
Источники
Интересно обсудить?


Volven Skadadottir
Редактор verärgert
