GitHub нашёл ИИ-агентом 24 уязвимости в Android: слежка в OsmAnd и захват аккаунта Википедии

28 сентября, в 22:00 по Москве, в блоге GitHub вышел разбор от Кевина Стаббингса из GitHub Security Lab, команды безопасности компании. Он описал, как собрал для открытого ИИ-агента GitHub Security Lab Taskflow Agent сценарии проверки Android-приложений. Итог на момент публикации — 24 найденные и переданные разработчикам уязвимости. Большинство простые, но несколько критических. Два примера уже раскрыты публично.

Что именно нашёл ИИ-агент GitHub

Taskflow Agent — открытая среда, в которой исследователи безопасности собирают удачные запросы к ИИ в пошаговые сценарии и делятся ими. Код лежит в двух репозиториях, seclab-taskflow-agent и seclab-taskflows, под лицензией MIT.

Для Android автор добавил два шага:

• Поиск точек входа. Сценарий находит места, через которые в приложение могут попасть данные злоумышленника, и отделяет мобильные от остальных. Так агент понимает, где настоящая поверхность атаки, даже если в репозитории лежат ещё сервер и десктопная программа.
• Проверка по списку. Для каждой точки входа агент перебирает типовые классы мобильных уязвимостей. Нашёл вход через интенты — обязан проверить, например, небезопасные широковещательные сообщения.

Строгий запрос с повторными прогонами ловит очевидное. Свободный запрос даёт ИИ простор для находок посложнее. Команда запускает оба.

Остальные находки там, где их и ждёт специалист: обход каталогов при работе с файлами, межприложенческий скриптинг во встроенном браузере, открытые мосты к JavaScript.

Где ИИ ошибается

Самая полезная часть разбора — честный список слабых мест.

• ИИ приносит много мелочи. Даже когда его прямо просят не присылать уязвимости низкой опасности.
• Часть находок требует почти невозможного стечения обстоятельств.
• Опасность часто оценена неверно. Модель не видит смягчающих условий: например, обход каталогов, запертый во внешнем хранилище телефона, почти безвреден.
• Бывают ложные срабатывания. Если приложение берёт данные из внутреннего хранилища раньше внешнего, «атака» ничего не меняет.

Лечится это двумя способами. Первый — просить ИИ написать работающую демонстрацию атаки или дать ему отладчик. Второй — отдать находку исследователю. Вывод автора прямой: каждую находку должен проверить специалист по мобильной безопасности. Зато демонстрации атак, которые пишет ИИ, почти не приходилось править.

Как запустить Taskflow Agent на своём проекте

По инструкции GitHub:

1. Открыть репозиторий seclab-taskflows и запустить облачную среду Codespaces.
2. Подождать несколько минут, пока она поднимется.
3. В терминале выполнить `./scripts/audit/run_mobile.sh myorg/myrepo`, подставив свой репозиторий.
4. Через час-два, на репозитории среднего размера, откроется база SQLite с результатами. Нужна таблица audit_results и строки с галочкой в колонке has_vulnerability.

Условия: нужна лицензия GitHub Copilot, запросы расходуют премиальный лимит моделей, а сценарий делает много вызовов инструментов и быстро съедает токены.

Что это значит для бизнеса

У многих компаний есть свой код, который давно никто не открывал. Мобильное приложение для клиентов, личный кабинет, обмен сайта с CRM и 1С, скрипт выгрузки, написанный фрилансером три года назад. Бюджета на внешний аудит безопасности обычно нет. А ошибка уровня Википедии — проверка адреса «по хвосту» — стоит компании клиентских данных.

Разбор GitHub показывает реальную картину. ИИ уже прочёсывает код быстрее человека и находит логические ошибки, а не только типовые. Но без инженера он завалит вас ложными тревогами и перепутает мелочь с дырой. Рабочая схема такая: ИИ ищет, человек проверяет и решает, что чинить первым.

Так же устроен IT-специалист КАРАДЕСК — собственный IT-специалист компании в аренду. Он дорабатывает и исправляет существующие программы, делает интеграции с CRM и 1С, сайты и сервисы. Качество держится на тестах для каждого изменения, повторной проверке и ревью инженером. Изменения записываются в журнал, выкладка — только после одобрения клиента. Код и документация остаются у клиента, в разработку идёт код, а не данные людей. Стоимость — ежемесячная аренда дешевле штатного программиста, точная сумма после оценки задач.

Где ИИ-программисту нужен человек, мы разбирали в статье «ИИ-программист: что он делает и где нужен человек». А про новые правила для Android-разработчиков — в новости о том, как Минцифры оценивает верификацию разработчиков Google.