NJIT разрабатывает фреймворк для проверки безопасности ИИ-кода

Исследователи Технологического института Нью-Джерси работают над инструментом, который должен добавлять требования безопасности к генерации кода и проверять результат статическим и динамическим анализом. Проект финансируется трехлетним грантом Национального научного фонда США на $450 тыс.

В Технологическом институте Нью-Джерси (New Jersey Institute of Technology, NJIT) разрабатывают программный фреймворк для проверки и доработки кода, созданного с помощью ИИ. Проект, анонсированный университетом 26 мая 2026 года, финансируется грантом Национального научного фонда США (National Science Foundation, NSF) на $450 тыс.; работу ведут профессора Zephyr Yao и Iulian Neamtiu.

Фреймворк пока не получил названия. Предполагается, что разработчик подключит к нему репозиторий, например на GitHub, и выбранную систему генерации кода — Claude, Codex, GitHub Copilot или корпоративную модель. При обработке запроса инструмент будет добавлять требования безопасности, анализировать результат и возвращать выводы в цикл повторных подсказок.

Авторы проекта собираются сочетать статический и динамический анализ: проверять код без запуска и во время выполнения. Среди целей проверки названы уязвимости из CWE Top 25, ошибки в крупных проектах с большим контекстом и сложные дефекты, требующие экспертной диагностики.

Исследователи указывают, что по прежним работам и их предварительным данным 40% программ, сгенерированных большими языковыми моделями, содержат ошибки, а 65% первых вариантов небезопасны. Отдельная задача проекта — автоматически останавливать итерации, если последующие правки ИИ ухудшают код, и объяснять разработчику найденную проблему.