Лабораторія штучного інтелекту DeepMind від Google представила нового AI-агента під назвою CodeMender, який автономно виявляє та виправляє вразливості в програмному забезпеченні. Цей інструмент не лише знаходить безпекові прогалини, але й переписує вразливий код для запобігання майбутнім експлойтам, усуваючи цілі класи помилок безпеки. CodeMender базується на моделях Gemini DeepThink і є частиною ініціатив Google щодо використання ШІ для виявлення вразливостей, подібно до агента Big Sleep, який нещодавно виявив критичну вразливість у SQLite та запобіг її експлуатації в реальних умовах. Компанія зазначає, що такі інструменти необхідні, оскільки ШІ все швидше виявляє дефекти, а людським розробникам важко встигати з їхнім виправленням. За останні шість місяців CodeMender надав 72 безпекових патчів для відкритих проєктів із програмним кодом, що сягає мільйонів рядків, але всі зміни проходять ретельний огляд перед поданням, щоб забезпечити обережність у впровадженні.

Методи роботи CodeMender включають розширене міркування про код, що дозволяє розуміти та прогнозувати поведінку програми без її запуску, а також валідацію змін за допомогою передових інструментів аналізу програм. Серед них — статичний і динамічний аналіз, фаззинг, диференційний тестування та розв’язувачі SMT для ідентифікації корінних причин вразливостей та архітектурних слабкостей. Агент використовує багатоканальні системи з спеціалізованими підагентами, наприклад, інструмент критики на основі великих мовних моделей, який виділяє відмінності між оригінальним і модифікованим кодом, перевіряє на відсутність регресій та дозволяє самокорекцію. Вплив CodeMender полягає в автоматизації процесу безпеки, що прискорює виправлення вразливостей і зменшує ризики експлуатації, особливо в масштабних проєктах. Рекомендації від DeepMind акцентують на інтеграції таких AI-агентів у процеси розробки для підвищення безпеки коду, з обов’язковим людським контролем для уникнення помилок, та подальшому розвитку технологій для протидії еволюціонуючим загрозам у сфері програмного забезпечення.