Уязвимости ПО, созданного ИИ: угроза для бизнеса
Созданные искусственным интеллектом (ИИ) программы имеют в 15 раз больше уязвимостей, чем программное обеспечение, разработанное человеком, особенно в части проверки ввода и бизнес-логики. Об этом рассказали в Центре мониторинга и противодействия кибератакам в компании «Информзащита».
Технология получила название вайб-кодинг, и эксперты полагают, что на данном этапе вред от неё превышает пользу. Количество таких брешей в ИТ-системах российских компаний увеличилось почти на 30 % за год.
«Наиболее уязвимы для угроз вайб-кодинга стартапы, малый и средний бизнес. Скорость внедрения новых решений здесь часто опережает развитие процессов контроля, что и создаёт риски. Также у малого бизнеса меньше средств, которые они готовы выделить на информационную безопасность, от этого используемое ПО часто оказывается незащищённым», — пояснил руководитель направления анализа защищённости IZ:SOC «Информзащиты» Анатолий Песковский.
Эксперты отмечают, что сгенерированный ИИ-код — глобальный тренд и актуален не только для России. С развитием популярности технологии число программ, содержащих ошибки и потенциальные уязвимости, будет расти.
Кроме того, значительную проблему создают дипфейки, создаваемые в том числе ИИ-инструментами. По данным «Информзащиты», суммарный ущерб от подобных атак на российские компании оценивается в 17 млрд рублей.