Фото: naked-science.ru
Коллектив ученых из Корнельского института передовых технологий представил новшество в сфере кибербезопасности. Они создали авангардную версию компьютерного вируса, проникающего сквозь системы с использованием алгоритмов генеративного искусственного интеллекта для упрощения своего распространения. Этот вирус способен самостоятельно дублироваться и переноситься с одной ИИ-системы на другую.
Творение исследователей было названо Moris II в честь исторического компьютерного червя Morris, который нанес значительные убытки цифровой инфраструктуре более двух десятков лет назад. Представленное зловредное ПО обладает способностью обходить определенные защитные механизмы в системах ИИ и красть приватные данные из электронных переписок.
Научный сотрудник Бен Насси, представляющий Корнельский институт, в интервью изданию Wired поделился нюансами этой прорывной работы в области информационных технологий. Исследователи задействовали методику, получившую название «самовоспроизводящийся обманный запрос». Этот метод заключается в создании команды, которая, будучи введенной в систему ИИ, порождает в ответ новую команду. В результате, инфицированная система начинает генерировать цепочку инструкций, которые ведут к ее дальнейшему заражению.
Осуществление кибератаки посредством ИИ
Атака осуществляется посредством мессенджеров на базе ИИ. В рамках эксперимента специалисты создали тестовую электронную почту на основе генеративных алгоритмов ИИ. После этого они сформировали это сообщение с самовоспроизводящимся запросом и встроили его в информационную базу, с которой работает ИИ. Так, в ответ на запрос, система строила свои реакции на базе «загрязненных» данных. Всякий раз, когда такой ответ пересылался другому пользователю, он мог служить новым каналом распространения вируса.
Примечательно, что данный процесс не ограничивается одним лишь распространением – он также способен экстрагировать различные категории чувствительной информации из электронной корреспонденции, такие как личные имена, телефонные номера, детали банковских карт, идентификационные номера страховок.
Последствия подобных кибератак могут быть глобального масштаба, ведь они затрагивают не только незначительные неудобства, но и проблемы приватности, финансовые мошенничества и другие серьезные угрозы для пользователей.
Результаты исследования уже обсуждались с руководителями OpenAI и Google, а его авторы подчеркивают критическую важность укрепления защиты в свете все возрастающей доступности и умений искусственного интеллекта. Насси утверждает, что главная миссия исследования – обратить внимание на важность постоянного совершенствования уровня безопасности ИИ-систем, а не демонизировать их уязвимости.
