hui_v_reduzah
Опытный user
- Регистрация
- 11 Янв 2021
- Сообщения
- 1,155
- Реакции
- 14
Китайские исследователи смогли добиться внедрения сторонних данных внутрь нейросети без нарушения ее работы.
Чжи Ван, Чаоге Лю и Сян Цуй встроили 36,9 МБ вредоносного ПО в искусственный интеллект распознавания изображений размером 178 МБ.
Модель со встроенным вредоносным ПО классифицирует изображения с почти идентичной точностью, в пределах 1% от модели без вредоносных программ.
Не менее важно то, что включение вредоносного ПО в модель разбило ее таким образом, чтобы предотвратить обнаружение стандартными антивирусными ядрами. 70 антивирусных сканеров, VirusTotal, и множество дополнительных инструментов не смогли распознать опасность
Хорошая новость заключается в том, что мы фактически просто говорим о стеганографии - новая техника - это способ скрыть вредоносное ПО, а не выполнить его. Примерно также как мы прячем файлы в картинках или видео
Чтобы запустить вредоносное ПО, оно должно быть извлечено из зараженной модели другой программой, а затем преобразовано в рабочую форму.
Самое важное: Модели нейронных сетей — это теперь еще один способ потенциально переправить данные через цифровых часовых незаметно
Чжи Ван, Чаоге Лю и Сян Цуй встроили 36,9 МБ вредоносного ПО в искусственный интеллект распознавания изображений размером 178 МБ.
Модель со встроенным вредоносным ПО классифицирует изображения с почти идентичной точностью, в пределах 1% от модели без вредоносных программ.
Не менее важно то, что включение вредоносного ПО в модель разбило ее таким образом, чтобы предотвратить обнаружение стандартными антивирусными ядрами. 70 антивирусных сканеров, VirusTotal, и множество дополнительных инструментов не смогли распознать опасность
Хорошая новость заключается в том, что мы фактически просто говорим о стеганографии - новая техника - это способ скрыть вредоносное ПО, а не выполнить его. Примерно также как мы прячем файлы в картинках или видео
Чтобы запустить вредоносное ПО, оно должно быть извлечено из зараженной модели другой программой, а затем преобразовано в рабочую форму.
Самое важное: Модели нейронных сетей — это теперь еще один способ потенциально переправить данные через цифровых часовых незаметно
