Исследования ученого ТГУ помогут отражать хакерские атаки

Молодой ученый Института прикладной математики и компьютерных наук ТГУ Антон Николаев исследует атаки на системы, созданные на основе машинного обучения, и механизмы их предотвращения. Результаты его работы должны стать основой для создания новых подходов защиты нейронных сетей от хакерских нападений.

Машинное обучение учит компьютер самостоятельно находить решения различных задач с помощью заранее загруженных данных и специальных алгоритмов. Сейчас его методы все активнее используются в самых разных областях человеческой деятельности.

«Те или иные методы и алгоритмы, работающие в данных областях, подвержены всевозможным атакам. Сложность (как для атакующего, так и для защищающего) заключается в том, что обозначенные системы крайне сложны в своем устройстве, и защита, как и нападение, требуют сложного многоуровневого подхода на всех этапах взаимодействия системы с пользователем», - говорит аспирант ИПМКН ТГУ Антон Николаев.

Успешная атака на систему, работающую на базе машинного обучения и различных обучающихся алгоритмов, может привести к критичным последствиям разной степени опасности. Так, например, внедрение в биометрические коды может открыть доступ к секретным данным или даже финансовым счетам в онлайн-банках, а взлом систем автономного вождения и вовсе привести к возникновению реальной угрозы человеческой жизни.

Механизмы атак могут быть самыми разными.

«Самые популярные включают генерацию некоторых небольших изменений в объекте (звуке, изображении, тексте) или, проще говоря, специального «шума», который ведет к тому, что система неправильно распознает или классифицирует данный объект, – объясняет Антон Николаев. – Например, определенного рода наклейка на дорожный знак может заставить систему распознавания дорожных знаков увидеть вместо одного знака другой. Или же специальный макияж на лице может заставить систему распознавания лиц увидеть в одном человеке другого».

Замещать одни результаты другими злоумышленникам удается из-за «зазоров», появление которых не исключено в процессе машинного обучения. Задача аспиранта ИПМКН ТГУ – выявить наиболее эффективные методы приближения к границам таких «зазоров» или пограничных значений. Это позволить понять, каким образом можно снизить число подобных «слабых звеньев» при атаках и в эксплуатации. На основе итогов исследований молодой ученый создаст новые алгоритмы для защиты методов машинного обучения от внешнего влияния.

URL: https://babr24.com/tmk/?IDE=219436

bytes: 2587 / 2440

Поделиться в соцсетях:

Экслюзив от Бабра в соцсетях:
- Телеграм
- ВКонтакте
- Вайбер
- Одноклассники

Связаться с редакцией Бабра в Томской области:
[email protected]

Автор текста: Пепел.

Другие статьи в рубрике "Наука и технологии" (Томск)

Первое в России приложение для планирования нейтронной терапии зарегистрировано в Томске

Пресс-служба Томского политехнического университета сообщила 5 октября 2023 года о создании совместно учёными Томского политехнического университета и НИИ онкологии Томского научно-исследовательского центра (НИМЦ) программного обеспечения для планирования терапии злокачественных опухолей методом ...

Яна Ледина

Наука и технологииСобытияОбществоТомск

9828

07.10.2023

Очевидное – невероятное, или Стартап молодых учёных из ТГУ

Молодые учёные ТГУ реализуют стартап, направленный на разработку искусственных кровеносных сосудов, на средства гранта, полученного в рамках федерального проекта «Платформа университетского технологического предпринимательства».

Яна Ледина

Наука и технологииОбществоСобытияТомск

6545

14.08.2023

Технологии геномного реагирования разрабатывают томские учёные

Во времена глобальных климатических и социальных катаклизмов тяжело выживать не только человеку. Растениям тоже приходится непросто.

Яна Ледина

Наука и технологииОбществоСобытияТомск

4751

27.06.2023

Под крылом самолёта… не должно быть птиц, решили томские учёные

Воронка из птиц наверняка ассоциируется у соотечественников с кадрами из фильма «Ночной дозор», где ярко и образно было показано, как эта самая «птичья воронка» ужасающе закручивается вокруг идущего на взлёт самолёта, угрожая ему неминуемым крушением. Художественный вымысел или реальная угроза?

Яна Ледина

Наука и технологииОбществоСобытияТомск

4657

24.05.2023

Все флаги в гости были к нам… на завершившейся в ТПУ апрельской конференции

В четверг, 27 апреля в Томском политехническом университете завершилась третья международная научно-практическая конференция «Научная инициатива иностранных студентов и аспирантов», ставшая уже не только традиционным и ожидаемым событием в научном мире, но и своеобразным брендом Томского ...

Яна Ледина

Наука и технологииОбразованиеМолодежьТомск

47647

28.04.2023

Новый вид: у чернобыльских собак выявили уникальные изменения в ДНК

Прошло 37 лет с момента катастрофы, но территорию бывшей Чернобыльской АЭС продолжают исследовать. Ранее сообщалось, что местный лес превратился в заповедник. Во-первых, туда вернулись животные, во-вторых, людей там нет.

Миша Ковальски

Наука и технологииБратья меньшиеМир

4853

17.03.2023

ТГУ выходит на новый уровень вселенского масштаба

Изобретения томских ученых востребованы не только на земле, но и в космосе! Космонавт-испытатель Олег Артемьев предложил материаловедам Томского госуниверситета (ТГУ) создать новое оборудование для Международной космической станции (МКС).

Соня Совушкина

Наука и технологииОбществоТомск

4687

27.02.2023

Благодаря исследованиям ТГАСУ страшных последствий природных катаклизмов можно избежать

Глобальное потепление грозит чудовищными последствиями. Именно поэтому ученые Томского государственного архитектурно-строительного университета (ТГАСУ) разрабатывают автоматизированную систему мониторинга деформации зданий в условиях таяния ледников и «просадки» грунтов.

Соня Совушкина

Наука и технологииНедвижимостьОбществоТомск

5285

27.02.2023

Полезное в массы! ТГУ выводит на поток свои изобретения

Чистое будущее не за горами! Изобретение Томского государственного университета «Аэрощуп» готовится выйти на серийное производство в 2024 году.

Соня Совушкина

Наука и технологииЭкологияОбществоТомск

19404

26.02.2023

За технологиями ТГУ счастливое и чистое будущее планеты

Изобретения Томского государственного университета (ТГУ) постепенно вливаются в повседневную жизнь, делая ее лучше и чище. Так, например, комплекс «Аэрощуп», созданный учеными ТГУ, будет использоваться для очистки реки Амбарная в Красноярском крае.

Соня Совушкина

Наука и технологииЭкологияОбществоТомск

20714

20.02.2023

Не простые выдумки: ученые ТГУ нашли способ различия форм депрессии

Как многие уже могли понять, депрессия является не мифом или выдумкой, а реальным заболеванием, с которым человеку бороться очень сложно.

Соня Совушкина

Наука и технологииЗдоровьеОбществоТомск

5692

15.02.2023

Только наука и ничего лишнего

Ученые Томского политехнического университета (ТПУ) совместно с Институтом ядерной физики СО РАН имени Будкера изучают, что удерживает нуклоны вместе. Результат данного исследования может стать еще одним великим открытием, вошедшим в историю человечества.

Соня Совушкина

Наука и технологииОбразованиеТомск

4959

30.01.2023

Лица Сибири

Ставинов Андрей

Владимиров Владимир

Серышев Анатолий

Ступин Сергей

Некрасов Андрей

Савельев Александр

Слободчиков Николай

Оболкин Александр

Власов Виктор

Шагдаров Цыденжап