Применение технологий машинного обучения и искусственного интеллекта при обеспечении информационной безопасности

Искусственный интеллект играет все более важную роль в кибербезопасности — как во благо, так и во вред. Организации могут использовать новейшие инструменты на основе ИИ для более эффективного обнаружения угроз и защиты своих систем и ресурсов данных. Но киберпреступники также могут использовать эту технологию для проведения более изощренных атак.Согласно Accenture, враждебный ИИ «заставляет модели машинного обучения неправильно интерпретировать входные данные в систему и вести себя так, как это выгодно злоумышленнику».Например, функция доступа «FaceID» в iPhone использует нейронные сети для распознавания лиц, что делает его уязвимым для враждебных атак ИИ. Хакеры могут создавать враждебные изображения, чтобы обойти функции безопасности Face ID и легко продолжить атаку, не привлекая внимания.В сочетании с украденной личной информацией или собранными данными из открытых источников, такими как сообщения в социальных сетях, киберпреступники могут использовать ИИ для создания большого количества фишинговых электронных писем для распространения вредоносных программ или сбора ценной информации.«Эксперты по безопасности отметили, что фишинговые электронные письма, сгенерированные искусственным интеллектом, на самом деле имеют более высокие показатели открываемости — [например] заставляя возможных жертв щелкнуть по ним и, таким образом, спровоцировать атаки — чем фишинговые электронные письма, созданные вручную», — сказал Финч. «ИИ также можно использовать для создания вредоносных программ, которые постоянно меняются, чтобы избежать обнаружения автоматическими защитными инструментами».Постоянно меняющиеся сигнатуры вредоносных программ могут помочь злоумышленникам обойти статические средства защиты, такие как брандмауэры и системы обнаружения периметра. Точно так же вредоносное ПО на основе ИИ может находиться внутри системы, собирая данные и наблюдая за поведением пользователей, пока не будет готово начать новую фазу атаки или отправить собранную информацию с относительно низким риском обнаружения. Отчасти поэтому компании переходят к модели «нулевого доверия», когда средства защиты настроены на постоянную проверку и проверку сетевого трафика и приложений, чтобы убедиться, что они не являются вредоносными.Но Финч сказал: «Учитывая экономику кибератак — обычно проще и дешевле запускать атаки, чем строить эффективную защиту, — я бы сказал, что ИИ в конечном итоге будет скорее вредным, чем полезным. Предостережение, однако, с тем фактом, что действительно хороший ИИ сложно создать и требует много специально обученных людей, чтобы заставить его работать хорошо. Заурядные преступники не получат доступа к величайшим умам ИИ в мире».Анализ рынкаРост числа кибератак способствует росту рынка продуктов безопасности на основе ИИ. В отчете Acumen Research and Consulting за июль 2022 года говорится, что мировой рынок составлял 14,9 миллиарда долларов в 2021 году и, по оценкам, достигнет 133,8 миллиарда долларов к 2030 году.Растущее число атак, таких как распределенный отказ в обслуживании (DDoS) и утечка данных, многие из которых обходятся пострадавшим организациям чрезвычайно дорого, вызывают потребность в более сложных решениях.Согласно отчету, еще одним фактором роста рынка стала пандемия Covid-19 и переход на удаленную работу. Это вынудило многие компании уделить повышенное внимание кибербезопасности и использованию инструментов на основе ИИ для более эффективного обнаружения и предотвращения атак.Ожидается, что в будущем такие тенденции, как растущее внедрение Интернета вещей (IoT) и увеличение числа подключенных устройств, будут способствовать росту рынка, говорится в отчете Acumen. Растущее использование облачных сервисов безопасности также может предоставить возможности для новых применений ИИ для кибербезопасности.По данным CapgeminiResearchInstitute, 64% организаций, годовая выручка которых составляет более миллиарда долларов, заявляют о том, что технологии ИИ сокращают затраты на обнаружение и реагирование на угрозы безопасности, и около 75 % заявляют о сокращении времени реагирования(до 12 %).[5]Рис 9. Распределение основных сегментов рынка кибербезопасности[4]Рис 10. Исторический и прогнозируемый общий объем рынков кибербезопасности[4]ВыводИИ быстро превращается в обязательную технологию для повышения производительности групп ИТ-безопасности. Люди больше не могут масштабироваться для достаточной защиты поверхности атаки на уровне предприятия, а ИИ обеспечивает столь необходимый анализ и идентификацию угроз, которые могут использоваться специалистами по безопасности для минимизации риска взлома и повышения уровня безопасности.Более того, искусственный интеллект может помочь обнаруживать и определять приоритеты рисков, направлять реагирование на инциденты и выявлять атаки вредоносного ПО до того, как они попадут в поле зрения.Таким образом, даже с потенциальными недостатками, ИИ будет способствовать развитию кибербезопасности и поможет организациям создать более надежную систему безопасности. В данной работы были исследованы понятия кибербезопасности, искуственного интеллекта, применение ИИ в ИБ, плюсы и минусы этого подхода, использование ИИ хакерами и анализ рынка Список сокращенийИИ – информационная безопасностьИБ – информационная безопасностьПО – программное обеспечениеСписок источниковhttps://www.kaspersky.ru/resource-center/definitions/what-is-cyber-securityhttps://www.ptsecurity.com/ru-ru/research/knowledge-base/chto-takoe-kiberbezopasnost/https://www.securityvision.ru/blog/iskusstvennyy-intellekt-v-informatsionnoy-bezopasnosti/https://www.fortunebusinessinsights.com/industry-reports/cyber-security-market-101165Использование ИИ в информационной безопасности - https://youtu.be/XolYoRpFCU0https://www.xelent.ru/blog/razlichiya-mezhdu-mashinnym-obucheniem-i-ii/https://habr.com/ru/post/657597/Николенко С., Кадурин А., Архангельская Е. “Глубокое обучение.” — СПб.: Питер, 2018. — 480 с.: ил. — (Серия «Библиотека программиста»). - ISBN 978-5-496-02536-2Samsung ML Bootcamp 2022. Линейная регрессия. Теория. - https://youtu.be/ynsZzcTiq24https://shalaginov.com/2021/09/28/narrow-ai-general-ai/#:~:text=%D0%A3%D0%B7%D0%BA%D0%B8%D0%B9%20%D0%98%D0%98%2C%20%D1%82%D0%B0%D0%BA%D0%B6%D0%B5%20%D0%B8%D0%B7%D0%B2%D0%B5%D1%81%D1%82%D0%BD%D1%8B%D0%B9%20%D0%BA%D0%B0%D0%BA,%D1%87%D0%B5%D0%BB%D0%BE%D0%B2%D0%B5%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9%20%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%20%D0%B4%D0%BB%D1%8F%20%D0%BE%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%BD%D0%BE%D0%B9%20%D1%86%D0%B5%D0%BB%D0%B8.https://sbercloud.ru/ru/warp/blog/machine-learning-abouthttps://netology.ru/blog/07-2022-what-is-cybersechttps://powerdmarc.com/ru/ai-in-cybersecurity/#:~:text=%D0%9E%D0%B1%D0%BB%D0%B0%D1%81%D1%82%D0%B8%20%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D0%BD%D0%B5%D0%BD%D0%B8%D1%8F%20%D0%98%D0%98%20%D0%B2%20%D0%BA%D0%B8%D0%B1%D0%B5%D1%80%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D0%B8,%D0%B0%D0%BD%D0%BE%D0%BC%D0%B0%D0%BB%D0%B8%D0%B9%20%D0%B2%20%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B5%20%D0%BA%D0%B8%D0%B1%D0%B5%D1%80%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D0%B8%20%D0%BE%D1%80%D0%B3%D0%B0%D0%BD%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D0%B8.