"Битва титанов": эксперты прогнозируют противостояние ИИ в киберпространстве
Компании, занимающиеся кибербезопасностью, стремятся заблаговременно найти решения, поскольку ожидается, что развитие генеративного искусственного интеллекта приведет к всплеску кибератак.
Даже самые многообещающие технологические достижения несут с собой оборотную сторону , которая часто вызывает опасения.
Генеративный искусственный интеллект или ИИ может создавать бесконечное количество контента за секунды, и эксперты уже предупреждают о кибератаках на основе ИИ. Они предсказывают, что только другие ИИ смогут их остановить.
ChatGPT, недавно запущенный компанией OpenAI из Силиконовой долины, может поддерживать беседы, писать эссе и многое другое. Но израильские исследователи из компании по разработке программного обеспечения CyberArk также недавно обнаружили, что, проявив немного авторитетной настойчивости, вы можете убедить ChatGPT создать вредоносное ПО, чего он не должен делать.
Исследователям "удалось заставить ChatGPT создать вредоносный код и найти довольно оригинальный способ скрыть этот вредоносный код от стандартных антивирусных систем".
По данным Всемирного экономического форума, число кибератак по всему миру увеличилось на 38% в 2022 году и может расти в геометрической прогрессии в течение следующего года из-за распространения и развития генеративных моделей искусственного интеллекта.
Одна из основных проблем кибербезопасности заключается в том, что злоумышленники, кажется, на шаг впереди.
"Атаки на основе ИИ станут гораздо более всеобъемлющими, более адаптируемыми и гораздо более быстрыми, чем в прошлом, и защитники просто не успеют за темпами", — сказал Худи Зак, эксперт по кибериндустрии, который ранее возглавлял технологическое подразделение Израильского национального кибердиректора.
"Пока человек-защитник не сможет понять, что происходит, найти правильные контрмеры и отреагировать, атака ИИ уже достигла своей цели", — сказал он The Media Line. — "Нам придется возложить задачу защиты на систему на основе ИИ".
Другие представители отрасли согласились с тем, что в ближайшем будущем машине придется сражаться с машиной.
"ИИ уже меняет кибербезопасность с точки зрения злоумышленников, которые уже могут создавать вредоносные программы, а также защитников, которые могут использовать ИИ для прогнозирования и понимания того, когда происходят атаки", — сказал Иден Зараф, технический директор и соучредитель киберкомпании Kayran.
У Kayran есть веб-приложение, которое помогает предприятиям сканировать свои онлайн-активы и предоставляет полные отчеты об обнаруженных уязвимостях.
Некоторые компании уже полагаются на ИИ в оборонных целях, например компания по информационной безопасности Cognni.
Стартап из Тель-Авива предлагает решение на основе искусственного интеллекта, которое автономно отображает, обнаруживает, а затем исследует уязвимости в критически важных информационных активах компаний.
По мере того, как киберпреступность делает огромный шаг вперед, а эксперты по безопасности играют в догонялки, ИИ сможет создавать гораздо более изощренные фишинговые кампании и атаки программ-вымогателей благодаря дипфейкам, возможностям клонирования голоса или еще хуже.
Эксперты рекомендуют предприятиям усилить пароли, исправить любой уязвимый код и, что наиболее важно, информировать людей о рисках кампаний с использованием ИИ.