ИИ от стартапа Xbow лидирует в рейтинге HackerOne среди сервисов, которые ищут уязвимости систем, используемые хакерами

В мире киберпреступности и хакерства рост ИИ стал благословением, поскольку он дал злоумышленникам еще больше способов украсть учетные записи, похитить важную информацию или выманить у пользователей деньги. Однако не все потеряно, поскольку оказалось, что есть один ИИ, который настолько хорош в поиске проблем безопасности и уязвимостей в коде, что в настоящее время является лидером в рейтинге HackerOne в США.

Компания, разработавшая модель ИИ, называется Xbow, и она использовала то же название для самой системы. Xbow также относительно новый, поскольку в отчете Bloomberg говорится, что стартап существует всего год. Пока что он привлек 75 миллионов долларов финансирования, но учитывая его успехи в поиске проблем безопасности, потенциально возможно появление новых инвесторов, заинтересованных в проекте.

То, что делает Xbow, не совсем ново, поскольку этичные хакеры уже много лет используют всевозможные автоматизированные инструменты для тестирования и проверки кода, веб-сайтов и т. п. Конечно, в последнее время ИИ стал вызывать особый интерес, потому что если есть что-то, в чем хороши модели искусственного интеллекта, так это просмотр огромных объемов данных для поиска общих закономерностей.

ИИ Xbow выполняет так называемое автоматизированное тестирование на проникновение, которое имитирует кибератаки или любое систематическое злоупотребление уязвимостями безопасности в коде. В прошлом это делалось вручную, что делало весь процесс очень трудоемким и, следовательно, дорогостоящим. В последнем случае это иногда настолько дорого, что некоторые компании просто запускают код, не гарантируя, что он безопасен для памяти.

Учитывая, что Xbow в настоящее время возглавляет рейтинг лидеров US HackerOne, он явно хорошо справляется со своей задачей. Тем не менее, он не идеален, и отчасти это связано с галлюцинациями ИИ, когда модель выдает совершенно неверный ответ, потому что она сталкивается с данными, на которых она никогда не обучалась или которых было недостаточно. Xbow, компания, которая создала данный ИИ, обходит этот недостаток, вручную проверяя и решая каждую сообщенную проблему.

Также есть тот факт, что ИИ не имеет понятия о контексте. Например, как сказал Bloomberg соучредитель Xbow Оге де Мур, «ему нужно четко сказать при просмотре медицинского веб-сайта, что рецепты должны храниться в тайне».