Авторы Specops решили проверить, на что способны современные ускорители для ИИ в задаче перебора паролей. Они взяли Nvidia H200 и AMD Instinct MI300X, а заодно для сравнения RTX 5090.
Авторы протестировали пять популярных алгоритмов хеширования — MD5, NTLM, bcrypt, SHA-256 и SHA-512 — с помощью Hashcat, который предназначен для восстановления паролей из хешей паролей, хранящихся в файле в качестве отправной точки. Этот же инструмент используется хакерами для автоматизации взлома паролей.
Оказалось, что ускоритель AMD был быстрее H200 в четырёх случаях из пяти, причём всегда очень заметно быстрее. Однако во всех пяти случаях самой быстрой была игровая GeForce RTX 5090, причём почти всегда она заметно обходила лидера.
Авторы объясняют результаты таким образом:
Взлом паролей обычно осуществляется с помощью операций с 32-битными целыми числами (INT32). Для поиска совпадения аппаратное обеспечение должно сгенерировать потенциальное совпадение, хешировать его и сравнить. Этот процесс не получает никакой выгоды от оптимизации операций с плавающей запятой.
Однако ускорители ИИ разработаны для очень специфической, узкой рабочей нагрузки: больших языковых моделей.
- Широкие SIMD-операции (Single Instruction, Multiple Data): Они созданы для выполнения SIMD-операций над большими массивами данных.
- Миниатюрные типы данных: В них используются «небольшие» математические операции (числа с плавающей запятой FP4, FP8 или FP16) для упаковки как можно большего количества данных в вычисление. Это позволяет им упаковывать огромное количество значений в векторные операции, что обеспечивает чрезвычайно эффективные матричные вычисления на больших наборах данных.
- Память важнее вычислительных мощностей: они жертвуют универсальной гибкостью ради высокоскоростной памяти, чтобы избежать «задержки» при поиске данных в хранилище.
Представьте себе ускоритель ИИ как профессиональный гоночный велосипед. Он лишён всего лишнего, что необходимо для одной цели: быстрой езды на большие расстояния. Если же вы попытаетесь использовать его для перевозки продуктов или езды по неровной местности («общие вычисления» в задачах взлома паролей), он покажет худшие результаты, чем стандартный велосипед (например, RTX 5090).
По сути, ускорители ИИ жертвуют гибкостью ради специализации.
Авторы также отмечают, что, несмотря на рост вычислительной мощности потребительских решений, сами по себе пароли, как инструмент, не устарели. Просто, как и всегда, они должны быть достаточно сложными.
