Два бывших сотрудника OpenAI и группа некоммерческих организаций по безопасности искусственного интеллекта выступили с официальным предупреждением для потенциальных инвесторов SpaceX. По их мнению, принадлежащая Илону Маску ИИ-лаборатория xAI может стать серьёзным финансовым и репутационным бременем для аэрокосмического гиганта.
В открытом письме авторы обращают внимание инвесторов на «неучтённые риски», связанные с деятельностью xAI. Эти факторы могут существенно осложнить планы SpaceX по привлечению до $75 миллиардов в рамках IPO. Непубличная оценка ракетостроительной компании взлетела выше отметки в $1 триллион именно после поглощения xAI в прошлом году. Сам Маск тогда утверждал, что SpaceX сможет запускать огромные дата-центры напрямую в космос для нужд его ИИ-лаборатории. Однако составители письма подчёркивают, что систематические провалы xAI в вопросах безопасности способны омрачить отношение инвесторов к объединённой структуре.
Одним из ключевых авторов и подписантов документа стала новая некоммерческая организация Guidelight AI Standards. Её основали бывший исследователь безопасности OpenAI Стивен Адлер и экс-советник по политике OpenAI Пейдж Хедли. Деятельность группы финансируется частными донорами и направлена на улучшение стандартов безопасности среди разработчиков передового ИИ. Письмо также поддержали такие профильные организации, как Legal Advocates for Safe Science and Technology, Encode AI и The Midas Project.
В интервью изданию Wired Пейдж Хедли заявил, что «xAI демонстрирует худшие практики обеспечения безопасности почти по всем направлениям среди всех ведущих ИИ-разработчиков, включая OpenAI, Google DeepMind и Anthropic». Как следствие, объединенная SpaceX рискует столкнуться с жёстким регуляторным давлением и масштабными судебными исками.
Авторы настаивают, что SpaceX обязана раскрыть инвесторам ряд критических данных. В частности, необходимо прояснить, планирует ли xAI дальше создавать ИИ-модели. Недавно SpaceX заключила крупную сделку по продаже значительной части своих мощностей графических процессоров (GPU) стартапу Anthropic. Это соглашение, как отмечается в письме, «оставляет неясным, остается ли xAI полноценным конкурентом на рынке ИИ внутри холдинга Маска». Если разработка продолжается, от xAI требуют опубликовать детальный публичный план по управлению рисками.
В письме приводится ряд примеров того, как xAI игнорирует общепринятые в индустрии защитные протоколы. Лаборатория до сих пор не опубликовала базовые фреймворки для предотвращения использования своих моделей в кибератаках. Также упоминаются громкие инциденты: чат-бот Grok спонтанно генерировал расистские тексты о «белом геноциде», а также позволял пользователям создавать тысячи откровенно сексуализированных изображений женщин и детей, которые затем массово тиражировались в соцсети X (бывший Twitter). Последний случай привёл к тому, что генеральные прокуроры не менее 37 штатов США направили Маску официальное требование защитить несовершеннолетних на его платформе.
По словам Хедли, «частота и серьёзность скандалов вокруг xAI совершенно несоразмерны её реальной доле на рынке». На фоне растущей тревоги законодателей из-за кибервозможностей новых продвинутых моделей вроде Claude Mythos от Anthropic, новые правила безопасности для сектора могут появиться в самое ближайшее время. Сообщается, что администрация Трампа уже готовит указ, расширяющий надзор американских спецслужб над ИИ-лабораториями.
«Контроль над ИИ-рисками требует серьёзного финансирования, а xAI исторически недоинвестировала эту сферу», — утверждает Стивен Адлер. Письмо ссылается на расследование The Washington Post, согласно которому по состоянию на январь в xAI вопросами безопасности занимались «всего два или три человека». Инвесторам стоит задуматься, во сколько компании обойдётся ответственное управление этими рисками, если xAI планирует оставаться на технологической передовой, и какими будут последствия, если эти риски проигнорируют.
При этом авторы признают, что в последнее время проект Маска показал определённые улучшения. Например, было расширено соглашение с Белым домом, позволяющее тестировать новые ИИ-модели до их официального релиза. Тем не менее для полноценной оценки рисков SpaceX со стороны Уолл-стрит требуется гораздо большая прозрачность. Бывшие сотрудники OpenAI резюмируют, что мрачное прошлое xAI заслуживает жёсткой критики, но оно само по себе ещё не открывает путь к исправлению ситуации. Создатели Guidelight AI Standards планируют разработать единые бенчмарки безопасности, которые станут понятными ориентирами для политиков, прессы и инвесторов.
