Потому что лучше, потому что это первое версия, а другие будут лучше, потому что это спецы в штате, потому что это интеграция и оптимизация, потому что у конкурентов нет аналогов Private Cloud Comput!
Тут Reuters пишут что обучали модель на TPU от Google — https://www.reuters.com/technology/artificial-intelligence/how-apple-used-googles-help-train-its-ai-models-2024-06-11/
Там две модели, одна локальная, вторая на серверах уровня GPT 3.5.
We compare our models with both open-source models (Phi-3, Gemma, Mistral, DBRX) and commercial models of comparable size (GPT-3.5-Turbo, GPT-4-Turbo)1. We find that our models are preferred by human graders over most comparable competitor models. On this benchmark, our on-device model, with ~3B parameters, outperforms larger models including Phi-3-mini, Mistral-7B, and Gemma-7B. Our server model compares favorably to DBRX-Instruct, Mixtral-8x22B, and GPT-3.5-Turbo while being highly efficient. — https://machinelearning.apple.com/research/introducing-apple-foundation-models
Можешь еще добавить Apple, Amazon и Google которые тоже имеют инфру на АРМ!
— https://cloud.google.com/blog/products/compute/introducing-googles-new-arm-based-cpu?hl=en
Power-efficient Arm-based CPUs are not knocking on the data center doors. They are already there — inside data centers. If not long ago Arm-based servers were used for storage and networking then now they are applicable to HPC. Intel Xeons we’re using cannot hit declared turbo frequencies when involving more cores. Current Ampere Altra should be running at 3.0 GHz for all cores. — https://curiosio.medium.com/evaluation-of-ampere-altra-processor-450ab810f3cf
Ну в DGX B200 тоже АРМ стоит
Громкие угрозы Медведева в ТГ ?We compare our models with both open-source models (Phi-3, Gemma, Mistral, DBRX) and commercial models of comparable size (GPT-3.5-Turbo, GPT-4-Turbo)1. We find that our models are preferred by human graders over most comparable competitor models. On this benchmark, our on-device model, with ~3B parameters, outperforms larger models including Phi-3-mini, Mistral-7B, and Gemma-7B. Our server model compares favorably to DBRX-Instruct, Mixtral-8x22B, and GPT-3.5-Turbo while being highly efficient. — https://machinelearning.apple.com/research/introducing-apple-foundation-models
Так не кто и не купил, но бизнес растет и будет выпускать аж по одному процу каждый год! И они доступны чуть ли не каждом облаке, логика?
Мелкий стартап перешла но новый сервер и описывает свой опыт, как я тебе говорил циферок можешь много найти сам :))
Да мне на это вестись не нужно я пару лет назад делал замеры и мы тестили на инстансах в Scaleway и AWS часть нашей инфраструктуры.
Equinix, Scaleway, Alibaba Cloud, Baidu, JD Cloud, Leaseweb, Microsoft Azure, Oracle Cloud
Можешь еще добавить Apple, Amazon и Google которые тоже имеют инфру на АРМ!
— https://cloud.google.com/blog/products/compute/introducing-googles-new-arm-based-cpu?hl=en
Кидаешь ему кучу облачных провайдеров где есть АРМ (заметь я не кинул AWS так как они свои делают)
Iliad (scaleway) Revenue €7.6 billion (2021)
Equinix = 248 ДЦ в мире
Hetzner = Revenue €290M (2020)
Alibaba Cloud, Baidu, JD Cloud, Leaseweb, Microsoft Azure, Oracle Cloud
Делают сервера и продают их — ASRock, Foxconn Industrial, GIGABYTE, HPE
Можешь сам изучить — https://amperecomputing.com/where-to-buy
Циферки сам найдешь или тебя за ручку отвести в perplexity?