Apple использовала очень нестандартные чипы для разработки Apple Intelligence. Последствия могут быть ужасными

Фархад
AI

Компания Apple использовала тензорные процессоры (TPU) Google вместо широко используемых графических процессоров (GPU) Nvidia для создания двух критически важных компонентов Apple Intelligence.

Решение было подробно описано в исследовательской статье, опубликованной Apple, в которой компания сама подчеркнула свою зависимость от облачного оборудования Google. В материале говорится, что Apple использовала 2048 чипов TPUv5p от Google для создания моделей ИИ и 8192 процессора TPUv4 для серверных моделей ИИ. Nvidia в исследовательской статье вообще не упоминается.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым.

Такое решение может сыграть злую шутку с Apple в будущем, поскольку все крупные модели ИИ и нейросети создавались на процессорах Nvidia. Более того, Nvidia продает свои чипы и системы как отдельные продукты, а Google предоставляет доступ к своим TPU через облачные сервисы. Поэтому при любом сбое в работе Apple Intelligence производитель iPhone будет вынужден рассчитывать на быструю реакцию Google. Также отметим, что собственный ИИ Google Gemini пока сильно отстаёт от той же модели GPT4 от Open AI. Отчасти это также связано с оборудованием, поэтому ждать от Apple Intelligence решения задач на уровне ChatGPT бессмысленно. Видимо, по этой причине Apple встроит ChatGPT в свой ИИ позже.

Сами инженеры Apple объясняют, что TPU позволили им эффективно обучать большие, сложные модели ИИ. Они описывают, как TPU Google организованы в большие кластеры, что обеспечивает вычислительную мощность, необходимую для обучения моделей ИИ Apple. Сейчас компания планирует инвестировать более $5 млрд в усовершенствования собственных серверов ИИ в течение следующих двух лет.
-2
iGuides в Дзене —  dzen.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Рекомендации

Рекомендации

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

tellurian
+1988
Самое важное, что работа нейросетей потребляет сильно больше энергии, чем простой поисковик. Сами компании в отчетах пишут о росте потребления.
30 июля 2024 в 17:29
#
+956
Кому важно могут не пользоваться
30 июля 2024 в 18:16
#
tellurian
+1988
Вопрос в другом. У них там экология и зеленая тема популярны. Это идёт в разрез этой темы.
30 июля 2024 в 18:50
#
+956
Видимо, не настолько популярна.
30 июля 2024 в 19:13
#
0
Откуда информация о том, что у Apple могут быть проблемы из-за использования оборудования не от nVidia для обучения и исполнения моделей?
Для справки автору — модели можно учить и на CPU, итоговая модель представляется в виде математического графа и кода постобработки результата. Получившиеся веса конвертируют и оптимизируют для исполнения на любых устройствах (x86, arm, cuda, tpu, mpu и т.д.).
Что касается кластеров распределенного обучения — видимо, apple нашли конфиг который по соотношению цена/производительность лучше, чем решения от nvidia. Видео-ускорители архитектурно являются теми же кластерами распределенного обучения, только распаяны на одной плате.
Весь пост — сплошные домыслы научпопа.
31 июля 2024 в 23:50
#

Читайте также