Элон Маск: В Tesla у нас, по сути, было две разные программы чипов: одна Dojo и одна. Dojo на стороне обучения, а затем то, что мы называем AI4, это просто наш чип для вывода.
AI4 — это то, что в настоящее время поставляется во все автомобили, и мы завершаем проектирование AI5, который будет огромным скачком по сравнению с AI4. По некоторым метрикам, улучшение в AI5 будет в 40 раз лучше, чем в AI4. То есть не на 40%, а в 40 раз.
Это связано с тем, что мы работаем очень тесно на очень детальном уровне над программным обеспечением AI и аппаратным обеспечением AI. Поэтому мы точно знаем, где находятся ограничивающие факторы. И, таким образом, команды аппаратного и программного обеспечения AI совместно проектируют чип.
По сравнению с худшим ограничением AI4, которое связано с выполнением операции SoftMax, в настоящее время нам приходится выполнять SoftMax примерно за 40 шагов в режиме эмуляции, тогда как в AI5 это будет выполнено всего за несколько шагов нативно.
AI5 также сможет легко обрабатывать модели с переменной точностью, так что вам не нужно будет это делать, он динамически будет обрабатывать смешанную точность. Есть множество технических моментов, которые AI5 будет делать гораздо лучше.
С точки зрения номинальной сырой вычислительной мощности, это в восемь раз больше вычислений, примерно в девять раз больше памяти и примерно в пять раз больше пропускной способности памяти.
Но поскольку мы устраняем некоторые основные ограничения в AI4, вы умножаете это улучшение вычислений в 8 раз на еще 5 раз улучшение благодаря оптимизации на очень детальном уровне кремния вещей, которые в настоящее время являются субоптимальными в AI4, вот откуда берется 40-кратное улучшение.