AI That Designs Its Own Chips: Ricursive's Anna Goldie and Azalia Mirhoseini

[00:00] Продолжение следует... [00:03] One of the themes that we've heard throughout the day is that neural nets are replacing a lot of traditional tools. And I think one of the most exciting application categories, or we've actually seen that come to life, is within chip design, where neural nets are now becoming superhuman at certain parts of the semiconductor design process. And so I'm thrilled to introduce Anna and Azalea. They were the co-creators of AlphaChip, which did exactly this at Google and was used on multiple generations of TPU. [00:33] Спасибо. [00:36] Спасибо. [00:42] Здравствуйте! Азалия и я очень рад быть здесь, чтобы поговорить о новой компании, Рекрасив Интеллигенцем. [00:48] Мы делаем АИ для чипа и чипа для АИ. [00:53] Мы работаем вместе с тем более 10 лет, по-английски, по-английски, по-английски, [00:58] ДИНАМИЧНАЯ МУЗЫКА [01:00] Потому что это не было достаточно для одного института в параллельном институте. Я старался в ПХЦ, и я работал в Азалия, и я работал в Азалия, и я работал в Азалия. Поэтому мы работали в много разных... [01:12] Продолжение следует... [01:14] Но в этой компании [01:16] что ЧИПСы – это фуэл для АИ. [01:19] И мы должны использовать AI для создания... [01:22] ...to optimize and automate the chip design process. [01:25] и закрывать эту лупую лупую лупую АИ и их физическую substрацию.

[01:31] Мы начали в 2018 году в работе на алфачипы. [01:37] где мы разработали дико-реенформаторные леонги, что было capable of generating superhuman chip layout. [01:42] Это было в «Натюр», но интересная часть, в нашем opinionе, [01:47] Это было вообще использовано в тапе от Реал Чипс. [01:50] So the last four generations now of Google's AI Accelerator Chips TPU [01:55] Датакентр CPUs called Axion... [01:58] Пиксельфонез и автономисты автомобильные. [02:02] И в addition to adoption по экзернолу компаниям, как Медиатек, [02:07] И мы решили начать эту компанию, чтобы это сделать на следующий уровень. [02:13] и так далее. [02:16] Спасибо. [02:17] Мы видим, что компания в три раза. [02:20] Currently, we're in phase one. [02:22] Мы хотим увеличить процесс, [02:25] Сегодня, два пола. [02:27] Первый вопрос. [02:29] Возвращение миллионов стандартных целей, или миллионов трансистор, и ручки миллионов этих компонентов, на чип кинбасс. [02:39] и «десайн верфикация», который является верфицией в правильность в логике этого чипа. [02:43] Each of these can take up to a year and involves hundreds or thousands of human experts. [02:48] И эти стены очень высокие. [02:50] Так. [02:50] Мы слышали, что один день в делью, в нивиде... [02:54] ЧИП, как и Blackwell, cost the company something like $225 миллион in lost opportunity cost. [03:00] So you want to help existing chipmakers get to market faster, build

[03:04] и более, более, environmentally-friendly. [03:07] Но я думаю, что в phase 2, мы хотели бы демократить цифровую дизайн. [03:11] Вы хотите стать платформой для разработки нового hardwareа [03:15] Where we can take an input, like a workload, say like the next Claude model, design an architecture that massively... [03:22] Акцелерates.workload [03:24] и тогда мы делаем весь процесс, все до ГДС-2-CLEAN, который мы отправим в фабсфере для производства. [03:31] И в этом случае мы можем массово улучшить количество людей, которые мы можем служить. [03:37] Это уроклое, что они служат в сфигеем. [03:40] Продолжение следует... [03:46] И в следующем году, в следующем году, [03:50] Если мы используем это способ, чтобы быстро создать высокий уровень ЧИП, [03:54] Почему мы строим свои собственные шипы? [03:56] Почему не train our own models and co-evolve them? [03:59] и служить в качестве качества и качества, что бы не было никакого значения. [04:04] Залия, мы поговорим о том, что мы об этом больше об этом, как мы об этом. [04:09] так и спать на сайт ассоанда райд side и шоу и деффлоте триджернол флорчет дизайн из партия шар-дизайн и гостал лавейт из финалов и ассоциации сады сапс и ассоциации дармени компонент ся и дэвээ диз [04:27] Продолжение следует...

[04:35] days to run for a single iteration of an optimization. So our approach here at Recursive is to first redesign the way these tools perform, make [04:47] 100,000x faster, and then they're primed to be used with AI because, as you know, our AIs really like fast iteration loops, and they can just exponentially learn more and co-optimize across a very, very large space if we enable them to do so. [05:05] So by co-designing across this stack, what this enables is unlocking massive performance improvements and time to market, which comes from both the co-design and the automation. [05:17] To just show you a glimpse into what we are building, here is an STA, a Static Timing Analysis Engine. This is one of the very challenging components of physical design. And what we are showing here is that we have built a tool that correlates with commercial tools, very high fidelity, and... [05:37] Вот мы можем сделать здесь 1000x, чем мы можем сделать. Теперь, если вы делаете АИ, то есть, или РЛЛ, мы сейчас имеем в виду, что мы можем использовать в оптимизации, и мы можем сделать больше с этим. Вот здесь есть пример, как наш АТОЛ, как наш АИ, работает с этой инструментой. Вот здесь, как мы видим, что мы можем использовать. [06:01] Это мы получим с одной из интернеров, но как мы оптимизируем на рецепт, которые могут использовать эти инструменты, мы можем получить значительно более качественную работу.

[06:15] So, taking a step back, what Recursive is enabling is a new era, which we call designless, just like fabless. [06:26] Продолжение следует... [06:27] Энабельно, как ТСМС, мы можем иметь, что мы можем иметь, Apple, другие компании, focus на создание системы и создать создания для производства. Мы хотим быть платформой для чипа, чтобы создать. [06:45] Компания можно focus на модель и других лейерах, и мы можем быть компьютерным и хабаром, что позволяет эти applications. И эффект будет быть мы можем democratить chip design и позволяет намного больше variety и качественных типов, чем возможно. [07:04] Возвращение [07:06] Right now, there are a few mainstream chips for AI inference. But as you can imagine, and as a lot of talks and conversations today allude to, we are going to need a whole lot more performance in the coming years. And one way to unlock a lot of performance is through customization. So when we build chips that are truly customized to the workloads that we are serving, and we at Recursive want to be the platform that enables this Cambrian explosion of chips [07:36] а также более широкий типов, которые очень удобны для тех, кто-то вкладывает, что компания и пользователи занимаются. И вы можете представить, что эти типы могут позволить очень большие работы, как Фронтир модел, или они могут позволить очень высокого powerа, или высокого уровня, или другие варианты в качестве качества, которые мы нужны.

[08:00] Хм. [08:01] И, наконец, мы имеем в отличие от компании. У нас есть немного улучшение, что мы имеем в виду этих людей, которые очень известны в ЛЛМ. Они работают на... [08:14] Клод, Гемини, Грок и так далее, и сейчас мы вместе с этим экспертом в чип-дезайне. И это очень круто, и мы очень рады, что мы смогли построить это вместе. [08:30] И с этим мы можем закончить. Я рад вам ответить на вопросы. [08:48] Я думаю, что как в альфа-чипе, мы видим эти какого-то, какого-то, органично-то... [08:53] в нашем направлении. [08:54] So human experts, they tend to make these very aligned... [08:58] но они не так, что они не так, что они не так, что они не так, [09:02] Смотрите, как и органично-кервет. [09:05] Which minimizes wire lengths, improves performance. But it was kind of shocking to physical design engineers when they first saw them. A question on the cost of these specialized chips. I totally understand that you could make a better chip with AI and have better placements and stuff. But I think Azalea was also making the point that you could make specialized chips. How does the scale work out? I don't know the first principles of chip design. Can you make thousands of different chips and make them as cheaply as one hopper architecture?

[09:35] Да, горячие. Да, действительно, что мы делаем здесь, мы идем в новую режим, где мы можем работать в компетенции, чтобы мы откликали компетенцию, [10:05] is working itself, right? Even a 1% improvement in a chip that serves a frontier model is a massive gain and success if you could enable that. But at different scales, we have different performance gains. And again, what we are talking here is that we are using compute to bring automations and better performance, and that's a knob that we can... [10:30] Плей вид. [10:31] Спасибо.