Why the Brain Computes 1,000,000x More Efficiently Than A GPU: Unconventional AI's Naveen Rao

[00:00] Продолжение следует... [00:02] Мы будем в следующем рейтинге, который будет из Навин Рау. Навин Рау был в ай-спасе. Он сделал его PhD в нейроссием. Он стал первым первым ай-чипомпанией, пока это было круто. [00:19] Он вообще был человеком, который был мосаик МЛ, один из первых AI-траннинговых компаний. [00:26] и тогда создавал Датабрик А.И. [00:28] Он оставил его замечательный роль, чтобы сделать новое новое, и решить о будущем компьютере, привести Кул обратно к ней в научной системе. Навин, как он, наше. [00:37] Спасибо. [00:43] Доброе утро, все. Я очень рад быть здесь. Я Невин Рау, CEO и Уконвенционал АИ. Мы уникальны, потому что это не то, что я не могу сказать, что мы не будем делать. Это очень круто, когда мы будем делать это. Это очень круто, как Борис уникален. У нас есть не багажник, я думаю, что это действительно очень важный. [01:06] Это очень быстро, чем обычные, как чипы и полистакы компании могут делать. И я думаю, что это очень интересно. [01:14] Субтитры сделал DimaTorzok [01:21] Я уверен, что вы будете пытаться менять. Все вы будете пытаться менять. Все вы будете думать, что я могу верить. Я могу верить, что это не так. Я могу верить. Я могу верить, что это не так. Я могу верить. Я могу верить.

[01:34] и даже с основной основой основой основой основой [01:37] Really, I think we need to get to a much greater amount of compute efficiency. When I say compute efficiency, I don't mean algorithmic compute efficiency or data efficiency. There's lots of people working on these problems. I actually mean the fundamental substrate. Actually, how I do information processing at the physics level. [01:57] Мы выбрали, чтобы создать компьютеры, как они сделали, для многих причин, 80 лет назад. Если вы думаете о том, как в техническом области, как многое? [02:05] Это было 80 лет, не очень много. Дигитал обстрактин, флотинг-поинт-нумбор, это были в 1940s. Для машины, которые были построены [02:15] Completely different substrate. [02:17] И для машины, это было для совершенно другой причины. [02:20] И теперь мы строим машины для интеллигации. [02:22] Давайте посмотрим это немного. [02:24] Продолжение следует... [02:25] Продолжение следует... [02:41] Актуал энергии, maybe you're actually not more efficient. And we're kind of butting up against those limitations of the physical world now. [02:48] Убийство. [02:49] и [02:50] Сегодня мы используем много гигawatts для AI-инферанса и тренинг, и мы будем получать в следующем году, в следующем году, [02:57] Это не 10 лет назад. [02:59] два, три, четыре года, где мы просто не имеем больше энергии в мире для AI. Тогда это будет очень важный вопрос. Сейчас вы можете посмотреть, как, ну,

[03:09] Электричный энергетический сфер, которые будут в среднем энергии. И, вы знаете, нет ни о чем-то, на электричный сфер, но это будет в порядке, что будет в порядке, что будет в порядке. И, вы знаете, мы говорим о том, что будет в спасти, мы говорим о том, что будет в футболе, что будет в реакторе. В этом случае, эти футболы, которые будут в реакторе. [03:28] Так. [03:29] Если мы думаем, мы имеем 8 миллионов людей в мире. [03:32] У нас уменьшается 20W. [03:34] Это только 160 гигаватт. [03:36] Всего человечества, это 160 гигawatts. [03:39] So just to put that into comparison, we have about 9,000 gigawatts of [03:43] в мире сегодня. У.С. около 1,000. [03:46] И это все, как в доме. В доме, электрик, все это. [03:52] Но если мы говорим, что 50% больше всего этого, и мы говорим, что теперь мы говорим, что 4,000 плюс гигawatts, [04:00] Но проблема в том, что в данном случае [04:03] Продолжение следует... [04:06] Я могу сказать, что если я вручную инфрентацию, я могу снять в номер. Но, вы знаете, что вручную энергию, как вручную энергию, вручную энергию, вручную модель, вручную модель, вручную модель, все это. [04:18] Давайте назначим это гигawatt. [04:21] но в мире, в порядке 20W. [04:26] Вы также можете сказать, что в 4 миллионов лет, что мы создали, что мы мы, но реальность сегодня мы становимся в состоянии, [04:33] Как быстро мы можем узнать, как быстро мы можем сделать интеллекту на определенный момент энергии? [04:39] Если мы хотим построить этот мир, где мы имеем много интеллигентства, и мы автоматизмем все, что мы хотим быть более эффективным, мы будем нужны больше ватт.

[04:51] Или мы можем подумать о создании более мощного компьютера. [04:54] И вот мы в этом году. [04:57] Я люблю эту курсу, и я думаю, что многие люди не думают о том, потому что они просто считают, что компьютер является компьютер. [05:04] Мы не очень задумываем это. Это не конвенциональный партнер. Давайте это разобрать. В этом мы сделали 80 лет назад не очень важны. Мы просто выбираем их, потому что я могу сделать продукт в 2 месяца. Я могу сделать что-то, что я могу сделать в 2 месяца. [05:19] Но мы как-то так же, как мы можем обратиться к первым принципам, чтобы мы можем сделать что-то лучше, лучше лучше. [05:25] So, there is a thermodynamic limit to intelligence for what? [05:28] Это означает, что вы просто не сможете делать это лучше. Есть такое called the Landauer Principle, которые вы знаете, что вы знаете, что вы можете видеть как много compute может быть в определенной энергии. Так что, есть физическая реальность мы не можем не подать. И это, как это, как это, как это, как это. [05:44] Биология, где здесь, очень довольно эффективная. [05:49] 4 billion years of evolution have created something that is actually very efficient. [05:53] Однако не в асинтоле. Проблема в два раза в магниту. [05:59] Мы в этом случае, в этом случае. И я думаю, что 2D литография, что мы создавали сегодня, мы можем назвать "самерно-маркет". [06:08] И я думаю... [06:09] с усилием, мы можем получить то, что мы можем улучшить на限у. [06:13] И мы будем делать что-то. [06:15] Это, по-моему, три ордера из магнитуры, где мы находимся. [06:18] Это очень далеко от того, как мы могли быть в том, как энергетический эффект.

[06:24] So how do we do it? I mean, yeah, this is great. Make something more power efficient and wonderful, right? But the reality is it's not so simple. We can't be thinking about the computer in exactly the same way as we have been. It's not about... [06:35] Машина в Матрикс Мат. Это был самый простой способ двигаться. [06:40] Нвидия, конечно, об этом рынке и продолжает поддерживать область. [06:43] Но если вы посмотрите на уровень эффективности, на самом деле, на уровне эффективности, [06:47] ФП-8 флоп, например. [06:50] Не так много лучше. [06:51] Продолжение следует... [06:53] Потому что производство обеспечивает, и обеспечивает, но вообще энергия по флопу с меморием не получилась. [07:01] Это очень, очень ингредиентно сейчас. [07:04] Спасибо. [07:04] Я был компьютер архитект 10 лет назад. [07:09] Я думаю, что это было в течение всего времени, на протяжении 30 лет. Это очень интересный момент для меня, лично. [07:16] Биологи действительно дает существительность. Вы можете argue, что, ок, то есть, что у нас есть уменьшение, но интеллигентность более высокая. [07:24] Мы не смогли получить до того, что мы ставим на него, что мы привлекли в человеческом интеллектуру. Мы будем делать это. Мы будем делать это в очень shortе время. [07:34] Но это будет стоить на большинство энергии. [07:36] So what I think is most interesting here is actually not just [07:39] У нас есть 20W. [07:42] Субтитры создавал DimaTorzok [07:46] Макаке-монкея-бринь, это может быть более чем-то. [07:49] И вообще, вы видите это все в мире, и в мире, и в мире, и в мире. [07:53] Вы имеете очень complexо для миллилитров.

[07:56] Для примера, ваш телефон в вашем pocketе около 1 ватт. [07:59] Так. [08:00] А скверл, прыгающийся на бранд-то-бранд-то, на 10 миллилитт. Это 1/100 тысяч ваша телефона. [08:07] Мы не можем вообще сделать это perfectly. Скоррелы прыгают 10-фиток оттуда, в воздухе, в воздухе, в воздухе. Мы не можем сделать это с большим, большим количеством компьютеров. Биологи still created something quite amazing. И я просто не думаю, что там есть определенный апречитет для этого. Я просто... Это просто маленький пример. Так, сейчас... [08:27] Мы видим это как-то пеномологически. [08:31] Биология эффективна и может быть очень хорошо. [08:36] Мы не знаем, я буду honest, как компьютер-сайдист и неуросайдист, но есть идеи мы можем найти из neurosciences. [08:45] The brain is dynamic. It does not use matrix math to do compute. It uses what's called nonlinear dynamics to do compute. What this means is that there's a time varying... [08:55] В этом случае мы можем использовать [08:59] So can we extract that and actually apply it to synthetic circuits? [09:02] Maybe. [09:04] Они не делают матриц-производные матрицы. Они делают что-то характеризм, но это вообще больше чем-то, потому что эти нон-линеарные динамиксы. [09:14] И они стокастик. [09:15] Возвращение к компьютеру не только один и зерно. На дигиталном компьютере, если мы сходим от один или зерно, то все системы не будут. [09:23] Они действительно не компьютеры. [09:25] Так.

[09:26] Я буду трогать это быстро. [09:28] Это коромодо синхронизация. [09:40] И тогда они синхронизированы. Это пример того, как вы начали, это конвержение системы. Но как вы начали, это конвержение. И это только зависит от того, как вы начали, на цепление между ними. Вы можете генерализировать это как-то, как у нас есть флешивая цепляция, называемая треннольная цепляция между ними. И тогда это может быть интересным, как вы можете двигаться в статус-басе в многих разных способах. [10:05] Если вы генерал, вы можете подумать о электронной циркуте. [10:09] Вы можете сказать, что у меня есть большие oscillатели, и они у меня есть фабрик, на которых они были цеплены. [10:12] И теперь, когда я сделаю это фабрик, я могу видеть что-то, что начинает выглядеть более как витаминный мозг. [10:20] Это действительно нефть, и они interact with each other в очень интересные ways. Это действительно очень rich и очень rich, и очень rich, и очень много информации. [10:27] Это вообще не было в этом году. [10:38] Это что-то круто, что не у вас есть багаж, что вы можете делать это в completely different ways. [10:42] И как вы компетесь с этим, то традиционно, это вы basically лупите [10:47] Это как мы делаем это в... [10:51] Возвращение в системе.

[11:00] С чего-то с нон-1-еерой динамиксом, я просто скажу, [11:03] Вот здесь, ставьте, ставьте, и давайте рвать. Так что физики самостоятельно делали это компетент. [11:10] И это не так. Это не так. [11:15] В некоторых случаях, если вы хотите взять любую информацию, мы используем время, чтобы мы используем время, чтобы мы используем время. [11:22] и существующие конструкции компетенцией не могут. [11:35] Уминеновый логов. Это идея. Мы можем тренировать это в несколько разных способов. [11:38] So, yes, we can train these systems and steer them into basically any arbitrary system. [11:42] Требет. [11:44] И можно мы связать с AI проблемами, как образование, как образование. [11:49] Я могу сделать более версию этого, я могу сделать в демо. [11:54] Давайте посмотрим на следующий. [11:56] Пытожим... [11:58] Да, так что, вот вы видите здесь [12:02] Это было бы на модели Динамикс, который был trained на эти разные имиджеры. Так что, я могу использовать cats. Я думаю, Андрей, что здесь. [12:11] В общем, это очень просто генеральный модель. [12:17] И я могу сказать, что в тиме тиме 1 я буду вставить в данный момент, [12:22] из разнообразных к примеру. [12:26] и после этого мы просто не можем работать на ней. И вы увидите, что это вообще

[12:32] Продолжение следует... [12:37] но они вообще пиксельные, что делают разные машины, или разные разные машины. [12:43] Я стараюсь как разом, и в тквал 1 вы должны видеть это конверг, как и хорселек. [12:49] И тогда, в течение времени, вы увидите, что это может быть между тем, чем это. Так что уже в этом месте можно помочь между тем, чем это. [12:58] Давайте двигаться от этого. [13:02] Это действительно другое, что это новое. С CPUs вообще делаю очень быстро, только в среднем, в среднем, в среднем, в среднем. Даже сегодня, это гораздо более чем на GPU. И, действительно, вы делаете это как-то вон Нойман машине, где вы двигаете в и от времени и в каши, [13:17] Продолжение следует... [13:18] ГПУ basically did this with multiple operands at once. So we moved a bunch of operands from memory, do some stuff to it, write it back. [13:25] Компьютер-мемори, как Грок, did the same thing, но просто на чип. Это более вредно-сердно. [13:31] Мы говорим о том, что в системе в системе, что в системе и функции в системе, которые в системе, в системе, в системе. Так что вы сейчас не имеете в виду сферы. [13:40] В этом случае [13:41] и компетенция. [13:43] И, вы знаете, компьютер efficiency goes up. Конечно, галактическая бранность goes up. И это действительно не von Neumann. [13:51] Субтитры сделал DimaTorzok

[14:05] Спасибо. [14:06] Спасибо.