Инжењерски водич за уграђени АИ

From C to Python by Ross Rheingans-Yoo (Јули 2019).

$config[ads_text] not found
Anonim

Доста ресурса постаје доступно како би инжењери истражили како искористити нови свет дубоког учења у својим ограниченим дизајном

Рик Мерритт, шеф бироа за Силицон Валлеи, ЕЕ Тимес

Ако тражите да направите своје прве кораке у шуми дубоког учења, нисте сами и има пуно ресурса.

Дубоке неуралне мреже су суштински нови начин рачунарства. Уместо да пишете програм који ради на процесору који покреће податке, токате податке кроз алгоритамски модел који филтрира резултате.

Приступ је почео да се обраћа пажњом након такмичења ИмагеНет-а за 2012. годину, када су неки алгоритми донели боље резултате идентификације слика него човјека. Компјутерска визија била је прво поље које осећа велики подстицај.

Од тада, веб гиганти као што су Амазон, Гоогле и Фацебоок почели су примјењивати дубоко учење на видео, говор, пријевод - било гдје су имали велике скупове података које би могли да се пробију да пронађу нове увиде. Недавно је извршни директор компаније Гоогле Сундар Пицхаи рекао да су технике једнаке као и откривање електричне енергије или пожара.

Ватра је брзо ухваћена. Прошле године, више од 300 милиона паметних телефона испоручено је са неком врстом неуралне мреже; Ове године акцелератори за вештачку интелигенцију (АИ) одлазе 800.000 вештачких интелигентних података, а данас 700 милиона људи користи неку врсту паметног личног асистента као што је Амазон Ецхо или Апплеов Сири, изјавио је ЦЦ Веи, извршни директор чипмајара ТСМЦ . Данас је назвао АИ и 5Г два возача полупроводничке индустрије.

Дакле, ако разматрате свој први одбор или СоЦ дизајн за АИ, имате пуно предузећа. И има пуно помоћи.

За већину компанија већ је речено да продају или припремају неки облик силицијумских АИ акцелератора. Неки су ИП блокови за СоЦс, неки су чипови, а неколико њих су системи.

Али има неколико важних корака пре него што почнете да сортирате кроз оно што је Јефф Биер, оснивач Ембеддед Висион Аллианце, назвао "камбријску експлозију" нових АИ производа.

Прво, мерило где се ваша апликација налази на широком спектру АИ перформанси. Ово ће вам помоћи да брзо елиминишете многе силиконске и софтверске опције, а нула је на онима које су најбоље прилагођене вашим задацима.

На једном крају аутомобиле са аутоматским управљањем треба да сортирају помоћу висе од неколико камера, радара, лидара и других сензора како би доносили одлуке о вожњи у реалном времену. Треба им мрежа посвећених акцелератора.

На другом крају, сензорске мреже у пољском пољу могу само да открију и пријављују значајну промену влаге у тлу, бацајући сат или чак дневне дрибле података све док се не промени. Можда је овде довољна мрежа са микроконтролером Арм Цортек-М који користи своју ЦМСИС-ДСП библиотеку, рекао је Биер.

Јефф Биер је оснивач Ембеддед Висион Аллианце.

Следећи корак је избор и обука правог модела неуронске мреже из абецедне супе опција. Два од најпопуларнијих су сржолне неуронске мреже (ЦНН), углавном за снимање и понављајући неуронске мреже (РНН), обично за глас и звук. Међутим, научници података скоро свакодневно раде нове варијанте и хибридне случајеве како се случајеви употребе повећавају.

Добра вест је да истраживачи често изводе своје најновије алгоритме слободно путем техничких радова, надајући се да добију вучу. Модели се такође могу пронаћи кроз АИ софтверске оквире које веб гиганти одржавају и промовишу, као што су Амазон МкНет, Гоогле ТенсорФлов, Фацебоок'с Цаффе2 и Мицрософт'с ЦНТК 2.0.

Затим морате пронаћи одговарајуће скупове података за своју апликацију, означити их и користити их за обучавање алгоритамског модела који сте одабрали. Неки скупови података су доступни у јавном домену, али за најбоље резултате, можда ћете морати креирати, или бар прилагодити, један за своје потребе.

Сервисне компаније као што су Самасоурце и иМерит се развијају како би помогли у раду на куратирању и обележавању великих скупова података. Веб гиганти као што су Амазон, Гоогле и Мицрософт такође имају алатке да бисте започели у нади да ћете користити своје цлоуд услуге за обуку и покретање својих модела.

Можете се укопати у детаље у програмима уживо и онлине образовања. На пример, Биеров годишњи Ембеддед Висион Суммит одржава једнодневни курс обуке о ТенсорФлов-у, једној од најпопуларнијих АИ оквира. Стартуп Фаст.аи такође покреће низ онлине курсева .

Очекује се да ће армада овог лета испоручити и пружити детаље свог генеричког МЛ језгра. Извор слике: Арм.
Избор правог силикона
За многе апликације можда није потребан посебан силицијум ако добијете софтвер исправно. Постојећи чипови као што је Куалцомм Снапдрагон могу пружити "огромне перформансе на АИ пословима ако знате шта радите", рекао је Биер.

У априлу, Куалцомм је развио своје КЦС603 и КЦС605 чипове и сродни софтвер, прилагођени да доведу АИ могућности у ИоТ. Они су у суштини варијације Снапдрагон СоЦс са неким верзијама које подржавају продужени животни век за индустријске кориснике.

НКСП је у јануару представио своје и.МКС СоЦс апликације за дубинско учење на прототипу паметне микроталасне и хладњаче. Демонстрација ФоодНета показала је чипове који раде до 20 класификатора и руковање операцијама закључавања у 8 до 66 милисекунди користећи микс постојећих ГПУ блокова и Арм Цортек-А и -М језгара.

То је рекао, НКСП, попут многих произвођача чипова, очекује да ће ускоро партнери са произвођачима акцелератора треће стране. На крају, има за циљ да понуди сопствене АИ акцелераторске блокове.

КуицкЛогиц је корак напред. Најавио је 4. маја своју Куицк АИ платформу, упаривши своје ЕОС С3 чипове који се користе у паметним звучницима са АИ акцелераторским чипом компаније Непес Цорп. Софтвер две треће стране помаже у прилагођавању алгоритама и обуци на терену за примјене као што су фабрички системи визије, предиктивно одржавање и беспилотне летелице.

Од 2016. године, успостављени и покретачки чип и ИП продавци објављују АИ акцелераторе, многе њихове делове су доступне. Генерално, додали су интегралне јединице ГПУ блоковима или проширене СИМД јединице у ДСП језгри, рекао је Линлеи Гвеннап из Тхе Линлеи Гроуп.

Недавно је Гооглеова ин-хоусе ТПУ јасно ставила до знања да дубоко учење треба акцелераторе линеарне алгебре, обично у облику великих низова са мноштвом акумулација (МАЦ) са пуно меморије. Неки уређаји додају хардвер за специфичне аспекте неуронских мрежа као што су активације и групирање, рекао је Гвеннап.

Многе опције израђене у Кини
ЕЕ Тимес је пратио више од 20 компанија које раде на клијентима АИ акцелератора до данас. Има још много тога. У извештају из Кине од јула 2017. године из Кине, где су покретачи АИ у моди, серијски предузетник Цхрис Ровен је извештавао неколико о којима још нисмо чули, укључујући ДеепГлинт, Емотибот, Мегвии, Интеллифусион, Миниеие, Момента, МорпхКс, Рокид, СенсеТиме и Зеро Зеро Роботицс ин висион и АИСпеецх, Мобвои и Унисоунд у аудио.

Вриједно је размотрити неколико компанија у Кини.

Хоризонт Роботика је међу најинтересантнијим. Основан од стране неколико стручњака АИ-а из Баидуа и Фацебоока, већ је испоручио два 40-нм трговачких чипова, као и камере и АДАС подсистеме који их користе. Уложио је више од 100 милиона долара у ризични капитал како би потрошио мапу пута која укључује чипове од 28 и 16 нм.

Биер је рекао да је "видио неке врло импресивне демосове" од "двогодишње компаније која се брзо креће", што их чини једним од четири старт-упа за АИ чипове које препоручује.

Још један фаворит Биер-а је НовуМинд, делом зато што је њен оснивач Рен Ву један од ретких технолозима са дугом позадином у дизајну АИ и процесору. Његов 28-нм НовуТенсор има за циљ да испоручи 15 тера операција / секунде (ТОПС) на мање од 5 В, а 16-нм фоллов-он је у раду.

Два кинеска стартупа добила су своје АИ језгре дизајниране у паметне телефоне од гигантских уређаја.

Блок АИ компаније Цамбрицон управља Хуавеиовим Кирин 970 телефоном. Почетком маја компанија је најавила своје 1М језгро која обећава до 5 ТОПС / В за телефоне, паметне звучнике, камере и аутомобиле. Такође је најавио МЛУ100, акцелератор за пренос података у центру података од 110 В.

ДееПхи'с Аристотле чип користи хибридну архитектуру сличну ЦПУ / ГПУ. Извор слике: ДееПхи.
ДееПхи из Пекинга има АИ језгро дизајнирану за Самсунг Екинос 9810 и Галаки С9 телефон. Почетак је објавио свој Аристотелов чип за ЦНН и Десцартес чип за РНН-ове заједно са плочама прилагођеним камерама, аутомобилима и серверима. Ровен их сматра "једним од најнапреднијих и импресивних свих стартова у дубоком учењу" у Кини.

Цхрис Ровен је серијски предузетник који се ширио у АИ.
Ровен такође препоручује Мегвије из Пекинга. Фаце-признавање Фаце ++ Фаце-признавања компаније Старт користи кинеску владину базу података за лице коју користи Алибаба'с АлиПаи. Такође користи велику вриједност од милијарду долара како би се помјерила технологија заснована на облаку на уграђене уређаје, рекао је Ровен.

Загревана конкуренција у језгрима
Назад у САД-у, Интел ради сјајан посао покушавајући да остане на ивици силицијума АИ. Његова куповина од 2016. године Мовидиус је усмерена на клијентске системе чиповима који се већ појављују у више дронова од ДЈИ и сигурносних камера. Издао је више генерација чипова, а Гвеннап очекује да ће се смањити на језгро и појавити се у ПЦ чипсетима у наредних неколико година.

Ако дизајнирате сопствени СоЦ, постоји доста АИ језгара на располагању. Иронично, Арм, који доминира ИП процесором, биће један од последњих који ће ући у поље АИ када изда своје МЛ језгро овог лета, али пројект Триллиум Арм који је објављен у фебруару сугерише да ће њена понуда бити широка и дубока.

Цаденце, Цева, Имагинатион, Синопсис и ВериСилицон имају више АИ језгара на располагању - у неким случајевима, скоро двије године. Они су учинили простор високо конкурентним и богатим опцијама на различитим нивоима перформанси користећи различите архитектуре.

Цева обезбеђује сет од четири АИ језгра за различите примене. Извор слике: Цева.
Нвидиа је тамни коњ овде. Он доминира на тржишту за цлоуд-басед траининг са својим масовним Волта В100 графичким процесорима објављеним у мају 2017 . Али, такође жели да уђе у ауто-аутомобиле са Ксавиер чипом који долази касније ове године.

У напору да искористи жестоку конкуренцију, Нвидиа је отворила Ксавиер ИП под називом НВДЛА. Вишеструки чипови се пројектују са ИП-ом, али ниједна није објављена, рекла је Нвидиа екец у марту .

Аутомобилски простор је посебно конкурентан. Интел је купио Мобилеие за АИ чипове у аутомобилима и блиско сарађује са ОЕМ-овима, укључујући БМВ . Бројни покретачи су фокусирани на сектор, укључујући и АИмотиве, који тренутно израђује тест чип који ради у сопственој флоти аутомобила.

Још пола туцета стартупа
За оне са стомаком да раде са старт-уп-ом, ту је и пуно других гладних.

ГреенВавес примењује пројекте РИСЦ-В и ПУЛП са отвореним изворима за испоруку ГАП8, чип од 55 нм који је најављен 2016. године и планира испоручити 12 ГОПС на 20 мВ и 400 МХз. Његов циљ је да води потрошњу енергије за ИоТ уређаје, али не очекује производњу запремине до краја године.

Видеантис Немачке лиценцира АИ језгро за видне системе. Циљ је испоручити 16 нм опсег од 0.1 тера множења-акумулације / секунде (ТМАЦ / с) за уређаје са изузетно ниским трошковима до 36 ТМАЦ / с за уређаје високих перформанси који користе мултицоре ВЛИВ / СИМД ДСП архитектуру.

ТхинЦИ је у августу прошлог августа детаљно обрадио графички процесор графика за визију и АДАС системе на Хот Цхипс-у, али је рекао да га још није снимио. Компанија већ ради са инвеститором и партнером Денсо на систему за који се нада да ће се интегрирати у аутомобиле са 2020. моделом.

Биер каже да је још један од његових фаворита Митхиц, примјеном десетогодишње архитектуре процесора у меморији на АИ . То обећава велики скок у перформанси / вату, али се очекује да ће се дијелови производити до краја 2019. године.

Група бивших силиконских инжењера из Гоогле-а формирала је Грок-ов покретач са веб-сајтом који захтијева процесор закључавања који може бити 8 ТОПС / В и 400 ТОПС / с, који ће бити испоручен негде ове године. До сада компанија није одобрила интервјуе.

Есперанто је најавио у новембру да планира чисти лист папира за АИ изазов користећи РИСЦ-В језгре. Као и многи стартупи, укључује тим ветеранских микропроцесорских инжењера који желе да преузму историјски изазов, али не обезбјеђују временски оквир за испоруку силиција.

Два пажљиво започета стартупа планирају да дизајнирају чипове, али продају системе, вероватно усмеравајући предузећа која желе да покрену АИ послове у својим приватним облацима.

Архитектура података Ваве Цомпутинг је природна подударност за АИ алгоритме, рекао је Биер. Међутим, изгледа да се не бави адресирањем уграђених система, посебно узимајући у обзир да је његова чип користила ХБМ2 меморију која има моћ и плана за 3У величине Линук уређаја.

Исто тако, СамбаНова је у марту изашао из скривеног режима тимом два Станфордовог технолозима и бившим дизајнером СПАРЦ процесора у компанији Сун Мицросистемс. Иако су планови и даље скептични, априлски разговор његовог извршног директора сугерисао је да ће се такмичити са Вавеом како би испоручио АИ уређаје за пословне кориснике.

Обе компаније би на крају могле да окрену чипове или технологију лиценци за уграђене системе, тако да је вредно гледати.