Í tækniiðnaðinum geturðu varla átt samtal án þess að einhver nefni ályktanir, gervigreind (AI) og vélanám (ML). Hins vegar er mikilvægt að hafa í huga að þó að öll þessi hugtök séu samtengd eru þau einnig verulega frábrugðin.
Í þessari grein munum við útskýra grundvallarmuninn og draga fram mikilvægi þess að nota tensorvinnslu-byggða brún gervigreindartækni, sérstaklega í brún og innbyggðum kerfum. Í samanburði við lausnir sem byggjast á grafískum vinnslueiningum (GPU), bjóða tensor vinnslueiningar (TPU) skilvirkari og -hagkvæmari frammistöðu. Við munum einnig veita nokkur dæmi um notkunartilvik sem sýna hvar þú gætir rekist á hágæða gervigreindarlausnir í framtíðinni.
Grundvallaratriði ML og ályktunar
ML vísar til aðferðafræði þjálfunarlíkana sem nota dæmigerð gögn til að gera vélum kleift að læra hvernig á að framkvæma verkefni. Þetta ferli getur verið mjög reiknifrekt og framkallað trilljónir aðgerða fyrir hvern nýjan þjálfunargagnapunkt. Endurtekið eðli þjálfunarferlisins, ásamt gríðarlegu þjálfunargagnasöfnum sem þarf til að ná mikilli nákvæmni, knýr eftirspurnina eftir afar-afkastamikilli fljótandi-punktavinnslu. ML þjálfun er best útfærð sem innviði gagnavera, þar sem hægt er að réttlæta háan fjármagns- og rekstrarkostnað með því að afskrifa hann yfir fjölda viðskiptavina.
Ályktun felur í sér að nota þjálfuð líkön til að búa til möguleg samsvörun fyrir ný gögn sem skipta máli fyrir dæmigerð gögn sem líkanið var þjálfað eftir. Ályktun miðar að því að skila skjótum svörum innan millisekúndna. Dæmi um ályktanir eru talgreining, raun-málþýðing, vélsjón og ákvarðanir um fínstillingu auglýsingainnsetningar. Þó ályktun krefjist aðeins brota af vinnsluafli sem þarf til þjálfunar, er hún samt langt umfram það sem hefðbundin miðvinnslueining (CPU)-byggð kerfi geta skilað, sérstaklega fyrir tölvusjónarforrit. Þetta er ástæðan fyrir því að svo mörg fyrirtæki eru að snúa sér að tensor-hröðunarlausnum-hvort sem IP á SoCs eða eins og í-kerfishröðlum-til að ná undir-sekúndna viðbragðstíma sem krafist er í brúninni. Raunin er sú að það er ekki mjög gagnlegt að eyða jafnvel einni mínútu eða nokkrum sekúndum í að vinna myndir í sjónkerfi. Iðnaðarsjónkerfi sækjast eftir millisekúndu-vinnsluhraða.
Aðskilja þjálfun og ályktun
Að nota sama vélbúnað og notaður er við þjálfun til að takast á við ályktunarvinnuálag getur leitt til þess að-útveðja ályktunarvélar með hröðum og örgjörvavélbúnaði of mikið. GPU lausnir sem þróaðar hafa verið fyrir ML á síðasta áratug eru ekki endilega ákjósanlegasti kosturinn fyrir stór-dreifing á ML ályktunartækni. Skýringarmyndin hér að neðan sýnir fullkomlega samanburðinn á TPU hröðlum og GPU hröðlum. Það sýnir greinilega að TPU hraðlar skila minni orkunotkun, minni kostnaði og meiri skilvirkni samanborið við GPU-undirstaða AGX lausnir, en veita samt sannfærandi afköst fyrir ályktunarforrit.
Annað mikilvægt atriði þegar nálgast ML þjálfun og ályktunarlausnir er hugbúnaðarumhverfið. Í dag eru fjölmörg vinsæl bókasöfn í notkun, eins og CUDA fyrir NVIDIA GPU, ML ramma eins og TensorFlow og PyTorch, bjartsýni yfir-vettvangslíkönsöfn eins og Keras og fleira. Þessi verkfærasett eru nauðsynleg til að þróa og þjálfa ML módel, en ályktunarforrit krefjast annars, minna setts af hugbúnaðarverkfærum.
Ályktunarverkfærasett leggja áherslu á að keyra líkön á markpöllum. Þeir styðja flutning á þjálfuðum líkönum yfir á vettvang, sem getur falið í sér nokkrar umbreytingar rekstraraðila, magngreiningu og hýsingarsamþættingarþjónustu. Hins vegar táknar þetta tiltölulega einfalt mengi virkni samanborið við þá sem krafist er fyrir módelþróun og þjálfun.
Ályktunartæki njóta góðs af því að byrja á staðlaðri framsetningu líkansins. Open Neural Network Exchange (ONNX) er staðlað snið til að tákna ML módel. Eins og nafnið gefur til kynna er það opinn staðall sem er stjórnað sem Linux Foundation verkefni. Tækni eins og ONNX gerir kleift að aftengja þjálfunar- og ályktunarkerfi, sem veitir þróunaraðilum frelsi til að velja mismunandi bjartsýni vettvang fyrir hvern.
Dæmi um sjónræn forrit
Eftir því sem ML og ályktunarvinnslutækni heldur áfram að þróast og þróast fjölgar forritum. Hér að neðan eru aðeins nokkrir staðir sem þú gætir kynnst þessari tækni í framtíðinni.
Edge netþjónar í fyrirtækjum eins og verksmiðjum, sjúkrahúsum, smásöluverslunum og fjármálastofnunum. Til dæmis, í iðnaðarumhverfi, getur gervigreind aðstoðað við birgðastjórnun, gallagreiningu og jafnvel forspárviðhald áður en vandamál koma upp. Í smásölu gerir það aðgerðir eins og mat á stellingum kleift að nota tölvusjón til að greina og greina líkamsstöðu manna. Gögn úr þessari greiningu hjálpa-og-smásöluaðilum að skilja betur mannlega hegðun og umferð í verslunum sínum, sem gerir þeim kleift að fínstilla skipulag verslana fyrir hámarkssölu og ánægju viðskiptavina.
Há-nákvæmni/há-gæða myndgreining fyrir forrit, þar á meðal vélfærafræði, iðnaðar sjálfvirkni/skoðun, læknisfræðileg myndgreining, vísindamyndagerð, eftirlits- og hlutgreiningarmyndavélar og ljóseindatækni. Til dæmis hafa vélanámsaðferðir sýnt fram á getu til að greina krabbamein með því að vinna úr stafrænum röntgengeislum. Þetta ferli felur í sér að þróa ML líkan sem er hannað til að vinna úr röntgenmyndum, venjulega með því að nota þjálfuð merkingargreiningaralgrím til að bera kennsl á krabbameinsskemmdir. Á meðan á þjálfun stendur eru krabbameinsmyndir sem geislafræðingar greindu notaðar til að kenna netkerfinu hvað er ekki krabbamein, hvað er krabbamein og hvernig mismunandi tegundir krabbameins birtast. Því meira sem ML líkan er þjálfað, því betra verður það í að hámarka réttar greiningar og lágmarka ranga greiningu. Þetta þýðir að vélanám byggir ekki aðeins á snjöllri módelhönnun heldur jafnt á miklu magni (tugþúsundir til milljóna) af vandlega söfnuðum gagnadæmum þar sem krabbamein hefur verið greint af fagmennsku.
Snjallar innkaupakörfur-Nokkrir fyrirtæki eru að þróa og nota snjöll innkaupakerfi sem þekkja vörur ekki út frá UPC strikamerkjum heldur sjónrænu útliti umbúðanna sjálfra. Þessi eiginleiki gerir kaupendum kleift að setja hluti einfaldlega í körfuna eða á afgreiðslukerfið án þess að þurfa að finna UPC kóðann og skanna hann með UPC leysiskanni. Þessi tækni gerir innkaupaferlið nákvæmara, hraðvirkara og þægilegra.
Að taka rétta ákvörðun
Fyrirtæki verða að meta allar tiltækar lausnir í dag og velja ákjósanlegasta út frá sérstöku notkunartilviki þeirra. Þeir geta heldur ekki einfaldlega gengið út frá því að allar gervigreindarlausnir séu best útfærðar á GPU tæki, þar sem TPU-undirstaða lausnir bjóða upp á meiri vinnsluskilvirkni og minni kísilnýtingu og dregur þar með úr orkunotkun og kostnaði.