Kui olete kunagi mõelnud, kuidas masin suudab teie nägu ära tunda või teie jutust aru saada, siis vastus peitub inimaju võlus. Need bioloogilised struktuurid, mis koosnevad omavahel ühendatud neuronid, mis edastavad elektrilisi signaaleNeed on olnud eeskujuks tänapäeva tehisnärvivõrkude loomisel, mis on põhimõtteliselt algoritmid, mis on loodud keeruliste matemaatiliste mõistatuste lahendamiseks.
Tänapäeva maailmas oleme harjunud, et tehisintellekt on sünonüüm superarvutitele ja tohutule energiatarbimisele. Siiski on tekkimas väga huvitav trend, mis püüab... optimeerida energiatõhusustküsides, kas me peame lihtsa vastuse saamiseks tõesti töötlema miljoneid korrutustehteid, jäljendades seeläbi oma aju energiakainusust.
Klassikaline arhitektuur: pertseptronist süvaõppeni
Et mõista, kuhu me läheme, peame teadma, kust me tuleme. Põhiline närvivõrk on tavaliselt jaotatud kolmeks tasemeks. Kõik algab sellest, sisendkihtSiin võtab süsteem vastu andmeid väljastpoolt, analüüsib neid ja saadab edasi. Seejärel tuleb peidetud kihidmis võib olla üks või kümneid; just siin toimub tegelik töötlemine, täpsustades teavet igal etapil.
Lõpuks jõudsime kohale väljundkihtmis annab meile lõpliku hinnangu. Sõltuvalt sellest, mida me otsime, võib meil olla üks sõlm jah- või ei-vastuse jaoks (binaarne klassifikatsioon) või mitu sõlme, kui probleem on keerulisem ja nõuab valimist mitme kategooria vahel.
Kui me räägime SügavõpeMe peame silmas võrgustikke, millel on palju varjatud kihte ja miljoneid ühendusi. Selles mudelis on neuronite vaheline seos määratletud a-ga numbriline väärtus, mida nimetatakse kaaluksProbleem on selles, et need võrgud on andme- ja energiakurnajad, mis nõuavad vigade vältimiseks miljoneid näiteid.
Treeningu tuum: edasi- ja tagasilevi
Selleks, et võrk õpiks, peab see kõigepealt proovima ära arvata. Protsess Edasi levitamine See on põhimõtteliselt vasakult paremale kulgev teekond: andmed saabuvad, korrutatakse kaaludega, lisatakse korrigeerimine nimega eelarvamus ja see läbib aktiveerimisfunktsiooni (nagu Sigmoid või ReLu), et otsustada, kas neuron "käivitub" või mitte.
Aga kuna võrk alguses midagi ei tea, kukub see täielikult läbi. Siin on koht, kus Tagasipaljundamineja just seal toimubki maagia. Algoritm liigub nüüd paremalt vasakule, arvutades saadud tulemuse ja tegeliku tulemuse vahelist viga. Kasutades matemaatilised tuletisedVõrk kohandab kaalusid, et minimeerida seda viga järgmises iteratsioonis.
Selle protsessi oluline detail on õppimiskiirusKui see on liiga kõrge, õpib võrk kiiresti, kuid on ebatäpne; kui see on liiga madal, muutub protsess lõputuks. Lõppeesmärk on saavutada kulufunktsiooni globaalne miinimum, mis võimaldab võrgul teavet õigesti üldistada.
Kaaluta närvivõrkude revolutsioon
Siin lähevad asjad põnevaks. Professor Lizy K. John ja tema meeskond murravad standardid, pakkudes välja kaaluta närvivõrgudKuigi tavapärane tehisintellekt tugineb miljardite korrutustehingute sooritamisele (mis on riistvara jaoks väga kulukas toiming), kasutab see lähenemisviis omavahel ühendatud otsingutabelid.
Keerulise aritmeetilise tehte arvutamise asemel konsulteerib võrk lihtsalt salvestatud vastusega, mis põhineb binaarandmetel. See süsteem sarnaneb palju enam inimeste arutluskäigule: me ei korruta numbreid oma peas, et otsustada, kas kõndida vasakule või paremale, vaid pigem Me töötleme aktiveerimissignaale.
Tulemused on lihtsalt vapustavad. Selliste ülesannete puhul nagu meditsiiniline jälgimine (EKG või EEG) või märksõnade tuvastamine, saab neid võrgustikke kasutada tuhat korda väiksem ja tõhusamKujutage ette, et 17-megabaidise mudeli asemel kasutatakse nüüd vaid 14-kilobaidist mudelit. See võimaldab tehisintellektil otse sensori sees elada. Edge Computing ilma et oleks vaja andmeid pilve saata, mis on samuti Punkt privaatsuse kasuks kasutaja.
Jätkusuutliku ja kerge tehisintellekti suunas
Asi pole ainult raskuste kaotamises; on ka trend... kerged närvivõrgudNeed on loodud nii, et need tarbiksid võimalikult vähe energiat ja mälu, kasutades selliseid tehnikaid nagu hõre treening või pügaminemis seisneb selliste seoste kõrvaldamises, mis lõpptulemusele midagi kaasa ei anna.
See lähenemisviis on ülioluline sellistes sektorites nagu hoonete energiahaldus või andmekeskuste jahutus, kus tarbimise optimeerimine võib tähendada kuni 30% energiasäästuEesmärk on selge: et tehisintellekt ei oleks kliimaprobleem, vaid osa lahendusest, võimaldades odavate seadmete, näiteks ARM Cortexi mikrokontrollerid, täita intelligentseid ülesandeid reaalajas.
Alates transformaatoritest, mis toidavad tänapäevaseid vestlusroboteid, kuni pildipõhiste konvolutsiooniliste närvivõrkudeni (CNN), viib tee efektiivsuseni läbi vähendada arvutuslikku keerukustHüpe klassikalisest perceptronist generatiivse tehisintellekti juurde on olnud tohutu nii andmete kui ka võimsuse poolest, kuid tõeline tipptase püüab nüüd teha rohkem palju vähemaga.
Üleminek tihedatelt ja palju korrutamist nõudvatelt arhitektuuridelt binaarotsingu ja kärbitud mudelite süsteemidele võimaldab tehisintellektil olla elujõuline ka pisikestes seadmetes. Energiatõhususe ja matemaatilise lihtsustamise integreerimise abil muutub andmetöötlus märkimisväärselt kiiremaks ja jätkusuutlikumaks, sillutades teed kohalikule privaatsele andmetöötlusele, mis ei sõltu enam korralikuks toimimiseks massiivsetest graafikaprotsessoritest.
