Pagtuklas sa mga Weightless Neural Network at ang Ebolusyon ng Deep Learning

  • Gumagamit ang deep learning ng mga multi-layered na arkitektura upang iproseso ang kumplikadong data gamit ang mga weight at activation function.
  • Pinapalitan ng mga weightless neural network ang magastos na mathematical multiplication ng mga binary search table.
  • Ang bagong arkitekturang ito ay nagbibigay-daan para sa isang malaking pagbawas sa pagkonsumo ng enerhiya at laki ng mga modelo para sa mga edge device.

Mga sistema ng neural network

Kung naisip mo na kung paano makikilala ng isang makina ang iyong mukha o maiintindihan ang iyong sinasabi, ang sagot ay nasa pagkahumaling sa utak ng tao. Ang mga biyolohikal na istrukturang ito, na binubuo ng magkakaugnay na mga neuron na nagpapadala ng mga electrical signalNagsilbi ang mga ito bilang isang plano para sa paglikha ng kilala natin ngayon bilang mga artipisyal na neural network, na karaniwang mga algorithm na idinisenyo upang malutas ang mga kumplikadong palaisipan sa matematika.

Sa mundo ngayon, nasanay na tayo na ang artificial intelligence ay kasingkahulugan ng mga supercomputer at napakalaking konsumo ng enerhiya. Gayunpaman, isang napaka-interesante na trend ang umuusbong na naglalayong... i-optimize ang kahusayan ng enerhiyanagtatanong kung kailangan ba talaga nating iproseso ang milyun-milyong multiplikasyon para makakuha ng isang simpleng sagot, sa gayon ay ginagaya ang kahinahunan ng enerhiya ng ating sariling utak.

analog na pagkukuwenta
Kaugnay na artikulo:
Analog computing sa memorya: ang taya upang mabawasan ang pagkonsumo ng enerhiya ng AI

Klasikong arkitektura: mula sa perceptron hanggang sa Deep Learning

Para maunawaan kung saan tayo patungo, kailangan nating malaman kung saan tayo nanggaling. Ang isang pangunahing neural network ay karaniwang nakaayos sa tatlong antas. Nagsisimula ang lahat sa input layerDito tinatanggap ng sistema ang datos mula sa labas, sinusuri ito, at ipinapadala. Pagkatapos ay darating ang mga nakatagong layerna maaaring isa o dose-dosenang mga ito; dito nagaganap ang tunay na pagproseso, pinipino ang impormasyon sa bawat yugto.

Sa wakas, nakarating kami sa patong ng outputna siyang nagbibigay sa atin ng pangwakas na hatol. Depende sa ating hinahanap, maaari tayong magkaroon ng isang node para sa isang sagot na oo o hindi (binary classification), o ilang node kung ang problema ay mas kumplikado at nangangailangan ng pagpili sa pagitan ng maraming kategorya.

Kapag makipag-usap namin tungkol sa Malalim na PagkatutoTinutukoy natin ang mga network na may maraming nakatagong layer at milyun-milyong koneksyon. Sa modelong ito, ang ugnayan sa pagitan ng mga neuron ay binibigyang kahulugan ng isang numerikal na halaga na tinatawag na timbangAng problema ay ang mga network na ito ay mga baboy ng datos at enerhiya, na nangangailangan ng milyun-milyong halimbawa upang maiwasan ang mga pagkakamali.

AIoT
Kaugnay na artikulo:
AIoT: ano ito at paano ito naiiba sa maginoo na IoT?

Ang puso ng pagsasanay: Pasulong at Paatras na Pagpapalaganap

Para matuto ang isang network, kailangan muna nitong subukang manghula. Ang proseso ng Pasulong na Pagpapalaganap Ito ay karaniwang isang paglalakbay mula kaliwa pakanan: ang datos ay pumapasok, pinararami sa mga timbang, isang pagsasaayos na tinatawag na bias ang idinaragdag, at ito ay dumadaan sa isang activation function (tulad ng Sigmoid o ReLu) upang magpasya kung ang neuron ay "gumaganap" o hindi.

Ngunit dahil walang alam ang network sa simula, mabibigo ito nang husto. Dito na ang Backpropagationkung saan nangyayari ang mahika. Ang algorithm ngayon ay naglalakbay mula kanan patungong kaliwa, kinakalkula ang error sa pagitan ng nakuha na resulta at ng aktwal na resulta. Gamit ang mga derivatives sa matematikaInaayos ng network ang mga timbang upang mabawasan ang error na iyon sa susunod na pag-ulit.

Isang mahalagang detalye sa prosesong ito ay ang bilis ng pagkatutoKung ito ay masyadong mataas, mabilis na natututo ang network ngunit hindi tumpak; kung ito ay masyadong mababa, ang proseso ay nagiging walang katapusan. Ang pangunahing layunin ay maabot ang global minimum ng cost function, na nagbibigay-daan sa network na gawing pangkalahatan ang impormasyon nang tama.

Ang rebolusyon ng mga walang timbang na neural network

Dito nagiging kapana-panabik ang mga bagay-bagay. Binabasag nina Propesor Lizy K. John at ng kanyang pangkat ang hulmahan sa pamamagitan ng pagmumungkahi mga neural network na walang timbangBagama't ang kumbensyonal na AI ay umaasa sa pagsasagawa ng bilyun-bilyong multiplikasyon (isang napakamahal na operasyon para sa hardware), ang pamamaraang ito ay gumagamit ng magkakaugnay na mga talahanayan ng paghahanap.

Sa halip na kalkulahin ang isang kumplikadong operasyon sa aritmetika, kinokonsulta lamang ng network ang isang nakaimbak na sagot batay sa mga binary input. Ito ay isang sistema na mas katulad ng kung paano nangangatwiran ang mga tao: hindi natin pinaparami ang mga numero sa ating mga isipan upang magpasya kung lalakad pakaliwa o pakanan, kundi sa halip pinoproseso namin ang mga signal ng pag-activate.

Raspberry Pi AI HAT+ 2
Kaugnay na artikulo:
Raspberry Pi AI HAT+ 2: ang bagong taya upang dalhin ang generative AI sa bingit

Ang mga resulta ay talagang kahanga-hanga. Sa mga gawain tulad ng medikal na pagsubaybay (ECG o EEG) o pagkilala ng keyword, ang mga network na ito ay maaaring isang libong beses na mas maliit at mas mahusayIsipin ang paglipat mula sa isang 17-megabyte na modelo patungo sa isa sa 14 kilobytes lamang. Pinapayagan nito ang AI na direktang manirahan sa loob ng sensor sa pamamagitan ng Edge Computing nang hindi kinakailangang magpadala ng data sa cloud, na isa ring Isang puntong pabor sa privacy gumagamit

Tungo sa isang napapanatiling at magaan na AI

Hindi lang puro pagbabawas ng timbang ang laman; nariyan din ang trend na... magaan na neural networkAng mga ito ay dinisenyo upang kumonsumo ng pinakamababang posibleng dami ng enerhiya at memorya, gamit ang mga pamamaraan tulad ng kalat-kalat na pagsasanay o pagpuputolna binubuo ng pag-aalis ng mga koneksyon na walang naiaambag na anuman sa huling resulta.

Mahalaga ang pamamaraang ito sa mga sektor tulad ng pamamahala ng enerhiya sa gusali o pagpapalamig ng data center, kung saan ang pag-optimize ng pagkonsumo ay maaaring mangahulugan ng pagtitipid ng enerhiya ng hanggang 30%Malinaw ang layunin: na ang AI ay hindi maging isang problema sa klima, kundi bahagi ng solusyon, na nagbibigay-daan sa mga aparatong mababa ang gastos, tulad ng Mga microcontroller ng ARM Cortex, magsagawa ng matatalinong gawain sa totoong oras.

Mula sa mga transformer na nagpapagana sa mga modernong chatbot hanggang sa mga image-focused convolutional neural network (CNN), ang landas tungo sa kahusayan ay patungo sa bawasan ang pagiging kumplikado ng pagkalkulaMalaki ang naging pagbabago sa datos at lakas mula sa klasikong perceptron patungo sa generative AI, ngunit ang tunay na makabagong teknolohiya ngayon ay naglalayong gumawa ng higit pa gamit ang mas kaunting teknolohiya.

Ang paglipat mula sa siksik at maraming arkitekturang multiplikasyon patungo sa mga sistemang nakabatay sa binary search at mga pinutol na modelo ay nagbibigay-daan sa artificial intelligence na maging praktikal sa maliliit na device. Sa pamamagitan ng pagsasama ng kahusayan sa enerhiya at pagpapasimple ng matematika, ang pagproseso ng data ay nagiging mas mabilis at mas napapanatiling, na nagbubukas ng daan para sa lokal at pribadong computing na hindi na umaasa sa malalaking GPU upang gumana nang maayos.

hyperspectral camera na may artipisyal na katalinuhan
Kaugnay na artikulo:
Hyperspectral camera na may artificial intelligence: totoong gamit at teknolohiya

Idagdag bilang ginustong mapagkukunan sa Google