Apa itu unit pemrosesan saraf (NPU) dan mengapa mereka begitu penting untuk komputasi modern?
Sejak Dawn of Computingorang telah membandingkan mesin dengan otak. Ini termasuk dua pendiri komputasi – John von Neumann menulis buku disebut “komputer dan otak” sementara Alan Turing dikutip pada tahun 1949 mengatakan: “Akhirnya saya tidak mengerti mengapa [a computer] mungkin tidak bersaing dengan istilah yang sama dengan kecerdasan manusia di sebagian besar bidang. “
Satu -satunya masalah dengan perbandingan ini adalah bahwa prosesor tradisional – unit pemrosesan pusat (CPU) – tidak meniru otak sama sekali. CPU terlalu matematis dan logis. Unit pemrosesan saraf (NPU), di sisi lain, mengambil pendekatan yang sama sekali berbeda: mensimulasikan struktur otak manusia di sirkuitnya.
Namun meniru cara kerja otak manusia secara elektronik jauh dari ide baru.
Kelahiran NPU
Otak elektronik literal berasal dari kelahiran komputasi modern pada pertengahan 1940-an, khususnya ke “jaringan saraf” sirkuit Dibuat oleh ahli saraf Warren McCulloch dan Logician Walter Pitts. Pekerjaan perintis McCulloch memacu penelitian lebih lanjut selama tahun 1950-an dan 1960-an, hanya untuk ide yang keluar dari mode-mungkin karena kurangnya kemajuan dibandingkan dengan meningkatnya kekuatan pembunuhan komputer klasik.
“Ada beberapa orang yang terisolasi di Jepang dan Jerman [working on neural networks] Tapi itu bukan lapangan, ”Yann Lecun, seorang ilmuwan komputer Prancis-Amerika yang secara luas dianggap sebagai salah satu dari 'ayah baptis' AI, mengatakan waktunya Bekerja dengan Geoffrey Hinton, perintis lapangan lainnya, di jaringan saraf pada awal 1980 -an. “Itu mulai menjadi lapangan lagi pada tahun 1986.”
Namun bagi jaringan saraf untuk mendapatkan kembali pijakan mereka sebagai bagian yang dihormati dari ilmu komputer, dibutuhkan keberhasilan pengenalan suara pada awal 2000 -an., Bahkan kemudian, Lecun mengatakan: “Kami tidak ingin menggunakan kata neuron nets karena memiliki reputasi yang buruk, jadi kami mengubah nama menjadi pembelajaran yang mendalam.”
Istilah NPU akan datang pada akhir 1990 -an, tetapi telah mengambil kantong dalam Apple, IBM dan Google untuk memindahkannya dari laboratorium universitas dan masuk ke arus utama. Perusahaan -perusahaan teknologi ini menginvestasikan miliaran dolar ke dalam pengembangan silikon, mengkristal semua pekerjaan masa lalu menjadi produk yang cocok di dalam ponsel dan laptop kami: prosesor yang mengambil inspirasi dari otak manusia. Lecun's Fortunes juga telah membaik menjadi lebih baik: dia sekarang adalah Kepala Ilmuwan AI di Meta.
Bagaimana cara kerja NPU?
Dalam beberapa hal, NPU hari ini tidak jauh berbeda dari yang diciptakan oleh McCulloch dan Pitts: struktur mereka meniru otak melalui arsitektur paralel. Ini berarti bahwa alih -alih menangani masalah secara berurutan, NPU secara bersamaan akan menjalankan jutaan, bahkan triliunan, dari perhitungan mini secara bersamaan. Inilah istilah “operasi TERA per detik,” atau atasan, mengacu pada.
Tapi di sinilah segalanya menjadi rumit. NPU mengandalkan set instruksi pembelajaran yang mendalam, yang telah dilatih pada sejumlah besar data yang ada. Ambil contoh deteksi tepi dalam foto, yang biasanya bergantung pada Jaringan saraf konvolusional (CNNS).
Dalam CNN, lapisan konvolusi menjalankan filter (disebut “kernel”) di setiap area gambar, yang akan mencari pola yang dicurigai – berkat pelatihannya – adalah tepi. Setiap operasi matematika yang dilakukan NPU disebut konvolusi, yang membuat peta fitur di atas gambar. Perangkat lunak akan mengulangi proses ini sampai mencapai titik di mana ia yakin telah menemukan tepi.
NPU sangat beredar dalam melakukan operasi konvolusioner, mampu melaksanakannya dengan kecepatan tinggi dan dengan tuntutan daya yang rendah. Ini terutama benar jika dibandingkan dengan CPU. Namun, unit pemrosesan grafis (GPU), yang juga menggunakan pemrosesan paralel, kurang dioptimalkan untuk tugas ini dan karenanya kurang efisien. Penurunan efisiensi ini membuat perbedaan besar ketika datang ke masa pakai baterai perangkat kami.
Untuk apa NPU sekarang digunakan?
Perhaps surprisingly, the first phones to include an NPU date back to 2017. That's when Huawei released the Mate 10 and Apple debuted its A11 Bionic chipset in the iPhone X. But neither of these NPUs was very powerful — each having less than 1 TOPS compared to the 45 TOPS NPUs in a modern-day Qualcomm Snapdragon X chipset, fitted into our laptop terbaik. Dibutuhkan beberapa tahun bagi aplikasi untuk muncul yang dapat memanfaatkan struktur unik chip.
Namun hanya delapan tahun kemudian, aplikasi AI ada di mana -mana. Misalnya, jika Anda memiliki telepon terbaru yang menyertakan opsi untuk menghapus orang dari foto – yang hampir pasti menggunakan NPU. Demikian juga, fitur “lingkaran untuk mencari” Google, atau “Tambahkan saya“Menggunakan bentuk augmented reality (AR) bertenaga NPU untuk menempatkan Anda di foto setelah Anda mengambil bidikan asli.
NPU sekarang telah menyebar ke laptop juga. Tahun lalu, Microsoft mengumumkan “Kategori PC Windows baru yang dirancang untuk AI, Copilot+ PC.” Ini membutuhkan NPU dengan setidaknya 40 atasan, yang sayangnya untuk AMD dan Intel (yang NPU awalnya hanya berlari di 15 puncak), mengesampingkannya keluar dari perlombaan. Tapi kehilangan mereka adalah keuntungan Qualcomm, karena semua prosesor Snapdragon X -nya melebihi ambang batas dengan NPU dengan nilai 45 atasan. Model yang memanfaatkan chip baru ini termasuk Laptop Microsoft Surface dan versi Snapdragon dari Acer swift ai seri.
Baik AMD dan Intel kini telah merilis chip yang memenuhi persyaratan minimum Microsoft, yang berarti lebih banyak laptop yang ada di pasaran dengan branding “Copilot+ PC”. Namun ada sengatan di ekor ini: laptop yang lebih terjangkau (kurang dari $ 800) sekarang cenderung masih menggunakan prosesor yang lebih rendah yang tidak memenuhi kriteria Copilot+ PC.
Apa fitur Copilot+ PC terbaik?
Tetapi mengapa Anda harus membayar lebih untuk Copilot+ PC? Microsoft berharap dapat menggoda Anda dengan sejumlah fitur eksklusif, dan terus terang, yang paling mengesankan juga yang paling kontroversial. Disebut Recall, ini menjanjikan “memori fotografi” yang memungkinkan Anda menemukan kembali sesuatu yang sebelumnya telah Anda lihat di Windows 11.
Setiap snapshot yang diambil oleh penarikan dianalisis oleh NPU, menggunakan konteks, pengenalan karakter optik (OCR) dan analisis sentimen untuk membuat indeks yang kemudian dapat Anda cari – pada saat itu recall akan membawa Anda kembali ke masa melalui timeline visual. Setelah peluncuran yang goyah, di mana ia diserang karena kurangnya keamanan atau kontrol pengguna atas snapshot apa yang disimpan, Microsoft mengatakan itu menghabiskan waktu Lebih banyak waktu mengerjakan ulang fitur menjadi lebih aman.
Fitur lain membangun di atas apa yang telah terjadi sebelumnya. Image Creator menggunakan NPU untuk mengubah teks menjadi gambar, versi yang disempurnakan dari Efek Windows Studio menambahkan filter kreatif ke panggilan video Anda dan teks langsung menggunakan NPU untuk menerjemahkan video apa pun yang Anda tonton.
Perusahaan seperti Acer, HP dan Lenovo telah merilis alat AI lokal mereka sendiri yang dapat menganalisis dokumen yang disimpan di PC Anda dan memberikan ringkasan dan analisis sentimen. Alat seperti itu hanya cenderung membaik seiring waktu.
Apa yang mungkin terjadi selanjutnya dengan NPU?
Selama beberapa tahun ke depan, beberapa ahli AI berpendapat bahwa NPU akan mengikuti jalan yang sama dengan CPU di masa -masa awal mereka – sesuatu yang dekat Hukum Mooredengan dua kali lipat atas setiap atau dua tahun. Dengan kekuatan itu akan datang dengan kemampuan yang jauh lebih besar, ke titik di mana Anda dapat membuat karya seni AI yang realistis secara lokal di komputer Anda daripada menggunakan program seperti midjourney.
Seiring waktu, ketika perangkat lunak matang bersama dengan perangkat keras, dan lebih banyak pengembang memanfaatkannya, kami berharap dapat melihat munculnya agen AI pribadi yang memahami kami karena mereka telah “hidup” di dalam komputer kami saat kami bekerja. Mereka tidak akan hanya berfungsi sebagai joggers memori tetapi melakukan tindakan atas nama kami.
NPU juga kemungkinan akan menemukan rumah di lebih banyak perangkat daripada ponsel dan laptop kami. TV akan menghasilkan layanan berita yang dipersonalisasi menggunakan presenter avatar favorit Anda; Pelacak kebugaran Anda akan merekomendasikan latihan berdasarkan suasana hati Anda dan waktu hingga pertemuan Anda berikutnya. Siapa tahu, sahabatmu suatu hari nanti bisa menjadi robot humanoid yang memahami Anda lebih baik daripada manusia mana pun.
