Nvidia Jetson Orin Nano Super-Superkomputer Gen-AI-Level yang kuat

Bersiaplah untuk menyambut di rumah superkomputer tercepat, itu bisa muat di telapak tangan Anda. Jetson Orin Nano Super terbaru NVIDIA adalah sistem terbaru di modul (SOM) yang dibangun dan dipasarkan untuk aplikasi komputasi AI dan Edge. Mengukur hanya sekitar 70mm x 45 mm (lebih kecil dari kartu kredit) dan seperti modul Jetson sebelumnya tetapi mengemas pukulan yang menghasilkan hingga 67 atasan. Ini ditujukan untuk penggemar, pengembang, dan siswa yang mencari superkomputer yang terjangkau dan ringkas untuk proyek mereka. Ada berbagai aplikasi dalam pekerjaan lapangan jarak jauh, drone, robotika, perangkat IoT dan otomatisasi. NVIDIA menyebutnya opsi entry-level yang sempurna untuk menambahkan AI canggih ke produk tertanam.
NVIDIA, yang dikenal dengan arsitektur pemrosesan paralel multi-threaded, baru-baru ini meluncurkan superkomputer seri Jetson yang paling terjangkau dengan harga $ 249, penurunan signifikan dari titik harga $ 499 dari generasi sebelumnya. Jetson Orin Nano Super menggunakan arsitektur Ampere NVIDIA dan memiliki CPU lengan 6-core, 1024 CUDA core dengan 32 inti tensor. Secara keseluruhan, NVIDIA menawarkan peningkatan kinerja 70%, peningkatan bandwidth memori 50% dari pendahulunya menjadi 102GB/s dengan setengah harga. Hal ini memungkinkan untuk tugas-tugas komputasi seperti deteksi objek real-time, pemrosesan AI generatif ringan dan sintesis suara.
NVIDIA juga meluncurkan pembaruan jetpack untuk papan yang ada, yang menjanjikan peningkatan kinerja hingga 70%. Ini juga dapat mendukung hingga empat kamera dengan resolusi dan laju bingkai yang lebih tinggi dari versi sebelumnya. Kegembiraan di balik rilis ini dari NVIDIA dapat dimengerti mengingat ini akan menjadi pertama kalinya banyak aplikasi secara praktis dapat dilakukan untuk pertama kalinya tanpa terhubung ke cloud/internet yang secara dramatis meningkatkan kasus penggunaannya.
Ini memiliki pengaturan daya 7/15/25 watt dan untuk kinerja maksimum Anda harus menjalankannya di 25W. Sistem ini dapat ditenagai oleh USB-C atau konektor barel yang berpemilik. Jetson Orin memiliki header ekspansi 40 pin. Menurut NVIDIA, Jetson Orin Nano Super yang baru melihat peningkatan 1,37x hingga 1,63x dalam kinerja model bahasa besar (LLM), peningkatan 1,36 hingga 2,04x dalam model visi, dan 1,43 hingga 1,69x lompatan transformer visi.
Perangkat keras yang dioptimalkan untuk AI seperti Jetson Orin Nano Super saat ini sangat diminati sehingga mereka terjual habis di banyak pasar dan saat ini di Backorder. Chip spesifik AI dengan GPU & NPU dibangun untuk pemrosesan paralel, mengeksekusi banyak perhitungan secara bersamaan. AI generatif telah menjadi gajah yang melahap semua jenis sumber daya – listrik, chip AI, pusat data dll. Dan industri semikonduktor sedang berjuang untuk mengikutinya.
Pasar menawarkan sejumlah pesaing yang berbeda untuk Nvidia, yang paling umum adalah Raspberry Pi. Papan Coral Dev oleh Google dan Qualcomm Robotics RB5 Development Kit adalah beberapa pesaing yang layak. Fitur yang paling menarik dari menggunakan Dewan Pengembang NVIDIA adalah dukungan ekosistem yang kuat dan komunitas pengembang aktif. Kit Pengembangan Perangkat Lunak Jetpack NVIDIA memiliki serangkaian alat yang komprehensif untuk mengoptimalkan beban kerja AI – NVIDIA Isaac untuk robotika, NVIDIA Metropolis untuk Visi AI, Replikator Nvidia Omniverse untuk pembuatan data sintetis. NVIDIA berkomitmen untuk kerangka kerja open-source-berarti model seperti Llama dan Gemma 2 dapat digunakan tanpa masalah di Jetson Orin Nano Super. NVIDIA Jetson AI Lab menawarkan dukungan untuk model open-source ini dan menyediakan tutorial untuk implementasi.
Munculnya chip AI yang kuat seperti banyak teknologi baru, telah mendemokratisasi robotika, otomatisasi & IoT dan telah memungkinkan banyak orang untuk bereksperimen dengan proyek DIY dan menerapkan hal yang sama untuk proyek rumah tangga & industri. Hari itu tidak jauh ketika aplikasi AI yang kompleks akan menjadi fitur Plug & Play yang tersedia bagi Anda untuk menyesuaikan proyek rumah tangga Anda. Dan mungkin tetap hanya mempertimbangkan penyebaran skala produksi penuh mungkin memerlukan peralatan & sumber daya tambahan. Chip kemungkinan akan tetap paling berguna, untuk tujuan akademik, pendidikan & prototyping.
Misalnya, saya memiliki ide sederhana untuk melacak pergerakan kendaraan menggunakan rekaman video dari dashcam atau CCTV. Meskipun ini mungkin tampak kompleks dan mahal, prototipe DIY dapat dibangun dengan harga terjangkau menggunakan Jetson Orin Nano Super. Papan yang ringkas namun kuat ini mendukung deteksi objek real-time dan pelacakan dengan model pembelajaran yang mendalam. Dengan 67 atas kinerja AI, ia memproses umpan video langsung dari kamera USB, IP, atau MIPI CSI, mengidentifikasi dan melacak kendaraan secara efisien. Dengan memanfaatkan Jetpack SDK NVIDIA dan Framework Deepstream, ini memungkinkan komputasi tepi AI tanpa mengandalkan konektivitas cloud. Ini membuatnya ideal untuk pemantauan lalu lintas, manajemen armada, atau aplikasi keamanan.
Di India, tersedia melalui RP Tech, Arrow dan Tannatechbiz untuk sekitar INR 25.000, dengan waktu tunggu yang diharapkan 1-2 bulan karena permintaan global yang kuat. Jetson Orin Nano Super adalah pilihan yang bagus untuk pengembang, siswa, dan pembuat yang ingin mengeksplorasi proyek AI inovatif tanpa merusak bank.