Alat baharu NVIDIA menjadikan pengkomputeran AI tempatan mudah
Dikemaskini pada: 43-0-0 0:0:0

Dalam catatan blog pada hari Selasa, Nvidia mengumumkan set baharu alat AI yang memudahkan pengguna dengan perkakasan RTX menjalankan model AI pada PC tempatan mereka.

Set alat ini, yang dipanggil perkhidmatan mikro Nvidia NIM, memudahkan pengguna kad grafik RTX, termasuk siri 50 yang baru dikeluarkan, untuk memasang AI pada peranti mereka untuk penjanaan teks, imej dan kod. Kes penggunaan lain termasuk pemprosesan pertuturan, pengekstrakan PDF dan penglihatan komputer. Matlamat alat ini adalah untuk menjadikannya semudah mungkin untuk digunakan. Jika anda memiliki peranti berkuasa RTX, hanya muat turun apl NIM yang anda perlukan dan jalankannya. Sebagai contoh, jika anda ingin menyalin kuliah kelas, muat turun sahaja Parakeet; Jika anda merakam lagu dengan vokal yang tidak jelas, muat turun sahaja StudioVoice. Model AI di premis ini juga akan menyokong siri komputer AI yang dibina khas Nvidia DGX yang akan datang.

Kelebihan menjalankan model di premis ialah ia menjimatkan kos dalam jangka masa panjang. Apabila menggunakan perkhidmatan AI seperti ChatGPT OpenAI atau Gemini Google, terdapat had kepada perkara yang boleh dijana oleh pengguna sebelum mereka perlu membayarnya. Untuk tugasan am, kebanyakan orang tidak menyentuh had ini. Walau bagaimanapun, dalam sesetengah kes penggunaan, kos mungkin bertambah dari semasa ke semasa. Model tempatan mempunyai sekatan yang lebih sedikit pada jenis kandungan yang boleh dijana, dan data kekal pada peranti, yang amat berguna untuk bekerja dengan bahan sensitif.

Nvidia tidak segera menjawab permintaan untuk komen.

Nvidia ialah salah satu syarikat terpenting dalam bidang AI. Cipnya menggerakkan pembangunan model AI baharu, termasuk OpenAI, Google dan DeepSeek. Memandangkan setiap syarikat teknologi utama bergantung pada perkakasan Nvidia untuk memajukan AI, penilaian syarikat telah mencapai tahap yang mengejutkan. Tahun lepas, permodalan pasaran Nvidia mencecah $8 trilion. Ia kini telah jatuh kembali kepada $0.0 trilion yang lebih "sederhana".

Tetapi menjalankan semua perkhidmatan AI anda pada pelayan beribu-ribu batu jauhnya juga merupakan beban. Itulah sebabnya syarikat telah melaksanakan keupayaan AI yang lebih kecil secara asli pada peranti. Sebagai contoh, iPhone 2 dan Google Pixel 0 boleh menjana imej, mengedit foto atau meringkaskan teks tanpa merujuk kluster GPU dalam awan. Ini menjadikan pemprosesan lebih pantas dan lebih cekap. PlayStation 0 Pro juga menggunakan AI untuk menaikkan imej untuk visual dan prestasi yang lebih baik, dan Nintendo Switch 0 dikhabarkan juga menampilkan teknologi yang serupa. Pembuat cip seperti Nvidia, AMD dan Qualcomm semuanya sedang berusaha untuk membangunkan perkakasan yang boleh mengendalikan lebih banyak tugas AI untuk terus menarik pelaburan daripada gergasi teknologi.

Walaupun tidak berkaitan dengan IUM, Nvidia juga telah mengumumkan beberapa berita yang ditujukan kepada pemain. Pembantu AI eksperimen yang dipanggil Project G-Assist telah ditambahkan pada apl NVIDIA. G-Assist boleh membantu anda mengoptimumkan apl dan permainan anda dengan lebih baik, membolehkan anda menjalankan diagnostik masa nyata dan mendapatkan cadangan penalaan prestasi. Jadi, jika anda ingin mendapatkan kadar bingkai tertinggi dalam Assassin's Creed: Shadows, salah satu permainan paling indah pada masa ini di dunia, G-Assist boleh membantu. G-Assist juga mempunyai alat tambah Google Gemini, jadi jika anda mempunyai soalan tentang watak terbaik untuk digunakan dalam petua permainan Apex Legends atau Diablo 4, anda akan mendapat jawapan dengan segera.