KONTEKS.CO.ID – Nvidia memperkenalkan aplikasi baru bernama “Chat with RTX”. Ini sebuah chatbot berbasis kecerdasan buatan yang tertujukan untuk pengguna komputer (PC).
Aplikasi ini memungkinkan pengguna merangkum dokumen dan video YouTube. Lalu memberikan rekomendasi, serta menyediakan informasi lainnya dengan cepat dan efisien.
Fitur Chat with RTX
Fitur utama dari aplikasi “Chat with RTX” adalah kemampuannya untuk merangkum dokumen dalam format .txt, .pdf, .doc/.docx, dan .xml.
Pengguna dapat mengunggah dokumen tersebut dan meminta chatbot untuk menyediakan ringkasan informasi tertentu dari dokumen tersebut.
Selain merangkum dokumen, aplikasi ini juga dapat merangkum video YouTube dengan menggunakan tautan yang disediakan.
Pengguna dapat menanyakan pertanyaan spesifik tentang konten video tanpa perlu menontonnya secara penuh.
Teknologi dan Spesifikasi
Aplikasi “Chat with RTX” menggunakan teknologi retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM. Teknologi ini terdukung oleh unit pengolah grafis (GPU) Nvidia RTX 30 atau 40 series, serta diakselerasi oleh inti Tensor built-in.
Spesifikasi minimum untuk menggunakan aplikasi ini termasuk GPU dengan VRAM 8 GB, RAM 16 GB, sistem operasi Windows 10 atau 11, dan driver GPU Nvidia terbaru. Pengguna juga memerlukan media penyimpanan seluas 35 GB.
Keunggulan dan Keterbatasan
Keunggulan utama dari aplikasi ini adalah kemampuannya untuk memproses data secara lokal di PC atau workstation Nvidia RTX tanpa memerlukan koneksi internet. Hal ini memastikan keamanan dan privasi data pengguna.
Namun, terdapat beberapa keterbatasan seperti atribusi sumber yang tidak selalu akurat dan aplikasi dapat mengalami crash jika diminta untuk mengindeks jumlah dokumen yang besar.
Selain itu, aplikasi ini belum dapat mengingat konteks percakapan, sehingga pengguna tidak dapat melakukan pertanyaan lanjutan dari pertanyaan sebelumnya.
Meskipun masih dalam tahap pengembangan, aplikasi “Chat with RTX” menunjukkan potensi yang besar sebagai chatbot AI yang berjalan secara lokal di komputer pengguna.
Dengan kemampuannya untuk memproses data sensitif secara aman dan efisien, aplikasi ini dapat menjadi solusi yang berguna. Terutama bagi pengguna yang ingin menganalisis file pribadi mereka tanpa harus membagikannya ke pihak ketiga.***
Baca berita pilihan konteks.co.id lainnya di:
"Google News"