Nvidia: Chat with RTX è il nuovo chatbot eseguibile in locale per RTX 30 e 40
13 febbraio 2024
1707840983881
Questa nuova IA ci consente di visualizzare video da YouTube e documenti personali, generando riassunti e risposte pertinenti basate sui dati forniti e non solo.
La peculiarità di Chat with RTX è che tutte le elaborazioni avvengono in locale sul PC, richiedendo solo la presenza di una GPU RTX della serie 30 o 40 con almeno 8 GB di VRAM.
L’app gestisce efficacemente i video di YouTube, consentendo di inserire l’URL e cercare specifiche menzioni nei trascritti o di ottenere un riassunto completo del video.
Ovviamente si tratta di una demo, infatti i risultati non sono spesso precisi e talvolta il chatbot può sbagliare totalmente la richiesta fatta.
Un’altra caratteristica apprezzabile è la capacità di esaminare documenti in formato PDF e verificare dati. Le risposte sono quasi istantanee, eliminando il ritardo tipico dei chatbot basati su cloud come ChatGPT o Copilot.
Va sottolineato che Chat with RTX sembra essere più una demo per sviluppatori iniziale che un’applicazione completa. La zip da scaricare pesa circa 35GB ed estrarre la cartella di installazione richiede tantissimo tempo.
Un altro limite, per ora, risiede nel “ricordare” le domande precedenti; infatti l’IA non è in grado di ricordarsi delle discussioni svolte all’interno della chat in precedenza.
Ricordiamo ancora una volta che si tratta di una demo e non è indirizzata a tutti; in quanto si tratta di una feature specifica ed attualmente non paragonabile a ChatGPT e Microsoft Copilot in tutto e per tutto, anche se ha molte funzioni interessanti delle quali le controparti sono sprovviste.