Nvidia: ChatRTX è il nuovo chatbot IA aggiornato eseguibile in locale

Si tratta di un interessante aggiornamento basato su un progetto open source disponibile su GitHub che offre un approccio leggermente diverso dalla versione precedente. La tecnologia alla base tuttavia è rimasta pressochè invariata: sfruttando i TensorRT-LLM e l’accelerazione RTX, possiamo infatti addestrare il modello GPT con i nostri contenuti personali, i quali possono variare in formato, includendo documenti di testo, immagini e altro ancora.

In alternativa, possiamo utilizzare invece il dataset default del modello che sceglieremo. Per ulteriori dettagli, ecco la nostra guida dedicata:

Nvidia ChatRTX: cos’è e come funziona

Grazie alla combinazione di retrieval-augmented generation (RAG) e all’utilizzo di risorse locali su PC o workstation Windows RTX, possiamo ottenere risposte pertinenti al contesto con tempi di risposta molto rapidi ed una affidabilità che può variare a seconda del modello e del prompt fornito.

ChatRTX supporta una vasta gamma di formati di file: indipendentemente che si tratti di documenti di testo come PDF o di file di immagini come JPEG, GIF o PNG, possiamo semplicemente indicare la cartella contenente i nostri dati e questi verranno prontamente integrati nella libreria di ChatRTX.