“Chat with RTX” de NVIDIA es un chatbot de IA que se ejecuta sin conexión en tus archivos personales.
NVIDIA lanza una nueva herramienta gratuita llamada “Chat with RTX” que permite a los propietarios de GeForce RTX serie 30 y superiores ejecutar un chatbot en su propio contenido desde su propia PC.
Los usuarios pueden alimentar sus propios archivos o dirigirlos a videos y listas de reproducción de YouTube. Luego pueden realizar consultas para obtener respuestas de estas fuentes. Además, el Chat with RTX se ejecuta sin conexión. Por esto es inherentemente más privado que los chatbots de IA en línea como ChatGPT y Gemini.
Una IA para datos privados
La IA ha permeado todos los aspectos de nuestra vida. Entre ChatGPT y Gemini, prácticamente todos tenemos acceso a un asistente virtual inteligente de IA que puede buscar en Internet y brindarnos información relevante en segundos. Pero donde estos asistentes gratuitos de IA fallan es cuando necesitas acciones en tu propio conjunto de datos.
Ejecutar tu propio chatbot de IA localmente no es para todos, y suscribirse a niveles más altos puede que tampoco sea una opción para algunos. NVIDIA está haciendo que sea mucho más fácil para los propietarios de GPU GeForce ejecutar su propio chatbot de IA con la nueva herramienta Chat with RTX.
Chat with RTX
Chat with RTX es una herramienta gratuita ofrecida por NVIDIA que permite a los usuarios personalizar un chatbot con su propio contenido. Las consultas son aceleradas por la GPU NVIDIA en su PC con Windows, con soporte restringido a GeForce RTX serie 30 y superiores con al menos 8 GB de VRAM. También necesita Windows 10 o superior y los controladores de GPU NVIDIA más recientes. NVIDIA también aclara que la herramienta es una demostración técnica, así que no espere un nivel de pulido de ChatGPT todavía.
Esencialmente brinda capacidades de IA generativa a tu propia PC. Puedes introducir tus propios archivos como conjunto de datos y utilizar grandes modelos de lenguaje de código abierto como Mistral o Meta’s Llama 2 para permitir consultas y obtener respuestas rápidas y contextualmente relevantes.
Puedes alimentar Chat con RTX en varios formatos de archivo, incluidos .txt, .pdf, .doc/.docx y .xml. También puedes alimentarlo con información de vídeos y listas de reproducción de YouTube. Dado que Chat with RTX se ejecuta localmente, tus datos permanecen en tu dispositivo, lo cual es perfecto si deseas procesar datos confidenciales sin conexión.
NVIDIA, sin embargo, advierte de algunas limitaciones para Chat with RTX. El chatbot no puede recordar el contexto, por lo que no puede hacer preguntas de seguimiento. La herramienta también funciona mejor si preguntas por datos específicos que se encuentran en documentos, frente a la petición de un resumen del mismo documento. NVIDIA se contenta con llamar a esto una demostración técnica, pero sigue siendo una gran herramienta para empezar.