Nvidia Chat with RTX: Zainstaluj czatbota na dysku swojego komputera

Czym jest Chat with RTX? Wedle oficjalnej strony narzędzie dostępne obecnie w wersji demonstracyjnej pozwala na spersonalizowanie dużego modelu językowego GPT połączonego z naszymi własnymi danymi, zawartymi m.in. w dokumentach oraz materiałach wideo. Czatbot jest w stanie szybko udzielać odpowiedzi na otrzymane pytania poprzez wykorzystanie generowania z rozszerzonym odzyskiwaniem (RAG), TensorRT-LLM oraz akcelerację RTX.

Ta ostatnia przy okazji pozwala wywnioskować (jakby ktoś jeszcze nie zrobił tego na podstawie nazwy programu), że Chat with RTX do funkcjonowania wymaga karty graficznej z rodziny RTX. I to nie byle jakiej, jako że obsługiwane są jedynie modele z serii RTX 30 i RTX 40. Posiadacze starszych kart będą więc musieli obyć się smakiem. Co więcej, oprogramowanie ze stajni Nvidii do poprawnego działania wymaga także co najmniej 16 GB RAM oraz Windowsa 11.

Bez wątpienia do największych zalet Chat with RTX należy fakt, że aplikacja działa w pełni lokalnie na maszynie, na której to została zainstalowana. Obarczone jest to jednak kilkoma niedogodnościami, a do ich grona można zaliczyć spory rozmiar oprogramowania (archiwum pobierane z Internetu waży przeszło 35 GB) oraz wymóg instalacji instancji Pythona na komputerze. Jeśli nam to nie przeszkadza, bez obaw możemy wypróbować Chat with RTX. Niemniej wciąż warto mieć na uwadze, że jest to wczesna wersja demonstracyjna, a więc od czasu do czasu natkniemy się na błąd, a sporadycznie coś może pójść nie do końca tak, jak to planowaliśmy.

Do czego może posłużyć Chat with RTX? Tak, jak już zostało wspomniane, oprogramowanie radzi sobie z plikami w najróżniejszych formatach, wliczając w to txt, xml, pdf i doc/docx. Czatbot jest w stanie wyciągnąć z nich interesujące nas informacje lub pokrótce opisać ich zawartość, co pozwoli zaoszczędzić mnóstwo czasu na przetrząsanie gigabajtów dokumentów w poszukiwaniu interesujących nas danych.

Bez wątpienia ciekawą funkcją jest także możliwość zaimportowania do aplikacji całych playlist umieszczonych w serwisie YouTube. Następnie Chat with RTX dokona transkrypcji filmów, a my otrzymamy opcję zadawania pytań odnośnie do ich zawartości.

Dla przypomnienia – jeśli chcecie osobiście sprawdzić, jak radzi sobie Chat with RTX, możecie pobrać wersję demo aplikacji z tego miejsca. Należy jednak mieć na uwadze to, że wymagania sprzętowe nie należą do najniższych, a starsze komputery nie podołają oprogramowaniu Nvidii. Nie sposób też nie wspomnieć o innych narzędziach Nvidii, wliczając w to Remix, który pozwala na danie starszym grom drugiej młodości.