NVIDIA жаңа ғана сіздің компьютеріңізде жергілікті түрде жұмыс істейтін тегін чатбот демонстрациясын шығарды. Бұл өте ыңғайлы, себебі ол чатботқа файлдарыңыз бен құжаттарыңызға қол жеткізуге мүмкіндік береді. қамтамасыз ете аласыз RTX арқылы сөйлесу белгілі бір жеке деректер және одан сол ақпарат негізінде түйіндеме жасауды сұраңыз. Сондай-ақ, сіз оған кез келген чат-бот сияқты сұрақтар қоя аласыз және ол жауап алу үшін деректеріңізге енеді.
Компания бұл пайдаланушыларға «жергілікті ДК файлдарын деректер жиынтығы ретінде Mistral немесе Llama 2 сияқты үлкен ашық бастапқы тіл үлгісіне жылдам және оңай қосуға» мүмкіндік береді дейді. NVIDIA пайдаланушының чат-боттан Лас-Вегаста серіктес ұсынған мейрамхана туралы сұрағанының мысалын береді. Жауапты табу үшін бағдарламалық құрал жергілікті файлдарды сканерлейді. Ол .txt, .pdf, .doc, .docx және .xml сияқты бірқатар файл пішімдерін қолдайды. Компания сәйкес файлдарды өзінің деректер жинағына «секундтарда» жүктеп салатынын айтады.
RTX көмегімен чат сонымен қатар бейнелер мен ойнату тізімдерін біріктіреді YouTube. Бейненің URL мекенжайын деректер жиынына қосуға болады және ол мәтінмәндік сұраулар үшін бейнеде қамтылған білімді біріктіреді. NVIDIA ол «әсер етушілердің таңдаулы бейнелерінің мазмұнына негізделген» саяхат ұсыныстарын сұрау кезінде немесе білім беру ресурстарынан алынған оқулықтар мен қорытындыларды іздеу кезінде пайдалы болатынын айтады.
Бұл сіздің жеке деректеріңіздің контекстінде жұмыс істейтін шынайы цифрлық көмекші сияқты нәрсеге жасалған үлкен қадам сияқты көрінеді. Көптеген чат-боттар деректерді бұлтқа жібереді, бірақ Chat with RTX «пайдаланушыларға жергілікті компьютерде құпия деректерді үшінші тараппен бөліспей немесе интернет қосылымынсыз өңдеуге мүмкіндік береді». Сондықтан бұл қауіпсіз және контекстке бағытталған байланыс.
Кейбір шектеулер бар. Бұл демонстрациялық өнім, сондықтан көптеген қателерді күтіңіз NVIDIA пайдаланушылар қателер туралы есептерді жаза бастағанда және т.б. оларды түзетуді бастау керек. Сондай-ақ мұнда кейбір қатаң аппараттық шектеулер бар. RTX көмегімен чат тек графикалық процессоры бар Windows 11 компьютерлерінде жұмыс істейді NVIDIA GeForce RTX 30 немесе одан жоғары сериясы және кемінде 8 ГБ VRAM.
Жақында NVIDIA компания AI суперкомпьютер чиптерінің келесі буынын шығарғандықтан, шынымен де өзінің AI шеберлігін көрсетеді. Бұл, ең алдымен, AI және деректер орталығының сегменттеріне байланысты пайда табу.
Сондай-ақ оқыңыз: