أطلقت إنفيديا إصدارًا مبكرًا من Chat with RTX، وهو تطبيق تجريبي يتيح لك تشغيل روبوت دردشة ذكاء اصطناعي شخصي عبر حاسوبك.
ويمكنك تغذية روبوت الدردشة بمقاطع فيديو من يوتيوب ومستنداتك من أجل إنشاء ملخصات والحصول على الإجابات ذات الصلة بناءً على بياناتك.
وتعد هذه محاولة إنفيديا الحديثة لتحويل الذكاء الاصطناعي الموجود في وحدات معالجة الرسومات إلى أداة رئيسية يستخدمها الجميع.
ويجري تشغيل روبوت الدردشة محليًا عبر حاسوبك، وكل ما تحتاجه هو وحدة معالجة رسومات من سلسلة GeForce RTX 30 أو GeForce RTX 40 مع ما لا يقل عن 8 جيجابايت من ذاكرة الوصول العشوائي للفيديو VRAM.
ويسمح Chat with RTX بتسخير قوة الذكاء الاصطناعي التوليدي الشخصي مباشرة عبر أجهزتهم، مما يعرض إمكانات تقنية RAG وبرنامج TensorRT-LLM.
وفي الوقت نفسه، لا يستهلك التطبيق الكثير من حوسبة مركز البيانات ويساعد في تعزيز الخصوصية المحلية حتى لا يضطر المستخدمون إلى القلق بخصوص محادثات الذكاء الاصطناعي.
وأصبحت روبوتات الدردشة جزءًا لا يتجزأ من التفاعلات اليومية للملايين على مستوى العالم، وتعتمد عادةً على الخوادم السحابية المزودة بوحدات معالجة الرسومات من إنفيديا.
ويغير Chat with RTX هذا الوضع من خلال السماح للمستخدمين بالاستمتاع بمزايا الذكاء الاصطناعي التوليدي محليًا، وذلك باستخدام قوة معالجة وحدات معالجة الرسومات.
وقالت إنفيديا: “يعد Chat with RTX أكثر من مجرد روبوت دردشة، إذ إنه رفيق شخصي للذكاء الاصطناعي يمكن للمستخدمين تخصيصه باستخدام محتواهم. يمكن للمستخدمين تسريع تجربتهم والاستمتاع بمزايا الذكاء الاصطناعي التوليدي بسرعة وخصوصية غير مسبوقة من خلال الاستفادة من قدرات الحواسيب المحلية التي تعمل بنظام ويندوز”.
ويستفيد Chat with RTX من تقنية RAG وبرنامج TensorRT-LLM وتسريع Nvidia RTX لتسهيل الإجابات السريعة ذات الصلة بالسياق بناءً على مجموعات البيانات المحلية.
ويمكن للمستخدمين ربط التطبيق بالملفات المحلية الموجودة ضمن حاسوبهم، وتحويلها إلى مجموعة بيانات للنماذج اللغوية الكبيرة المفتوحة المصدر، مثل Mistral أو Llama 2.
ويستطيع المستخدمون كتابة استعلامات باللغة الطبيعية، ويفحص Chat with RTX الإجابة بسرعة ويقدمها مع السياق، مثل السؤال عن توصية مطعم أو أي معلومات شخصية، وذلك دون الحاجة إلى البحث في الملفات المختلفة.
ويدعم التطبيق مجموعة متنوعة من تنسيقات الملفات، ويشمل ذلك txt و pdf و doc و docx و xml، مما يجعله متعدد الاستخدامات وسهل الاستخدام.
وقالت إنفيديا إن ما يميز Chat with RTX عن غيره هو قدرته على تضمين معلومات من مصادر الوسائط المتعددة، وخاصة مقاطع الفيديو وقوائم التشغيل عبر يوتيوب.
ويمكن للمستخدمين إدماج المعرفة من محتوى الفيديو في روبوت الدردشة، مما يتيح الاستعلامات السياقية، إذ يمكن للمستخدمين البحث عن توصيات السفر بناءً على مقاطع فيديو المؤثرين المفضلين أو الحصول على برامج تعليمية سريعة وإرشادات من الموارد التعليمية.
وتضمن إمكانات المعالجة المحلية للتطبيق الحصول على نتائج سريعة، مع بقاء بيانات المستخدم ضمن الجهاز.
ويتيح Chat with RTX للمستخدمين التعامل مع البيانات الحساسة دون مشاركتها مع أطراف خارجية أو الحاجة إلى اتصال بالإنترنت، وذلك من خلال التخلص من الحاجة إلى الخدمات المستندة إلى السحابة.