Создать собственный ChatGPT, работающий локально на вашем ПК, стало проще благодаря NVIDIA. Компания выпустила Chat with RTX, приложение, позволяющее легко создать чат-бот, использующий преимущества аппаратного обеспечения вашего ПК. Конечно, при условии, что он оснащен графическим процессором NVIDIA. Если хотите узнать больше новостей, переходите на наш сайт и будьте на современной волне.
Chat with RTX - это демо-версия, по словам NVIDIA. Это означает, что программное обеспечение еще не отработано на 100% и может иметь некоторые ошибки. Тем не менее, это очень интересная альтернатива, которая может помочь ускорить выполнение таких задач, как поиск определенных данных в документах, хранящихся на компьютере, или создание краткого содержания видео, загруженного на YouTube.
Приложение имеет минималистичный интерфейс, а его работа далеко не сложна. После установки пользователи могут выбрать одну из двух больших языковых моделей (LLM) для работы Chat with RTX: Mistral от одноименного французского стартапа или LLaMA 2 от Meta.
Затем они выбирают папку с документами, которые хотят отсканировать с помощью программы NVIDIA, и все. После этого можно задавать вопросы чат-боту, как при использовании таких приложений, как ChatGPT, Gemini или Copilot. Искусственный интеллект проанализирует предоставленные вами файлы и извлечет из них ответы.
Например, если Chat with RTX просканирует папку с файлами, связанными с вашим следующим отпуском, вы можете попросить его сообщить вам день и время вылета. Чат-бот NVIDIA не только выдаст вам текстовый ответ с информацией, но и даст ссылку на документы, из которых он извлек данные, чтобы вы могли быстро их открыть.
Продолжая тот же пример, если у вас уже есть расписание мероприятий для вашей поездки и оно в PDF, вы можете попросить чат-бота извлечь эту информацию и обобщить ее для вас за считанные секунды. Но Chat с RTX также способен работать с элементами, которые не хранятся локально, например, с видео на YouTube.
Если вместо локальных данных вы хотите извлечь информацию из видео, размещенного на YouTube, Chat with RTX позволит вам сделать это без проблем. Просто скопируйте ссылку и вставьте ее в приложение NVIDIA. ИИ обработает контент, и вы сможете задавать ему вопросы. Как и в случае с документами, он может сгенерировать резюме и предоставить его в текстовом формате.
В рекламном анонсе программы NVIDIA упоминает, что приложение работает с "избранными видео". Хотя это не слишком подробно описано, можно предположить, что результаты будут зависеть от контента. Проще говоря, не удивляйтесь, если при использовании этой функции приложение будет часто падать.
Как уже упоминалось в начале, Chat with RTX требует наличия графического процессора NVIDIA в вашем компьютере. Чат-бот совместим со всеми моделями серий RTX 30 и RTX 40 с не менее чем 8 ГБ VRAM. Остальные требования для установки - Windows 11, не менее 16 ГБ оперативной памяти и версия 535.11 или выше драйверов вашей видеокарты.
Однако, чтобы получить максимальную отдачу от приложения, вам, вероятно, понадобится довольно мощный ПК. По словам Тома Уоррена из The Verge, приложение занимает около 40 ГБ дискового пространства и использует экземпляр Python, который при работе потребляет около 3 ГБ оперативной памяти. Наконец, стоит отметить, что если вы используете приложение с локальными данными, эта информация не будет загружена в облако или покинет ваш компьютер.
