В этом репозитории содержится пример создания интеллектуального ассистента по продаже вин в Yandex Cloud. Мы по шагам рассматриваем следующие понятия:
- Yandex Cloud ML SDK, и как работать с языковыми моделями
- Простейшие ассистенты AI Assistant API для поддержания контекста диалога
- Подключение текстовой базы знаний (индекса) к модели для реализации RAG
- Умное чанкование и индексирование таблиц Markdown
- Понятие Function Calling в генеративных моделях и его использование с ассистентами
- Реализация агента с документным индексом и поддержкой нескольких функций: поиск в базе данных, вызов оператора, добавление покупок в корзину
- Многоагентное тестирование модели с помощью диалога двух агентов
- Реализация телеграм-бота на основе ассистента, с поддержкой нескольких пользователей
Для работы с примером рекомендуется:
- Клонировать репозиторий в проекте Yandex Datasphere
- Установить в проекте секреты
folder_id,api_keyдля сервисного аккаунта, имеющего права на работу с языковыми моделями и ассистентами. - Установить секрет
tg_token, если вы планируете тестировать телеграм-бота - Открыть ноутбук advanced-assistant.ipynb
- 3 апреля 2025 г., Вебинар "Создание Telegram-бота на базе LLM с RAG и Function Calling"
- 16 мая 2025 г., Доклад Введение в агенты с YandexGPT и Yandex Cloud на конференции IML 2025
Пример подготовлен Дмитрием Сошниковым, телеграм-канал "Облачный адвокат"