MeerBot

Проблема

Бизнесу нужны AI-чатботы, которые отвечают по собственной базе знаний, а не дают общие ответы GPT, и которые менеджер может перехватить без смены инструментов. Существующие решения либо дорогие (enterprise), либо ограниченные (простые обёртки без базы знаний и передачи на человека), либо требуют команды инженеров для запуска. Не было доступной платформы, в которой одновременно есть веб-кабинет, Telegram-бот, виджет на сайт, мультиканальный инбокс и мультимодельный AI.

Решение

Построил платформу из двух частей: AI Core (self-hosted LLM-движок с OpenAI-совместимым API) и Platform (SaaS-кабинет + Telegram-бот + виджет на сайт). Стек: Next.js 16 + TypeScript, Prisma/PostgreSQL, pgvector для эмбеддингов 1536d с cosine similarity, Grammy для Telegram с Redis-сессиями, LiteLLM-прокси перед GPT-4o / Claude / Gemini. Пайплайн базы знаний: загрузка PDF / DOCX / URL, structure-aware DOM walker, семантический chunker, эмбеддинги через text-embedding-3-small, top-K извлечение под запрос. Инструменты менеджера: мультиканальный инбокс (Telegram + сайт в одном окне), Discord-style ответы и редактирование сообщений, быстрые ответы с медиа-вложениями, профиль клиента с устройствами/подписками/платежами, заметки менеджера, прокидываемые в контекст AI, авто-эскалация на человека при сбое LLM. AI Copilot 2.0 в 3 моделях (быстрая / стандартная / мощная) с per-conversation persistence и ежедневным дайджестом в Telegram. Auto-Improver: AI предлагает улучшения инструкций по реальным диалогам. Problem Analytics с LLM-инсайтами. Публичный API gateway v2 с vision, Bearer auth, OAuth, rate-limiting, AES-256-GCM шифрованием и SSRF-валидатором. YooKassa + 54-ФЗ чеки, потокенный биллинг с наценкой 1.4x, hard cap и выгрузка использования в CSV.

Результаты

• +В продакшене, 2 платящих клиента (e-commerce, поддержка)
• +Мультиканальный инбокс: Telegram + виджет на сайте в одном окне для менеджеров
• +Публичный OpenAI-совместимый API (v1) с Bearer/OAuth и vision
• +Мультимодельный AI: GPT-4o, Claude, Gemini через LiteLLM
• +RAG-пайплайн: от загрузки документа до векторного поиска за секунды
• +AI Copilot в кабинете: 3 модели, ежедневный дайджест в Telegram, память на диалог
• +Авто-эскалация на менеджера при сбое LLM
• +Безопасность: JWT allowlist, HMAC, CSP, AES-256-GCM, SSRF-валидатор

Роль и сроки

Сооснователь и разработчик. Начал с бесплатного демо-бота для проверки идеи. Строю AI Core, Platform, Telegram-бот, виджет на сайт и публичный API вместе с партнёром