LlamaResearcher: ИИ-ассистент для исследований на базе Llama 4, превращающий темы в готовые статьи 131

Что такое LlamaResearcher?

LlamaResearcher — это исследовательский ассистент, построенный на базе модели Llama 4, способный быстро преобразовывать введённую пользователем тему в полноценную статью. Он подходит для академических исследований, написания отчётов, создания контента и многих других сценариев.

Функциональные возможности LlamaResearcher

1. Быстрая генерация статей

• Ключевая функция: способность быстро преобразовывать введённую пользователем тему в полноценную структурированную статью, экономя время на исследования и написание.

2. Механизм проверки безопасности

• Оценка безопасности: использование модели llama-3-8b-guard, предоставленной Groq, для проверки безопасности запросов, вводимых пользователем, обеспечивая соответствие содержимого стандартам безопасности.

• Контроль рисков: предотвращение обработки запросов, которые могут содержать неприемлемый контент, гарантируя безопасность и соответствие системы требованиям.

3. Интеллектуальное расширение запросов

• Многомерный поиск: расширение одного пользовательского запроса до трёх подзапросов для глубокого изучения темы с разных точек зрения.

• Глубокий поиск информации: выполнение глубокого веб-поиска по каждому подзапросу с помощью LinkUp для получения более полных и разнообразных информационных ресурсов.

4. Фильтрация и оценка информации

• Оценка релевантности: фильтрация большого объёма полученной информации для обеспечения высокого соответствия возвращаемого контента исходному запросу пользователя.

• Контроль качества: фильтрация нерелевантной или низкокачественной информации с помощью механизма оценки, гарантируя точность и надёжность итогового содержимого статьи.

5. Мощная поддержка технологического стека

• Groq: используется для проверки безопасности и логического вывода модели.

• LinkUp: используется для глубокого веб-поиска.

• Llamaindex: используется для поиска информации и генерации.

• Gradio: предоставляет удобный пользовательский интерфейс.

• FastAPI: обеспечивает создание эффективного серверного сервиса.

• Redis: используется для ограничения скорости API, обеспечивая стабильную работу системы.

Рабочий процесс LlamaResearcher

• Проверка безопасности: использование модели llama-3-8b-guard, предоставленной Groq, для оценки безопасности пользовательских запросов.

• Распределение задач: если запрос безопасен, он направляется в ResearcherAgent.

• Расширение запроса: ResearcherAgent расширяет запрос до трёх подзапросов для веб-поиска.

• Поиск и фильтрация информации: использование LinkUp для глубокого веб-поиска по каждому подзапросу и оценка релевантности полученной информации исходному запросу пользователя.

• Генерация статьи: после сбора всей информации ResearcherAgent составляет итоговую статью и возвращает её пользователю.

Установка и запуск LlamaResearcher

1. Клонирование репозитория:

git clone https://github.com/AstraBert/llama-4-researcher.git
cd llama-4-researcher

2. Настройка переменных окружения:

• Переименуйте файл .env.example в .env и добавьте следующие API-ключи:

• groq_api_key: получите в Groq Console.

• linkup_api_key: получите в Linkup Dashboard.

• internal_api_key: создайте самостоятельно.

• Или запустите вручную:

docker compose up -f compose.local.yaml llama_redis -d
docker compose up -f compose.local.yaml llama_app -d

3. Приложение будет работать по адресу http://localhost:8000.

Адрес на Github: https://github.com/AstraBert/llama-4-researcher