Tool Calling в LLM

• Tool schema: name, description, JSON Schema для args
• LLM возвращает structured output { "tool": "name", "args": {...} }
• Client executes tool → returns result to LLM
• Parallel tool calls: LLM может invoke multiple tools одновременно (OpenAI 2023+)
• Model Context Protocol (MCP) — Anthropic's 2024 spec для tools standardization

# OpenAI tool calling
tools = [{
  'type': 'function',
  'function': {
    'name': 'get_weather',
    'description': 'Get current weather',
    'parameters': {
      'type': 'object',
      'properties': {'location': {'type': 'string'}},
      'required': ['location']
    }
  }
}]

response = openai.chat.completions.create(
  model='gpt-5',
  messages=[{'role':'user','content':'Weather в Moscow?'}],
  tools=tools
)
# response.choices[0].message.tool_calls → [{name, arguments}]

• AI Agent
• LLM
• Prompt Injection

Tool Calling (или Function Calling) в LLM (Large Language Models) — это механизм, позволяющий моделям вызывать внешние функции или инструменты для выполнения специфических задач. Это расширяет возможности LLM, позволяя им взаимодействовать с API, выполнять вычисления или обрабатывать данные вне контекста текстового ввода. Например, при помощи Tool Calling модель может отправить запрос на получение данных о погоде через API, что делает её более полезной и интерактивной.

Tool Calling в LLM реализуется через специальный интерфейс, который позволяет модели формулировать запросы к внешним функциям. Процесс включает несколько этапов:

1. Определение функции: Модель должна знать, какие функции доступны для вызова. Это может быть реализовано через специальный словарь функций или API.
2. Формирование запроса: После выбора функции модель генерирует запрос с необходимыми параметрами. Например, для вызова функции, возвращающей информацию о погоде, нужно указать местоположение.
3. Выполнение функции: Запрос отправляется на выполнение, и результат возвращается в модель.
4. Обработка результата: Модель получает данные и может использовать их для генерации ответа или выполнения дальнейших действий.

Для примера, если у вас есть API для получения информации о курсах валют, вы можете использовать Tool Calling для получения актуальных значений. Команда для вызова может выглядеть так:

GET /api/currency?base=USD

При этом LLM формирует запрос на основе текстового ввода пользователя, что делает взаимодействие более естественным.

Tool Calling может быть использован в различных сценариях, включая обработку данных, взаимодействие с пользователями и автоматизацию задач. Рассмотрим несколько примеров:

• Чат-боты: Модели могут вызывать функции для обработки запросов пользователей, например, проверки наличия товара на складе или получения информации о доставке.
• Интеграция с сервисами: Модели могут взаимодействовать с внешними API, чтобы предоставлять пользователям актуальную информацию, например, о погоде или новостях.
• Автоматизация процессов: LLM могут вызывать функции для выполнения рутинных задач, таких как отправка электронной почты или обновление баз данных.

Для интеграции Tool Calling в вашу систему необходимо настроить окружение и API. Пример конфигурации для Python может выглядеть следующим образом:

import requests

def get_weather(city):
    response = requests.get(f'http://api.weatherapi.com/v1/current.json?key=YOUR_API_KEY&q={city}')
    return response.json()

Здесь мы создаем функцию, которая отправляет запрос к API погоды, используя переданный город. Это пример того, как Tool Calling может быть реализован для получения данных в реальном времени.