Контекстная инженерия убивает оперативную инженерию — вот почему

Создание вашей первой системы контекстной инженерии

Создание рабочего процесса контекстной инженерии — это не просто теория.'s повторяемый процесс, который можно операционализировать и даже автоматизировать. Вот как это можно реализовать на практике:

Шаг 1: Составьте карту своих контекстных источников

Определите, откуда вашему агенту необходимо извлекать информацию (документы, базы данных, API, предыдущие чаты и т. д.).

питон

# Example: Fetching relevant documents using embeddings
from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")
query = "project status update"
corpus = ["spec doc", "requirements", "last week's meeting notes"]

query_embedding = model.encode(query, convert_to_tensor=True)
corpus_embeddings = model.encode(corpus, convert_to_tensor=True)
hits = util.semantic_search(query_embedding, corpus_embeddings, top_k=2)[0]
relevant_docs = [corpus[hit['corpus_id']] for hit in hits]

Шаг 2: Реализовать память и контекст письма

Сохраняйте важную информацию, чтобы она всегда была под рукой для будущих задач.

питон

import json

def save_to_memory(memory_path, user_id, data):
    with open(memory_path, "r+") as file:
        memory = json.load(file)
        memory[user_id] = data
        file.seek(0)
        json.dump(memory, file)
        file.truncate()

Шаг 3: Логика выбора контекста и сжатия сборки

Разрабатывайте правила или модели, которые выбирают только то, что наиболее актуально для задачи. Сжимайте длинные истории в краткие формы.

питон

def summarize_conversation(history):
    # Placeholder for use with an LLM summarizer or custom rules
    return history[-5:]  # Only the last 5 messages

Шаг 4: Изолируйте контексты для координации агентов

Разделите информацию, чтобы каждый агент или компонент обрабатывал только то, что ему следует.

питон

user_profile_ctx = {"user_goals": "..."}
task_specific_ctx = {"current_task": "..."}
external_data_ctx = {"live_data": "..."}
full_context = {**user_profile_ctx, **task_specific_ctx, **external_data_ctx}

Шаг 5: Структурирование выходных данных и готовность API

Форматируйте выходной контекст последовательно, чтобы он's предсказуемо для нисходящих вызовов LLM или конечных точек API.

питон

schema = {
    "user": {"age": 35, "goal": "muscle gain"},
    "plan": "high protein, 3x/week weight training"
}

Шаг 6: Мониторинг, итерация и обеспечение безопасности

Отслеживайте сбои, проверяйте качество контекста и улучшайте логику включения, запоминания и извлечения контекста. Всегда проверяйте входные данные, чтобы избежать немедленного ввода и утечек данных.