情境工程扼杀了即时工程——原因如下

构建您的第一个上下文工程系统

构建上下文工程工作流程不仅仅是理论——它's 这是一个可重复、可操作甚至可自动化的流程。以下是如何将其付诸实践：

第三步： 绘制上下文来源

确定您的代理需要从哪里提取信息（文档、数据库、API、以前的聊天等）。

蟒蛇

# Example: Fetching relevant documents using embeddings
from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")
query = "project status update"
corpus = ["spec doc", "requirements", "last week's meeting notes"]

query_embedding = model.encode(query, convert_to_tensor=True)
corpus_embeddings = model.encode(corpus, convert_to_tensor=True)
hits = util.semantic_search(query_embedding, corpus_embeddings, top_k=2)[0]
relevant_docs = [corpus[hit['corpus_id']] for hit in hits]

第三步： 实现记忆和写作语境

存储重要信息，以便在将来的任务中随时可用。

蟒蛇

import json

def save_to_memory(memory_path, user_id, data):
    with open(memory_path, "r+") as file:
        memory = json.load(file)
        memory[user_id] = data
        file.seek(0)
        json.dump(memory, file)
        file.truncate()

第三步： 构建上下文选择和压缩逻辑

制定规则或模型，只挑选与任务最相关的内容。将冗长的历史记录压缩成摘要形式。

蟒蛇

def summarize_conversation(history):
    # Placeholder for use with an LLM summarizer or custom rules
    return history[-5:]  # Only the last 5 messages

第三步： 隔离上下文以协调代理

分割信息，以便每个代理或组件只处理其应该处理的信息。

蟒蛇

user_profile_ctx = {"user_goals": "..."}
task_specific_ctx = {"current_task": "..."}
external_data_ctx = {"live_data": "..."}
full_context = {**user_profile_ctx, **task_specific_ctx, **external_data_ctx}

第三步： 输出结构和 API 准备

格式化输出上下文，使其's 对于下游 LLM 调用或 API 端点而言是可预测的。

蟒蛇

schema = {
    "user": {"age": 35, "goal": "muscle gain"},
    "plan": "high protein, 3x/week weight training"
}

第三步： 监控、迭代和安全

跟踪故障，审核上下文质量，并改进上下文包含、内存和检索的逻辑。始终对输入进行清理，以避免提示注入和数据泄露。