Kontekstudvikling dræber prompt engineering – her er hvorfor

Byg dit første konteksttekniske system

At opbygge en kontekstudviklingsworkflow er ikke bare teori – det's en gentagelig proces, der kan operationaliseres og endda automatiseres. Sådan kan du omsætte den til praksis:

Trin 1: Kortlæg dine kontekstkilder

Identificér, hvor din agent skal hente oplysninger fra (dokumenter, databaser, API'er, tidligere chats osv.).

python

# Example: Fetching relevant documents using embeddings
from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")
query = "project status update"
corpus = ["spec doc", "requirements", "last week's meeting notes"]

query_embedding = model.encode(query, convert_to_tensor=True)
corpus_embeddings = model.encode(corpus, convert_to_tensor=True)
hits = util.semantic_search(query_embedding, corpus_embeddings, top_k=2)[0]
relevant_docs = [corpus[hit['corpus_id']] for hit in hits]

Trin 2: Implementer hukommelse og skrivekontekst

Gem vigtige oplysninger, så de altid er der til fremtidige opgaver.

python

import json

def save_to_memory(memory_path, user_id, data):
    with open(memory_path, "r+") as file:
        memory = json.load(file)
        memory[user_id] = data
        file.seek(0)
        json.dump(memory, file)
        file.truncate()

Trin 3: Byg kontekstvalg og komprimeringslogik

Udvikl regler eller modeller, der kun udvælger det, der er mest relevant for opgaven. Komprimer lange historikker til opsummerede former.

python

def summarize_conversation(history):
    # Placeholder for use with an LLM summarizer or custom rules
    return history[-5:]  # Only the last 5 messages

Trin 4: Isoler kontekster for agentkoordinering

Opdel information, så hver agent eller komponent kun håndterer det, den skal.

python

user_profile_ctx = {"user_goals": "..."}
task_specific_ctx = {"current_task": "..."}
external_data_ctx = {"live_data": "..."}
full_context = {**user_profile_ctx, **task_specific_ctx, **external_data_ctx}

Trin 5: Outputstrukturering og API-parathed

Formatér outputkonteksten ensartet, så den's forudsigelige for downstream LLM-kald eller API-slutpunkter.

python

schema = {
    "user": {"age": 35, "goal": "muscle gain"},
    "plan": "high protein, 3x/week weight training"
}

Trin 6: Overvåg, iterér og sikr

Spor fejl, revider kontekstkvaliteten, og forbedr logikken for kontekstinkludering, hukommelse og hentning. Rengør altid input for at undgå hurtig indsprøjtning og datalækager.