วิศวกรรมบริบททำลายวิศวกรรมเชิงพรอมต์ — นี่คือสาเหตุ

การสร้างระบบวิศวกรรมบริบทแรกของคุณ

การสร้างเวิร์กโฟลว์ทางวิศวกรรมบริบทไม่ใช่แค่ทฤษฎีเท่านั้น's กระบวนการที่ทำซ้ำได้ ซึ่งสามารถนำไปปฏิบัติจริงหรือแม้กระทั่งแบบอัตโนมัติได้ นี่คือวิธีที่คุณสามารถนำไปปฏิบัติได้:

ขั้นตอนที่ 1: จัดทำแผนที่แหล่งที่มาของบริบทของคุณ

ระบุว่าตัวแทนของคุณต้องดึงข้อมูลจากที่ใด (เอกสาร ฐานข้อมูล API แชทก่อนหน้า ฯลฯ)

หลาม

# Example: Fetching relevant documents using embeddings
from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")
query = "project status update"
corpus = ["spec doc", "requirements", "last week's meeting notes"]

query_embedding = model.encode(query, convert_to_tensor=True)
corpus_embeddings = model.encode(corpus, convert_to_tensor=True)
hits = util.semantic_search(query_embedding, corpus_embeddings, top_k=2)[0]
relevant_docs = [corpus[hit['corpus_id']] for hit in hits]

ขั้นตอนที่ 2: การนำหน่วยความจำและบริบทการเขียนไปใช้

จัดเก็บข้อมูลที่สำคัญเพื่อให้พร้อมใช้งานเสมอสำหรับงานในอนาคต

หลาม

import json

def save_to_memory(memory_path, user_id, data):
    with open(memory_path, "r+") as file:
        memory = json.load(file)
        memory[user_id] = data
        file.seek(0)
        json.dump(memory, file)
        file.truncate()

ขั้นตอนที่ 3: สร้างการเลือกบริบทและตรรกะการบีบอัด

พัฒนากฎหรือแบบจำลองที่เลือกเฉพาะสิ่งที่เกี่ยวข้องกับงานมากที่สุด ย่อประวัติที่ยาวเหยียดให้อยู่ในรูปแบบสรุป

หลาม

def summarize_conversation(history):
    # Placeholder for use with an LLM summarizer or custom rules
    return history[-5:]  # Only the last 5 messages

ขั้นตอนที่ 4: แยกบริบทสำหรับการประสานงานตัวแทน

แบ่งข้อมูลออกเพื่อให้แต่ละตัวแทนหรือส่วนประกอบจัดการเฉพาะสิ่งที่ควรจัดการเท่านั้น

หลาม

user_profile_ctx = {"user_goals": "..."}
task_specific_ctx = {"current_task": "..."}
external_data_ctx = {"live_data": "..."}
full_context = {**user_profile_ctx, **task_specific_ctx, **external_data_ctx}

ขั้นตอนที่ 5: การจัดโครงสร้างเอาต์พุตและความพร้อมของ API

จัดรูปแบบบริบทเอาท์พุตให้สอดคล้องกันเพื่อให้'s คาดเดาได้สำหรับการเรียก LLM ดาวน์สตรีมหรือจุดสิ้นสุด API

หลาม

schema = {
    "user": {"age": 35, "goal": "muscle gain"},
    "plan": "high protein, 3x/week weight training"
}

ขั้นตอนที่ 6: ตรวจสอบ ทำซ้ำ และรักษาความปลอดภัย

ติดตามความล้มเหลว ตรวจสอบคุณภาพบริบท และปรับปรุงตรรกะสำหรับการรวมบริบท หน่วยความจำ และการดึงข้อมูล หมั่นทำความสะอาดอินพุตอยู่เสมอเพื่อหลีกเลี่ยงการแทรกข้อมูลทันทีและการรั่วไหลของข้อมูล