
Faqatgina tezkor tuzatishlar endi korxona uchun uni qisqartirmaydi AI tizimlari. Model kontekstli Windows 200 ming tokendan oshib ketganligi sababli, muhandislar endi LLMni hujjatlar, qidiruv quvurlari, skretch-padlar va asboblar qo'ng'iroqlari bilan o'rab olishadi - bu markali yondashuv. kontekst muhandisligi.
O'zgarish tez sodir bo'ldi.
Kontekst muhandisligi bu bo'shliqni to'liq davolash orqali bartaraf qiladi AI atrof-muhit alohida kirishlarga e'tibor qaratishdan ko'ra tizim sifatida.
Kontekst muhandisligi:
Haqiqatan ham ishlaydigan tizim
Kontekst muhandisligi LLM chaqiruvidan oldin butun quvur liniyasini muhandislik infratuzilmasi sifatida ko'rib chiqadi. LLM haqida o'ylab ko'ring's RAM sifatida kontekst oynasi - u modelning nima ishlashini aniqlaydigan cheklangan ishchi xotiraga ega.

Operatsion tizim operativ xotiraga kiradigan narsalarni sinchkovlik bilan boshqarganidek, kontekst muhandisligi LLMni qanday ma'lumotlar bilan to'ldirishini nazorat qiladi's kontekst oynasi.
shu yerda's Kontekst muhandisligi aslida nimani o'z ichiga oladi:
Kontekst muhandisligi va tezkor muhandislik:
Raqamlar yolg'on gapirmaydi
| Aspect | Tez muhandislik | Kontekst muhandisligi |
|---|---|---|
| Zilzila markazi | Bitta kirish qatorini yaratish | Model atrofidagi har bir signalni tartibga solish |
| Oʻrtacha ishlab chiqish vaqti | 70% tezkor tuzatishlar | 60% maʼlumotlar uzatish quvurlari, 20% xotira qoidalari, 20% takliflar |
| Oddiy muvaffaqiyatsizlik rejimi | Ma'lumotlar siljishidan keyin chiqish sifatining keskin pasayishi | RAG, xotira, asbob chaqiruvlari orqali chidamli |
Tez misol: A. mijozlarni qo'llab-quvvatlash boti faqat ko'rsatmalar bilan o'qitilgan to'g'ridan-to'g'ri so'ralganda qaytarish siyosatini esga olishi mumkin. Foydalanuvchi "buyurtma 45791" ga murojaat qilganda, u bajarilmaydi. Buyurtmalar bazasiga kontekst muhandisligini qo'shing - suhbatlar tarixi va RAG so'rovi - va bot darhol xarid ma'lumotlarini tortib oladi va to'g'ri qaytarish jarayonini tavsiya qiladi.
Haqiqatan ham muhim bo'lgan kontekst muhandisligining to'rtta ustuni
1. Yozish konteksti (sizning AI's Eslatma tizimi)
Kontekstni yozish ma'lumotni tashqarida saqlashni anglatadi kontekst oynasi kelajakda foydalanish uchun. Bu muhim ma'lumotlarga kirishni saqlab, qimmatli token maydonini saqlaydi.
Scratchpadlar bir seans ichida agentlar uchun eslatma olish kabi ishlang. Antropik's Ko'p agentli tadqiqotchi o'zining dastlabki rejasini "xotira” chunki kontekst 200 000 tokendan oshsa, u qisqartiriladi va reja yo'qoladi.

Uzoq muddatli xotiralar bir nechta seanslarda ma'lumotlarni saqlash. Masalan, ChatGPT suhbatlardan foydalanuvchi imtiyozlarini avtomatik yaratish va kursor/Windsurf oʻrganish kodlash naqshlari va loyiha konteksti.

2. Kontekst tanlash (Muhim narsani tanlash san'ati)
Kontekstni tanlash faqat topshiriq uchun tegishli ma'lumotlarni olib keladi.
Qachonki AI fitness murabbiyi mashg'ulot rejasini yaratadi, u foydalanuvchini o'z ichiga olgan kontekst tafsilotlarini tanlashi kerak's bo'yi, vazni va faollik darajasi, ahamiyatsiz ma'lumotlarga e'tibor bermaslik.
Asosiy tushuncha: Qo'shimcha ma'lumot har doim ham yaxshi emas. Samarali kontekst muhandisligi har bir aniq vazifa uchun to'g'ri kombinatsiyani tanlashni anglatadi.
3. Kontekstni siqish (Kamroqqa ko'proq moslash)
Suhbatlar shunchalik uzoq davom etganda, ular oshib ketadi LLM's xotira oynada kontekstni siqish muhim bo'ladi. Agentlar buni odatda suhbatning oldingi qismlarini umumlashtirish orqali amalga oshiradilar.

4. Kontekstni izolyatsiya qilish (bo‘l va zabt et)

Kontekstni izolyatsiyalash agentlar murakkab vazifalarni yaxshiroq hal qilishlari uchun ma'lumotni alohida qismlarga ajratishni anglatadi. Ishlab chiquvchilar barcha bilimlarni bitta katta taklifga to'plash o'rniga, kontekstni ixtisoslashgan sub-agentlar yoki o'rtasida taqsimlaydilar. qum muhitlari.
Haqiqiy dunyo kontekst muhandisligi amalda
Mijozlarga xizmat ko'rsatish inqilobi
| Kontekst muhandisligidan oldin | Kontekst muhandisligidan keyin |
|---|---|
| Oldingi suhbatlarni unutadigan va ahamiyatsiz javoblarni beruvchi umumiy chatbotlar. | AI xaridlaringiz tarixini eslab turuvchi, real vaqt rejimidagi inventar maʼlumotlariga kira oladigan va kerak boʻlganda inson agentlari bilan muvofiqlashtiruvchi agentlar. |
Hech qachon unutmaydigan kodlash yordamchisi
Tizim: “Ushbu autentifikatsiya xatosini qanday tuzataman?” deb so‘raganingizda. kontekst muhandislik tizimi avtomatik ravishda:

Umumiy kodlash bo'yicha maslahatlar o'rniga siz haqiqiy kod bazangizga moslashtirilgan maxsus echimlarni olasiz.
Kontekst muhandisligini quvvatlaydigan texnik arxitektura
Dinamik kontekst assambleyasi
Kontekst tezda qurilgan bo'lib, suhbatlar davomida rivojlanadi. Bunga quyidagilar kiradi:
- Tegishli hujjatlarni olish
- Xotirani saqlash
- Foydalanuvchi holati yangilanmoqda
- API qo'ng'iroqlari va ma'lumotlar bazasi so'rovlari
Kontekst oynasini boshqarish
Ruxsat etilgan o'lcham bilan token chegaralari (32K, 100K, 1M), muhandislar ma'lumotni oqilona siqib chiqarishlari va birinchi o'ringa qo'yishlari kerak:
- Skorlash funktsiyalari (TF-IDF, o'rnatish, diqqat evristikasi)
- Xulosa va aniqlikni ajratib olish
- Bog'lanish strategiyalari va bir-biriga mos keladigan sozlash

Xavfsizlik va izchillik
In'ektsiyani tezkor aniqlash kabi printsiplarni qo'llang, kontekstni tozalash, PII redaktsiyasi, va rolga asoslangan kontekstga kirishni boshqarish.
Birinchi kontekst muhandislik tizimingizni yaratish
Kontekstli muhandislik ish oqimini yaratish shunchaki nazariya emas, balki's ishga tushirilishi va hatto avtomatlashtirilishi mumkin bo'lgan takrorlanadigan jarayon. Buni amalda qanday qo'llashingiz mumkin:
1 qadam: Kontekst manbalaringizni xaritaga kiriting
Agentingiz ma'lumotni qayerdan olishi kerakligini aniqlang (hujjatlar, ma'lumotlar bazalari, API'lar, oldingi chatlar va boshqalar).
python
# Example: Fetching relevant documents using embeddings
from sentence_transformers import SentenceTransformer, util
model = SentenceTransformer("all-MiniLM-L6-v2")
query = "project status update"
corpus = ["spec doc", "requirements", "last week's meeting notes"]
query_embedding = model.encode(query, convert_to_tensor=True)
corpus_embeddings = model.encode(corpus, convert_to_tensor=True)
hits = util.semantic_search(query_embedding, corpus_embeddings, top_k=2)[0]
relevant_docs = [corpus[hit['corpus_id']] for hit in hits]
2 qadam: Xotira va yozish kontekstini amalga oshirish
Muhim ma'lumotlarni saqlang, shunda ular kelajakdagi vazifalar uchun doimo mavjud.
python
import json
def save_to_memory(memory_path, user_id, data):
with open(memory_path, "r+") as file:
memory = json.load(file)
memory[user_id] = data
file.seek(0)
json.dump(memory, file)
file.truncate()
3 qadam: Kontekstni tanlash va siqish mantiqini yaratish
Faqat vazifa uchun eng mos keladiganini tanlaydigan qoidalar yoki modellarni ishlab chiqing. Uzoq tarixlarni umumlashtirilgan shakllarga siqib chiqaring.
python
def summarize_conversation(history):
# Placeholder for use with an LLM summarizer or custom rules
return history[-5:] # Only the last 5 messages
4 qadam: Agentni muvofiqlashtirish uchun kontekstlarni ajratib oling
Ma'lumotni har bir agent yoki komponent faqat o'zi kerak bo'lgan narsani bajarishi uchun ajrating.
python
user_profile_ctx = {"user_goals": "..."}
task_specific_ctx = {"current_task": "..."}
external_data_ctx = {"live_data": "..."}
full_context = {**user_profile_ctx, **task_specific_ctx, **external_data_ctx}
5 qadam: Chiqish tuzilishi va API tayyorligi
Chiqish kontekstini doimiy ravishda shunday formatlang's quyi oqim LLM qo'ng'iroqlari yoki API so'nggi nuqtalari uchun oldindan aytish mumkin.
python
schema = {
"user": {"age": 35, "goal": "muscle gain"},
"plan": "high protein, 3x/week weight training"
}
6 qadam: Monitor, takrorlash va xavfsiz
Muvaffaqiyatsizliklarni kuzatib boring, kontekst sifatini tekshirib ko'ring va kontekstni kiritish, xotira va qidirish uchun mantiqni yaxshilang. Tezkor kiritish va ma'lumotlar sizib ketishining oldini olish uchun har doim kirishlarni tozalang.
Nima uchun kontekst muhandisligi tezkor muhandislikdan ko'ra ko'proq pul to'laydi
Kompaniyalar AI uchun to'g'ri kontekstni ta'minlaydigan, ma'lumotni aniq va dolzarb tutadigan tizimlarni qura oladigan va xavfsizlik ko'rsatmalarini qo'shish orqali foydalanuvchilarni himoya qila oladigan muhandislarga muhtoj.
Bozor haqiqati: Kontekst muhandisligi biznesdan foydalanish holatlarini tushunish, natijalarni aniqlash va ma'lumotni tizimlashtirishni o'z ichiga olgan o'zaro faoliyat ko'nikmalarni talab qiladi, shuning uchun LLMlar murakkab vazifalarni bajarishi mumkin.
Pastki qator: Har kim ko'rsatmalar yozishi mumkin. Kontekstni eslab qoladigan, moslashtiradigan va keng miqyosda tanlaydigan kontekstdan xabardor agentlarni yaratasizmi? Shunday qilib, ishlab chiquvchilar o'zlarining qobiliyatlarini kelajakda isbotlaydilar va ilg'or LLM ilovalari bilan haqiqiy qiymatni taqdim etadilar.


