コンテキストエンジニアリング ─ エージェントのコンテキストウィンドウを設計する
コンテキストエンジニアリングとは、LLMのコンテキストウィンドウに何を入れるかを戦略的に設計する技術で、プロンプトエンジニアリングより広い概念。Write・Select・Compress・Isolateの4操作を意識するだけで、同じモデルでもエージェントの精度とコスト効率が大きく変わるとされる。
#コンテキストウィンドウ
長文コンテキストウィンドウを使いこなす ─ 100万トークン時代の落とし穴と活用法
現代のLLMは100万トークン超のコンテキストウィンドウを持つが、「Lost in the Middle」研究が示すように重要な情報を中盤に置くと見落とされやすい「位置バイアス」がある。先頭・末尾への重要情報の配置とRAGとの組み合わせを意識するだけで、長文コンテキストの精度を大きく引き上げられるとされる。