西見 公宏, 吉田 真吾, 大嶋 勇樹 　著

著者紹介

内容

目次

第1章 LLMアプリケーション開発の基礎 1.1 活用され始めた生成AI 1.2 Copilot vs AIエージェント 1.3 すべてはAIエージェントになる 1.4 AIエージェントの知識地図 1.5 まとめ 第2章 OpenAIのチャットAPIの基礎 2.1 OpenAIのチャットモデル ChatGPTにおける「モデル」 OpenAIのAPIで使えるチャットモデル モデルのスナップショット 2.2 OpenAIのチャットAPIの基本 Chat Completions API Chat Completions APIの料金 発生した料金の確認 COLUMN GPT-4とGPT-4 Turbo COLUMN Batch API 2.3 入出力の長さの制限や料金に影響する「トークン」 トークン Tokenizerとtiktokenの紹介 日本語のトークン数について 2.4 Chat Completions APIを試す環境の準備 Google Colabとは Google Colabのノートブック作成 OpenAIのAPIを使用するための登録 OpenAIのAPIキーの準備 2.5 Chat Completions APIのハンズオン OpenAIのライブラリ Chat Completions APIの呼び出し 会話履歴を踏まえた応答を得る ストリーミングで応答を得る 基本的なパラメータ JSONモード Vision（画像入力） COLUMN Completions API 2.6 Function calling Function callingの概要 Function callingのサンプルコード パラメータ「tool_choice」 COLUMN Function callingを応用したJSONの生成 COLUMN Structured Outputs. 2.7 まとめ. COLUMN Assistants API 第3章 プロンプトエンジニアリング 3.1 プロンプトエンジニアリングの必要性 COLUMN プロンプトエンジニアリングとファインチューニング 3.2 プロンプトエンジニアリングとは 3.3 プロンプトの構成要素の基本 題材：レシピ生成AIアプリ.. プロンプトのテンプレート化 命令と入力データの分離 文脈を与える.. 出力形式を指定する プロンプトの構成要素のまとめ 3.4 プロンプトエンジニアリングの定番の手法 Zero-shotプロンプティング Few-shotプロンプティング. COLUMN Few-shotプロンプティングのその他の形式 Zero-shot Chain of Thoughtプロンプティング 3.5 まとめ. COLUMN マルチモーダルモデルのプロンプトエンジニアリング 第4章 LangChainの基礎 4.1 LangChainの概要 なぜLangChainを学ぶのか.. LangChainの全体像 LangChainの各種コンポーネントを提供するパッケージ群 LangChainのインストール COLUMN LangChain v0.1からの安定性の方針 LangSmithのセットアップ LangChainの主要なコンポーネント 4.2 LLM/Chat model LLM Chat model ストリーミング LLMとChat modelの継承関係 LLM/Chat modelのまとめ.. 4.3 Prompt template PromptTemplate ChatPromptTemplate MessagesPlaceholder LangSmithのPrompts COLUMN マルチモーダルモデルの入力の扱い Prompt templateのまとめ 4.4 Output parser Output parserの概要 PydanticOutputParserを使ったPythonオブジェクトへの変換 StrOutputParser Output parserのまとめ 4.5 Chain―LangChain Expression Language（LCEL）の概要 LangChain Expression Language（LCEL）とは promptとmodelの連鎖 StrOutputParserを連鎖に追加 PydanticOutputParserを使う連鎖 Chainのまとめ COLUMN with_structured_output 4.6 LangChainのRAGに関するコンポーネント RAG（Retrieval-Augmented Generation）. LangChainのRAGに関するコンポーネントの概要 Document loader Document transformer Embedding model Vector store.. COLUMN 4次元以上のベクトルの距離 LCELを使ったRAGのChainの実装 LangChainのRAGに関するコンポーネントのまとめ COLUMN Indexing API 4.7 まとめ COLUMN Agent 第5章 LangChain Expression Language（LCEL）徹底解説 5.1 RunnableとRunnableSequence―LCELの最も基本的な構成要素 Runnableの実行方法―invoke・stream・batch COLUMN LCELはどのように実現されているのか LCELの「|」でさまざまなRunnableを連鎖させる LangSmithでのChainの内部動作の確認. COLUMN なぜLCELが提供されているのか.. 5.2 RunnableLambda―任意の関数をRunnableにする chainデコレーターを使ったRunnableLamdaの実装 RunnableLambdaへの自動変換 Runnableの入力の型と出力の型に注意 COLUMN 独自の関数をstreamに対応させたい場合 5.3 RunnableParallel―複数のRunnableを並列につなげる RunnableParallelの出力をRunnableの入力に連結する RunnableParallelへの自動変換 RunnableLambdaとの組み合わせ―itemgetterを使う例 5.4 RunnablePassthrough―入力をそのまま出力する assign―RunnableParallelの出力に値を追加する COLUMN astream_events 5.5 まとめ COLUMN Chat historyとMemory COLUMN LangServe 第6章 Advanced RAG 6.1 Advanced RAGの概要 6.2 ハンズオンの準備 COLUMN インデクシングの工夫 6.3 検索クエリの工夫 HyDE（Hypothetical Document Embeddings） 複数の検索クエリの生成 検索クエリの工夫のまとめ. 6.4 検索後の工夫 RAG-Fusion. リランクモデルの概要 Cohereのリランクモデルを使用する準備 Cohereのリランクモデルの導入 検索後の工夫のまとめ 6.5 複数のRetrieverを使う工夫 LLMによるルーティング ハイブリッド検索の例 ハイブリッド検索の実装 複数のRetrieverを使う工夫のまとめ COLUMN 生成後の工夫 6.6 まとめ COLUMN マルチモーダルRAG 第7章 LangSmithを使ったRAGアプリケーションの評価 7.1 第7章で取り組む評価の概要 オフライン評価とオンライン評価 7.2 LangSmithの概要.. LangSmithの料金プラン LangSmithの機能の全体像 7.3 LangSmithとRagasを使ったオフライン評価の構成例 Ragasとは この章で構築するオフライン評価の構成. 7.4 Ragasによる合成テストデータの生成 Ragasの合成テストデータ生成機能の概要 パッケージのインストール. 検索対象のドキュメントのロード Ragasによる合成テストデータ生成の実装 LangSmithのDatasetの作成 合成テストデータの保存 COLUMN 評価用のデータセットのデータ数. 7.5 LangSmithとRagasを使ったオフライン評価の実装 LangSmithのオフライン評価の概要 利用可能なEvaluator（評価器） Ragasの評価メトリクス COLUMN Ragas以外の検索の評価メトリクス カスタムEvaluatorの実装.. 推論の関数の実装 オフライン評価の実装・実行 オフライン評価の注意点 7.6 LangSmithを使ったフィードバックの収集 この節で実装するフィードバック機能の概要 フィードバックボタンを表示する関数の実装 フィードバックボタンを表示 COLUMN Online Evaluator 7.7 フィードバックの活用のための自動処理 Automation ruleによる処理 良い評価のトレースを自動でDatasetに追加する 7.8 まとめ 第8章 AIエージェントとは 8.1 AIエージェントのためのLLM活用の期待 8.2 AIエージェントの起源とLLMを使ったAIエージェントの変遷 LLMベースのAIエージェント WebGPT Chain-of-Thoughtプロンプティング LLMと外部の専門モジュールを組み合わせるMRKL Systems Reasoning and Acting（ReAct） Plan-and-Solveプロンプティング 8.3 汎用LLMエージェントのフレームワーク AutoGPT BabyAGI AutoGen crewAI crewAIのユースケース 8.4 マルチエージェント・アプローチ. マルチエージェントの定義. マルチエージェントでText-to-SQLの精度を上げる マルチエージェントでソフトウェア開発を自動化する 8.5 AIエージェントが安全に普及するために 8.6 まとめ 第9章 LangGraphで作るAIエージェント実践入門 9.1 LangGraphの概要.. LangGraphとは何か LangGraphにおけるグラフ構造アプローチ 9.2 LangGraphの主要コンポーネント ステート：グラフの状態を表現 ノード：グラフを構成する処理の単位 エッジ：ノード間の接続 コンパイル済みグラフ 9.3 ハンズオン：Q&Aアプリケーション LangChainとLangGraphのインストール. OpenAI APIキーの設定 ロールの定義 ステートの定義 Chat modelの初期化 ノードの定義 グラフの作成 ノードの追加 エッジの定義 条件付きエッジの定義 グラフのコンパイル グラフの実行 結果の表示 COLUMN グラフ構造をビジュアライズして表示する COLUMN LangSmithによるトレース結果 9.4 チェックポイント機能：ステートの永続化と再開 チェックポイントのデータ構造 ハンズオン：チェックポイントの動作を確認する 9.5 まとめ 第10 章 要件定義書生成AIエージェントの開発 10.1 要件定義書生成AIエージェントの概要 要件定義とは何か 先行研究のアプローチを参考にする LangGraphのワークフローとして設計する 10.2 環境設定 10.3 データ構造の定義 10.4 主要コンポーネントの実装 PersonaGenerator InterviewConductor InformationEvaluator RequirementsDocumentGenerator 10.5 ワークフロー構築 10.6 エージェントの実行と結果の確認 10.7 全体のソースコード 10.8 まとめ 第11章 エージェントデザインパターン 11.1 エージェントデザインパターンの概要 デザインパターンとは エージェントデザインパターンが解決する課題領域 エージェントデザインパターンの位置付け 11.2 18のエージェントデザインパターン エージェントデザインパターンの全体図.. 1. パッシブゴールクリエイター（Passive Goal Creator） 2. プロアクティブゴールクリエイター（Proactive Goal Creator） 3. プロンプト／レスポンス最適化（Prompt/Response Optimizer） 4. 検索拡張生成（Retrieval-Augmented Generation：RAG） 5. シングルパスプランジェネレーター（Single-Path Plan Generator）. 6. マルチパスプランジェネレーター（Multi-Path Plan Generator） 7. セルフリフレクション（Self-Reflection） 8. クロスリフレクション（Cross-Reflection） 9. ヒューマンリフレクション（Human-Reflection） 10. ワンショットモデルクエリ（One-Shot Model Querying） 11. インクリメンタルモデルクエリ（Incremental Model Querying） 12. 投票ベースの協調（Voting-Based Cooperation） 13. 役割ベースの協調（Role-Based Cooperation） 14. 議論ベースの協調（Debate-Based Cooperation） 15. マルチモーダルガードレール（Multimodal Guardrails） 16. ツール／エージェントレジストリ（Tool/Agent Registry） 17. エージェントアダプター（Agent Adapter） COLUMN LangChainのTool機能 18. エージェント評価器（Agent Evaluator） 11.3 まとめ 第12 章 LangChain/LangGraphで実装するエージェントデザインパターン 12.1 本章で扱うエージェントデザインパターン 12.2 環境設定 各パターンの実装コードの掲載について.. 12.3 パッシブゴールクリエイター（Passive Goal Creator） 実装内容の解説 COLUMN Settingsクラスについて 実行結果 12.4 プロンプト／レスポンス最適化（Prompt/Response Optimizer） 実装内容の解説 プロンプト最適化 レスポンス最適化 12.5 シングルパスプランジェネレーター（Single-Path Plan Generator） 実装内容の解説 COLUMN タスクの並列実行への対応方法 COLUMN LangGraphのcreate_react_agent関数の解説.. 実行結果 12.6 マルチパスプランジェネレーター（Multi-Path Plan Generator） 実装内容の解説 COLUMN 実装の発展 実行結果 12.7 セルフリフレクション（Self-Reflection） 実装内容の解説 COLUMN Faissとは 実行結果 12.8 クロスリフレクション（Cross-Reflection） 実装内容の解説 実行結果 12.9 役割ベースの協調（Role-Based Cooperation）.. 実装内容の解説 実行結果 12.10 まとめ 付録 各種サービスのサインアップと第12章の各パターンの実装コード A.1 各種サービスのサインアップ LangSmithのサインアップ Cohereのサインアップ Anthropicのサインアップ.. A.2 第12章の各パターンの実装コード 1. パッシブゴールクリエイター（Passive Goal Creator） 2. プロンプト／レスポンス最適化（Prompt/Response Optimizer） 3. シングルパスプランジェネレーター（Single-Path Plan Generator）. 4. マルチパスプランジェネレーター（Multi-Path Plan Generator） 5. セルフリフレクション（Self-Reflection） 6. クロスリフレクション（Cross-Reflection） 7. 役割ベースの協調（Role-Based Cooperation）