応答ストリーミングやプロンプト キャッシュなど、AI アプリケーションのパフォーマンスとコストを最適化するための一般的な手法については、これまで何度も説明してきました。今日は、実際の AI アプリを構築する上で、これとは異なるものの同様に重要なことについて話したいと思います。彼は、 構造化された機械可読出力。 これまで共有した例のほとんどでは、AI モデルからの自由テキストの応答を扱っています。ユーザーが質問すると、モデルは自然言語で応答し、その応答を何らかの方法でユーザーに表示します。まったくシンプルで簡単です。しかし、後でプログラムで処理できるように、モデルが特定の形式 (JSON オブジェクトなど) でデータを返す必要がある場合はどうなるでしょうか?テキストや画像から特定のフィールドを抽出したり、データベース エントリにデータを入力したり、その応答に基づいて後続のアクションをトリガーしたりするためのモデルが必要な場合はどうすればよいでしょうか?そのような場合、壁のようなテキストを取り戻すのはあまり便利ではありません。 🤔 幸いなことに、この問題には多くの解決策があります。 LLM から構造化された機械可読出力を取得するには、主に 2 つのアプローチがあります。 JSONモード そして…
Read More



