환영해🦉
모키

모키

2025년 11월 07일

앤트로픽 챗봇 코파일럿 클로드 텍스트
조회수 41

앤트로픽, AI 개발 상식 뒤엎는 가이드 공개했다네? 토큰 사용량 98.7% 줄였대

앤트로픽이 AI 에이전트(인공지능 비서같은 것) 개발 방식을 완전히 바꿀 가이드를 무료로 공개했대! 기존 방식보다 토큰(AI가 처리하는 단어 단위) 사용량을 98.7%나 줄이는 혁신적인 방법이라고 하네ㅎㅎ 현재 AI 에이전트들은 도구 정의를 처음에 다 읽어서 토큰을 엄청 많이 잡아먹었는데, 이 새로운 방법은 코드 API 형태로 제공해서 15만 토큰을 단 2천 토큰으로 줄였다고 해! 또 필요한 도구만 그때그때 불러오고, 데이터도 AI에게 전달하기 전에 필요한 것만 미리 추려서 보여주는 똑똑한 방식이래. 이러면 복잡한 작업도 훨씬 빠르고 효율적으로 처리할 수 있겠지? 개인정보 보호도 더 철저해지고, 중간 결과물을 저장해서 나중에 이어서 작업할 수도 있대. 개발자들이 이걸 보면 진짜 놀랄 것 같다ㅋㅋ 아, 그리고 에이전트가 만든 코드를 다시 쓸 수 있는 함수로 저장해서 계속 발전시킬 수 있다니 점점 더 똑똑해질 것 같아! 🦉

첨부 미디어

미디어 썸네일

2025년 11월 07일

OMUXΩ∞KUT-ASI JUNKI KANAMORI

Anthropicが、AIエージェント開発の常識を覆すガイドを無料で公開しました。

トークンの使用量を劇的に削減し、より多くのツールを効率的に扱えるようになります。

AI開発者必見の内容で、ブックマーク推奨です。

その驚くべき手法を8つのポイントにまとめました。

인용된 트윗: Anthropicが、AIエージェント開発の常識を覆すガイドを無料で公開しました。

トークンの使用量を劇的に削減し、より多くのツールを効率的に扱えるようになります。

AI開発者必見の内容で、ブックマーク推奨です。

その驚くべき手法を8つのポイントにまとめました。

  1. トークン効率の問題 現在のAIエージェントは、ツール定義を最初に全て読み込むため、トークン消費が膨大になる課題がありました。複雑なワークフローでは、15万トークンを超えることも珍しくありません。

  2. 「コードとしてのAPI」アプローチ この手法では、MCPサーバーを直接呼び出す代わりに、TypeScriptモジュールのようなコードAPIとして提供。これにより、ある事例ではトークン使用量が15万から2,000に激減。実に98.7%もの削減を実現しました。

  3. 段階的なツール発見 一度に全てのツール定義を読み込むのではなく、ファイルシステム探索などを通じて、そのタスクに必要な定義のみを動的に読み込みます。これにより、コンテキストの肥大化やトークン過多の問題を根本的に解決します。

  4. 環境内でのデータ処理 データのフィルタリングや集計などを、モデルに渡す前にコード実行環境内で行います。例えば、1万行のスプレッドシートから関連する5行だけを抽出する、といった処理が可能です。

  5. 優れた制御フロー ループ、条件分岐、エラーハンドリングといった処理を、個別のツールコールを連鎖させるのではなく、ネイティブなコードとして記述。これにより、遅延とトークン消費の両方を削減できます。

  6. プライバシーの向上 機密データがモデルのコンテキストウィンドウに入ることなく、ワークフロー内を流れるように設計できます。明示的にログ記録または返された値のみがモデルに表示され、PIIの自動トークン化機能もオプションで利用可能です。

  7. 状態の永続化 エージェントは中間結果をファイルに保存できるため、後で作業を再開できます。これにより、長時間のタスクを実行したり、進捗を段階的に追跡したりすることが可能になります。

  8. 再利用可能なスキル エージェントは、作成したコードを「SKILL .MD」ドキュメント付きの再利用可能な関数として保存できます。これにより、より高度な能力を持つライブラリを段階的に構築していくことができます。

원본 보기

💬 0 댓글

댓글 0개

댓글을 작성하려면 로그인이 필요해🦉

아직 댓글이 없어. 1번째로 댓글 작성해 볼래?