sluke

sluke

twitter

建設AIエージェントの高速道路(2)

早く準備された AI 高速道路の建設資材#

1. 簡略化された AI 高速道路の構造図#

simple-highway-structure.png

  • 異なるクライアントは、AI ルーターから異なる AI パワーセンターからサービスを受けることができます。
  • AI パワーセンターは、データセンターまたはネットワークに展開された個人のデバイス(AI パワーボックスなど)である場合があります。

2. インターネットには何でもあります#

2.0 やや複雑な AI 高速道路の構造図#

simple-plus-highway-structure.png

  • AI の能力をワークフローに組み立てる
  • AI API は異なるパワーセンターやモデルにルーティングされます
  • 課金と支払いを完了し、AI モデルがお金を稼ぐのを支援します

理解しづらい場合は、BT/PT でダウンロードしたモデルを参照して、自分のコンピュータでシードを作成し、ファイルをアップロードしてポイントを獲得し、より高速なダウンロード速度を得ることができます。

2.1 AI パワーボックス#

さまざまなメーカーが AI パワーボックスを発売しており、大手プレーヤーの英伟达高通など、メーカーやさまざまなサーバーメーカーもあります。
highway-for-AI-NVIDIA-Jetson.png
highway-for-AI-ZimaCube.png
highway-for-AI-ai-in-box.png

国内では、国産のパワーボックス市場が存在し、国産のチップ、特に国産のグラフィックスカードの実現に供されることがあります。主な顧客は、データのコンプライアンス要件が高い政府および企業の顧客であると思われます。

  • モデルの推論はトレーニングよりも高い計算能力を必要としません
  • ハイエンドプロセスの制約は、推論チップにはまだ広がっていません

2.2 モデルのデプロイメント#

例:https://ollama.com/download
さまざまな AI モデルのローカライズデプロイメントツールもあります。

2.3 AI ワークフロー#

例:

2.4 AI クライアント#

  • チャットボックス、チャット X、オープンキャットなどのさまざまなローカルクライアント
  • poe.com などのさまざまな Web サービス
  • Chathub、Monica などのブラウザ拡張機能

AI 高速道路での異なるプレーヤーの戦略#

1. プレーヤー#

  • 小規模開発者:C サイドから市場に参入し、ユーザー数が重要です
  • 大手プレーヤー:パワーセンター側から市場に参入し、インフラリソースが重要です

2. 商業化、誰が支払うのか#

  • 大規模モデルの開発者(大手企業)

    • 市場立ち上げ時に自社モデルの普及を促進するニーズ:広告費
    • 繁栄する市場での使用コスト削減のニーズ:エッジコンピューティングの購入
  • グラフィックスカードメーカー

    • チップの大量販売が主なニーズ:広告費
    • 同時に、運用アルゴリズムネットワークの収益者にもなります
  • 電気通信事業者

    • 未使用の計算能力の実現、新しい製品ラインのパッケージ化、株価の向上:広告費
  • 個人ユーザーは、長期的には支払いをする人です

読み込み中...
文章は、創作者によって署名され、ブロックチェーンに安全に保存されています。