sluke

sluke

twitter

建設 AI 代理人的高速公路(2)

早已準備好的 AI 高速公路基建原料#

1. 簡化的 AI 高速公路架構圖#

simple-highway-structure.png

  • 不同的客戶端,可以從 AI 路由中,從不同的 AI 算力中心獲得服務
  • AI 算力中心可以是機房,也可以是個人部署在網絡中的設備,如 AI 算力盒子

2. 互聯網上什麼都有#

2.0 稍稍複雜的 AI 高速公路架構圖#

simple-plus-highway-structure.png

  • AI 的能力,組裝成 workflow
  • AI API 路由到不同的算力中心,也包括路由到不同的模型
  • 完成計費和支付,完成 AI 模型幫你賺錢

如果不好理解,可以參考 BT/PT 下載的模型,用自己的計算機做種子,上傳文件,獲得積分,獲得更快的下載速度

2.1 AI 算力盒子#

各類廠商都推出了 AI 算力盒子,有大玩家英偉達高通等,也有創客玩家,還有各種伺服器廠商。
highway-for-AI-NVIDIA-Jetson.png
highway-for-AI-ZimaCube.png
highway-for-AI-ai-in-box.png

在國內,會存在一個國產化算力盒子的市場,供國產芯片,尤其是國產顯卡變現,主要客戶應該是數據合規要求高的政企客戶

  • 模型推理對算力要求不如訓練高
  • 高端製程的限制,還沒有蔓延到推理芯片

2.2 模型部署#

如:https://ollama.com/download
還有各類 AI 模型的本地化部署工具

2.3 AI workflow#

如:

2.4 AI 客戶端#

  • 各種本地客戶端,如 chatbox、chatx、opencat 等
  • 各種 web 服務,如 poe.com
  • 瀏覽器插件,如 chathub、monica 等

不同玩家在 AI 高速公路的策略#

1. 玩家#

  • 小開發者:從 C 端進入市場,重要的是用戶數
  • 大玩家:算力中心一側進入市場,重要的是基建資源

2. 商業化,誰來付費#

  • 大模型的開發者(大廠)

    • 在市場啟動期,推廣自家模型的需求:廣告費
    • 在市場繁榮期,降低使用成本的需求:購買邊緣算力
  • 顯卡廠商

    • 主要是規模化銷售芯片的需求:廣告費
    • 同時也可以是運營算力網絡的收益者
  • 電信運營商

    • 閒置算力變現,包裝新產品線,提升股價:廣告費
  • 個人用戶,長期看是埋單的人

載入中......
此文章數據所有權由區塊鏈加密技術和智能合約保障僅歸創作者所有。