手机跑 GPT
手机上部署本地 AI GPT
在手机上用本地 AI 模型并不是遥不可及的梦,Locally AI
什么时候用本地 AI,什么时候用云端 AI 是一个问题,我的 AI 需求更多的 GPT,所以什么时候用 AI 的场景很讲究。需要网络获取较新资讯用云端 AI,顾问方面用本地 AI。大部分我是这样分。
在手机上运行 AI 相当的吃资源,耗电甚至比拍照还快,建议:
- 如果只是当作普通且非敏感质询,云端 AI 的确能很好完成任务。
- 频繁的重度使用又有营私需求的话,或许买一台 Mac mini 可能会比较好。
近期由國外開發者推出的線上成本試算工具「Sunk Cost」卻給這股「地端AI比較省錢」的想法澆了一盆冷水——當你花費近 3,500 美元買進一台高規格電腦,企圖透過省下的 API 費用賺回硬體本錢時,試算系統給出的回本年限竟然是「43.6 年」。買 Mac Studio 跑本地AI 比較省?線上工具「Sunk Cost」算給你後悔:回本竟然要 43 年