手机跑 GPT

手机上部署本地 AI GPT

分享
手机跑 GPT
Photo by Solen Feyissa / Unsplash

在手机上用本地 AI 模型并不是遥不可及的梦,Locally AI

什么时候用本地 AI,什么时候用云端 AI 是一个问题,我的 AI 需求更多的 GPT,所以什么时候用 AI 的场景很讲究。需要网络获取较新资讯用云端 AI,顾问方面用本地 AI。大部分我是这样分。

在手机上运行 AI 相当的吃资源,耗电甚至比拍照还快,建议:

  • 如果只是当作普通且非敏感质询,云端 AI 的确能很好完成任务。
  • 频繁的重度使用又有营私需求的话,或许买一台 Mac mini 可能会比较好。
近期由國外開發者推出的線上成本試算工具「Sunk Cost」卻給這股「地端AI比較省錢」的想法澆了一盆冷水——當你花費近 3,500 美元買進一台高規格電腦,企圖透過省下的 API 費用賺回硬體本錢時,試算系統給出的回本年限竟然是「43.6 年」。買 Mac Studio 跑本地AI 比較省?線上工具「Sunk Cost」算給你後悔:回本竟然要 43 年

阅读更多

TrimUI Brick

TrimUI Brick

随着时代的进步,不少旧的电子产品都会被更新,更好,更轻便的新科技给取代。我们之前玩的游戏机因为有些年代所以会被冠上 – 复古 这两个字。 因为新科技的普及,尤其是数字产品可以做到很好的一致性,但也欠缺了一些个性,例如听音乐的平台,看电影方式,摄影。数码化能很好的完成这些娱乐需求,但是就是缺乏差异性。就像是 iPhone 还没推出的时候各家手机的造型充满了辨识度。 或许这也是黑胶唱片,底片相机开始流行回来的原因 - 小众 = 个性 = 品味。 但我们必须要认清一个事实,这些所谓的复古产品之所以会被时代的洪流淘汰成为我们所说的[复古]并不是没有原因的,受限于当时的科技水平,例如屏幕偏小,没有背光,没有内建电池等等的原因。所以我想说的是这里的复古并不是真正意义上的跟我岁数一样大的产品,更多用现代的科技补全当时的遗憾,例如支持蓝牙Wi-Fi的黑胶唱片机。复古掌机也是这样应运而生,第三方用现代的科技补全当时掌机的问题,要知道的是想在愿意推出掌机也越来越少了,我认为这些厂商多少都是抱着热忱研发这些复古主机的,虽然还是小众,但是已经有不少爱好者,而且或多或少解决了当初掌机的问题,例如屏幕偏小,

By MS