🧪 Show HN 海外の技術者が集まる掲示板に、作った本人が持ち込んだ新作 👍 239 人が良いと押した
🏷️ 特定の作業に効く 2026/9/2 に出てきた
Macで104GBの大型AIを小さなメモリで動かす裏技
Show HN: Running 104GB Qwen3.8-Flash-Next on 48GB Mac with at ~12 tok/s
💬 一言でいうと
通常なら100GB以上の巨大なAI言語モデルを、小さいMacでも動かせる工夫を作った出展です。
作者が工夫を凝らして、メモリが小さいMacでも実行できるようにしました。
✨ できること
-
16GBのMacでも動く
ふつうは100GB以上いるAIモデルが、工夫で小さいメモリのMacで動くようになりました。
-
セットアップが簡単
ターミナルで1行のコマンドを実行するだけで、自動でインストールと設定が進みます。
-
Macのストレージとメモリをうまく使い分け
足りないメモリをストレージで補うしくみで、小さいMacでも大型AIが使えます。
🛠 こんな人に役立つ
自分のMacでAIを試してみたいけど、パソコンが古いか小さい人向けです。プログラミングの勉強をしている人、AIの仕組みを知りたい人が、自分のパソコンで実験できるようになります。
⚠️ 注意
まだ試作段階です。48GB以上のメモリがあれば1秒に12単語分くらい処理できますが、16GBだと1秒に4単語分程度と遅くなります。また、110GB以上のディスク空き容量が必要です。
🔗 原文
見出しと要約は、個人やチームが公開したページを AI が日本語に要約したものです。原文の意味と食い違うことがあります。正確な内容は元のページ(リンク先)をご確認ください。 利用規約