MacBook Pro（M1 Max）でローカルAI「Gemma 4」を動かして実測：同時に何件まで速くなるか

2026年10月20日

宇都宮の制作会社 DIGITAL STUDIO では、クラウドのAIに加えて、自社のパソコンの中で動く「ローカルAI」を、MacとWindowsの両方で使っています。この記事は、ローカルAIを実際に計った結果をまとめる連載の1本目です。まずは、手元のMacBook Proの数字です。

なぜローカルAIを試すのか

ローカルAIは、データを社外に出さずに処理できます。名刺や会員名簿のように、外のサービスに送りたくない情報を扱うときに向いています。使った分だけかかる利用料もありません。その代わり、パソコンの性能で速さが決まります。どこまで実用になるのかは、計ってみないと分かりません。

項目	内容
パソコン	MacBook Pro（Apple M1 Max、CPU 10コア、GPU 32コア）
メモリ	32GB（CPUとGPUで共有）
動かすソフト	Ollama 0.40.3
モデル	Gemma 4 26B-A4B（4ビットに圧縮した版、ファイルは約17GB）
条件	温度0・seed固定。文章は256トークン、名刺は最大400トークンを出力。同時処理の上限は8件

Gemma 4 は、答える前に「考える」文章を出すモデルです。そのままだと、出力の長さを決めて計ったときに、答えが空のまま考える途中で終わってしまうことがありました。今回は比べやすくするため、考える段階は切って計っています。

モデルを読み込むと、メモリを21.1GB使い、そのうち18.6GBがGPU側に載りました。最初の読み込みには約33秒かかります。

MacはCPUとGPUがメモリを共有しているので、32GBのノートパソコンでも、この大きさのモデルをGPUで動かせます。Windowsのパソコンでは、グラフィックボードのメモリ（VRAM）に収まるかどうかが大きな分かれ目になります。この違いは、次の記事で比べます。

同じ依頼文を、1件ずつと、同時に2・4・8件流しました。2回計り、両方の数字を載せています。

同時に流した件数	全体の速さ（トークン/秒）	1件あたりの速さ	全部終わるまで
1件	37.4 ／ 30.9	38.1 ／ 31.4	6.8秒／ 8.3秒
2件	40.3 ／ 38.9	21.1 ／ 20.2	12.7秒／ 13.2秒
4件	52.6 ／ 51.5	13.7 ／ 13.4	19.5秒／ 19.9秒
8件	51.9 ／ 55.8	6.8 ／ 7.3	39.5秒／ 36.7秒

1件ずつ流すと、1秒に30〜38トークンほど。日本語なら、読むのに困らない速さです。同時に4件流すと、1件あたりは遅くなりますが、全体の量は1.4〜1.7倍ほどに増えました。8件にしても、4件のときとほとんど変わりません。このMacでは、4件くらいが頭打ちのようです。

DIGITAL STUDIOの名刺の写真を読ませ、会社名・氏名・住所・電話などを項目ごとに取り出させました。結果は、会社名、氏名、郵便番号、住所、電話、FAX、メール、URLまで、名刺のとおりに読めていました。

同時に流した件数	全体の速さ（トークン/秒）	全部終わるまで	1枚あたり
1件	30.2 ／ 29.5	5.1秒／ 5.2秒	約5秒
2件	21.4 ／ 19.9	14.4秒／ 15.5秒	約7〜8秒
4件	21.4 ／ 20.5	28.8秒／ 30.1秒	約7〜8秒
8件	19.9 ／ 19.7	61.9秒／ 62.4秒	約8秒

文章とは逆に、画像は同時に流すと全体が遅くなりました。1枚ずつ読めば約5秒ですが、8枚同時だと1枚あたり約8秒です。画像を読むときは、最初に画像を読み込む処理が重く、同時に流すとその処理がぶつかり合うためだと考えています。

もうひとつ、1回目の計測では、最初の1枚の画像の読み込みに6.3秒かかり、2回目は0.3秒でした。同じ画像は、2回目から読み込みが速くなります。

次は、同じモデル・同じ条件でWindowsのパソコン（NVIDIAのグラフィックボード）を計り、Macとの違いを比べます。画像や動画の生成でも、MacとWindowsで同じように計る予定です。

計測に使ったスクリプトの条件（温度0、seed固定、出力の長さ固定）は、この記事のとおりです。ローカルAIを社内の仕事に取り入れたい方は、DIGITAL STUDIO までご相談ください。