冒頭画像をご覧いただくとお分かりのように、我が家には二台のGPU搭載ノートパソコンがある。
どうして2台もあるかというと、一台はNVIDIAのGeForce RTX 3080（VRAMは16GB）を搭載した正統的なノートパソコンだけれども、もう一台はIntel Arc A730M（VRAMは12GB）というGPUを搭載したノートパソコンなのだ。
本当はH100と同じHopperアーキテクチャを採用したGeForce RTX 4090搭載ノートパソコンも欲しいけれども、そうするとAppleのM4チップを搭載したMacbookを購入する予算が完全消滅してしまう。それに性能は高いものの、GeForce RTX 4090のVRAMはRTX 3080と同じ16GBに過ぎない。
… 冒頭から話が逸れてしまった。今回はIntel Arc A730M搭載ノートパソコンでも作家業には大変貢献してくれるということを紹介したい。
最大64GBメモリが可能
Intel Arc 730M搭載ノートパソコンと書いた瞬間に、知る人は機種が分かってしまう。日本で販売されているのは、ドスパラのGALLERIA UL7C-AA2くらいなのだから。
このIntel Arc 730M搭載ノートパソコンは、インテルと協力して商品化したとのことだ。ちなみに冒頭画像に写っている一台はGALLERIA ZL7C-R38Hというモデルで、いずれも第12世代 インテル Core i7 12700H(Alder Lake)/14コアを搭載している。つまり最近流行のNPU (Neural Processing Unit) を搭載しているとは言える。
Inetel Arc GPU向け生成AIの心臓部とも言えるLlama.cpp SYCLでの実行ユニット数の推奨は80以上で、いちおう96だ。だから試しにNPUとしてAlder Lakeだけを使ってみたら満足できる処理速度ではないけれども、いちおう最低レベルはクリアしているとは言える。
(Llama for SYCLのページだと2024年6月1日時点で検証済みiGPUにiGPU in i5-1250P, i7-1260P, i7-1165G7の3つが記載されており、当然ながら試してみたら無事に認識させることが出来た。ちなみにi7-1260Pも実行ユニット数は96だ)
それよりもドスパラのガレリアシリーズで素晴らしいのは、メモリを換装できることだ。二台とも最大64GBまで増設できる。最近のLlama.cppはCPUメモリとGPUメモリの混在環境でも性能を出せるようになっているので、64GB + 12GB = 76GB (RTX 3080の場合は80GB) を実現できることは大変に嬉しいことだったりする。
僕が購入したのは、上記のメモリである。メモリに関しては相性があるとのことなので仕様を参考にしながら購入してみたら、無事に稼働してくれてホッとした。
なお残念ながらCore i7 12700H (Alder Lake) の使用上、最大で64GBとなる。だから僕が満足できるCommand R plus 104B版の4bit量子化モデルであれば実行可能だけれども、200Bクラスが登場したらお手上げとなりそうだ。
ま、いくらCPUで処理できるといっても、現行の16GBレベルではバランスが悪過ぎる。第14世代では96GBメモリも可能らしいけれども、NVIDIAのGPUを搭載するのであれば、48GBくらいのVRAMは欲しいところだ。
(ちなみにメインのデスクトップPCは最近メモリ増強し、NVIDIA Quadra RTX 8000 (VRAMは48GB) と129GBのCPUメモリを搭載している。SSDもNVMeタイプになる… そうそう、今回のドスパラ製ノートパソコンは当然ながらNVMe型SSDを搭載している)
キーボードはご自由に
さてキーボードだけれども、実は個人的には使っていない。HHKBキーボード使いの方々がやっているように、AppleのMagic Keyboardをノートパソコン上に鎮座させて利用している。
なにしろこちらは社畜である。平日の昼間は、会社から支給されたパソコンで仕事をしている。だからキーボードで違和感を感じたくなければ、外付けキーボードを使うということになる。
(「そう言いつつもポメラを使っているだろう」と言われるとツラいが、あれは標準キーボードよりも小さめのサイズだ。指の短い者にとっては、できればポメラのキーボードだけで過ごしたいというのが本音だったりする)
それからGALLERIA UL7C-AA2は1920 x 1080ピクセルの15.6インチ大画面で、GALLERIA ZL7C-R38Hに至っては1920 x 1200ピクセルの16インチ画面である。これだけ画面が大きいと、少し液晶画面とは距離を置いて使いたくなってくる。
そういう意味でも、外付けキーボードは便利なのである… 生成AI（LLM）をフル稼働させる時は発熱量も増えるので、空気清浄機の上で冷却しながら遠隔操作したくなる場合もあるし…
いざとなったら休止状態
さて上記でお見せしたように、本気で生成AI（LLM）を実行している最中のノートパソコンは発熱量が増える。もちろん冷却ファンは内蔵されているけれども、外部から強制冷却したくなるのが貧乏な持ち主の心情である。
これが企業だったら遠慮なく90度近い高温でGPUをフル稼働させてしまう。その分だけ製品寿命が縮まってしまうけれども、最高のコストパフォーマンスを求めるのであれば、止むを得ないと考えられている。それにノートパソコンでなければ、GPUは簡単に交換できる。
おまけに人工知能向けのGPUでは独走的立場にあるNVIDIAの場合は、「ともかく性能重視」と考える傾向がある。10年前に入手したTITAN Xなんて、本来の性能を100％発揮させることが出来なかった。冷房がガンガンに効いたデーターセンターでない限り、処理性能の100％を出すことは出来ない。
自宅のように人間が住める室温だと、発熱で溶けてしまうので温度上昇と出力制御の繰り返しだ。仕方がないので簡易水冷システムを導入したら、ようやく自宅でも100％の出力を出せるようになった。
ちなみに一昔前は寝ながらも外部冷却をやっていたけれども、最近は根性が無くなってしまった。寝る時は素直に休止状態にして、起きたら復帰して処理を継続している。
何しろ数万文字の小説を評価する場合、出力は0.02トークン/秒といった具合で、劇的に遅くなる。だから一つの小説原稿を分析や批評するのに、7時間以上を要することもある。
そんな訳で、最近は休止状態を便利に利用させて頂いている。
しめくくり
少し今回は自分の気になることを集中的に紹介してしまったけれども、とりあえずIntel GPU搭載ノートパソコンは実用レベルで作家業に貢献してくれている。
結果を得るのに数時間を必要とするのは驚かれるかもしれないけれども、学生時代はしばしば経験した。それに作家が原稿を書いた後は心理的に高揚… ハイになっていることが多いので、しばらく時間を置いて見直した方が望ましいとも言える。
ただし2024年6月1日時点では、Intel GPUはNVIDIA GPUと互角とは言えない。いやGPU本体のハードウェア部分が互角かどうかは分からないけれども、Llama.cppとCommand R Plusを使って批評して貰う場合には互角とは言えない。
なぜなら16GBと12GBといったGPUメモリ量に関係なく、取り扱える文字数が違うのである。
- NVIDIA(CUDA)：最大50,000トークン (約7万文字)
- Intel(OneAPI)：最大20,000トークン（約3万文字)
ちなみにミステリーだと短編が好まれる傾向にあるけれども、それでも背景や動機などを一通り盛り込んだ作品とするには1.5万文字以上が必要となる。ファンタジー系にしても、知名度のない作家が「お試し」で読んで頂くためには2万字程度が望ましい。だから3万文字の日本語を取り扱うことができれば、執筆力を上げるのに役立ってくれる。
もちろん7万文字を取り扱えるのに越したことはない。自分の経験に照らし合わせると、人気作家が力を入れて書く中編小説は6～7万文字が多い。そこまでカバーできると、中堅作家として活動するのにも役立ってくれるだろう。ちなみにポメラDM200というテキスト入力マシンでは、最大文字数が9万文字だった。
なお長編小説の定義は難しいけれども、18万文字くらいだったらば一冊の本になる。一行あたりの文字数などでページ数が決まるので適当な目安に過ぎないけれども、ポメラだと最新機種のDM250で最大20万文字となっており、ポメラで執筆するプロ作家の多くが高評価を与えている。ちなみにGoogleのGemini Pro（だっけ？）が、18万文字のデータを取り扱えるようになっている。
自分の場合は一日で一万文字が限界であり、多作で有名な西尾維新先生が一日で二万文字である。追い詰められた作家には四万文字や七万文字も存在すると聞くが、それはプロでないと難しいだろう。
それだけの時間を必要とするのだから、三文小説家はおいそれと長編小説には手を出せない。せっかく書いても読者が数名だったら、コストパフォーマンスが悪くて商売にならない。そう考えると、とりあえず7万文字は悪くない文字数と言えそうだ。
最後に参考として、出力結果を貼っておく。
“尾花結花のお見合い事件簿”は面白い話で、筋曲がりで、ミステリーとユーモアに満ちています。しかし、さらに改善することで、より魅力的にし、読者を引きつけることができます。以下は改善の提案です：
- 物語の始まりをもっと魅力的に：物語は尾花結花の自己紹介から始まりますが、これは一般的な語り口です。例えば、彼女の家族背景や両親の職業、面白い逸話などを共有することで、読者の関心を引き、彼女の個性をよりよく表現することができます。
- 詳細な描写を追加：物語のいくつかのシーンは、学校や家庭、パーティーの場など、もっと詳細に描写されるべきです。これにより、読者は物語の環境をよりよく想像し、深く没入することができます。
- 物語のテンポを上げる：特に対話の部分で、物語はいくつかの場所でより簡潔にすることができます。いくつかの対話は短縮して、物語の流れを保ち、読者の興味を高めることができます。
- キャラクターのさらなる開発：主人公の尾花結花は、もっと詳細に描写されるべきです。彼女の興味や趣味、個性的な特徴に関する情報を追加することで、読者は彼女とのつながりを感じ、彼女の冒険を気にかけることができます。
- サスペンスとコンフリクトを増やす：物語にはもっとサスペンス要素を加えて、緊張感を高めることができます。例えば、より多くの潜在的な容疑者や予期せぬプロットの転換を追加することができます。これにより、物語はより魅力的になり、読者は続きを読みたくなります。
- ユーモア要素を追加：物語にはユーモア要素がありますが、もっと面白い対話やシーンを追加して、物語を軽快にし、読者を引きつけることができます。
- テーマをさらに探求：物語には、アイデンティティ、家族関係、愛など、興味深いテーマが含まれています。これらのテーマはさらに探求され、より深みを持ち、より多くの考えを提供することができます。
- 編集と磨き：スペルや文法の間違いを注意深くチェックし、物語の流れを確保してください。また、いくつかのシーンや対話は磨きをかけて、より引き込まれるようにすることができます。 要するに、「尾花結花のお見合い事件簿」は非常に有望な物語です。これらの提案を実施することで、物語の質をさらに向上させ、より多くの読者を引きつけることができます。
とりあえず今回は、この辺で。ではまた。
－－－－－－
記事作成：小野谷静（オノセー）
