  |
はてなキーワード: NVIDIAとは
Intel VTune Profiler、NVIDIA NSightでプロファイル取って、どう直せばいいか、
そもそも使っている人が少ないのかも。
キャッシュヒットしてるかとか、メモリ帯域が足りてるかとかはわかりやすいけど、
テクノロジードライバーが、ゲームとモバイルだったので、出来る範囲のことで実現出来ることでなんとか間に合わせていたが、
AIが出てきて裏の計算が科学技術の数値計算と変わらんので、性能が足りていない。
Web見るくらいだと性能はいらないが、AIを絡めて動かしたいとなったら金を出しても世の中にないとなっている。
排熱についても、Web見るくらいだとファンレスでもよくなったが、
データセンター向けだが、NVIDIA DGX B200を見るとヒートシンクの高さが凄い。
RTX5090も冷却が凄いことになると噂が出ている。
RTX4090の時点で、電源端子が溶けたり、PCIeスロットがGPUの重さに耐えられなくなったりとなっている。
GPUのVRAMが足りないのに増設出来ない状態もずっと続いている。
VRAMだけ追加でボードに挿して、GPUと専用ケーブルで接続といったことが出来ないのだろうか。
CPUのDRAMは仮想メモリ技術があり、DRAMが足りなくても動くが、VRAMが足りないと動かない、増設も出来ない。
メモリだとDRAMの速度が限界で、CAMM2をデスクトップPC用のマザボが参考展示として出てきたが、
平面になってヒートシンクによる冷却が出来るそうな反面、増設が厳しい。
パソコンのケースは、GPUがボードは小さい割にヒートシンクが長いため、大きなケースでなければ入らず、
5インチベイ、3.5インチベイの拡張というのはなくなって中はスカスカなわりに、拡張性がない。
伏せる必要がないも何もワイはなんのハードの話とは書くつもりないです
この程度でSLAPP裁判とかないと思いますけど余計なことはしないに限りますし、
特定のハードやメーカーに限らず、下記は世間一般的な感覚のお話かと思います
NvidiaやAMDなどと性能勝負できると称したり、言葉を発するどころか本気でそう考えているのだとしたら、
周囲が察しってなってもまぁ致し方なしだと思います
(事業を)続けている間は、AさんとBさんにとって、○万円は同じ価値ではない現実とは真摯に向き合ってもろて
賃金差別があるし、賃金差別が回避できても、さまざまなバックグラウンドの問題がある
というか、 幅広い属性の中に含まれる、ある場面では助けが必要かもしれない人を騙すのはやめましょう。倫理的に問題があります
マシンパワー必要なゲームが積極的にやりたい人はゲーミング PCを買っている現実と、ゲーミングPC持ってない人は持ってないなりの理由がありそうな現実を見つめた上でターゲット設定してもろて
ゲハの謎の争いを見るたびに、ゲーマー・ゲーム好きなら、PS5もSwitchもゲーミングPCも持っているのが普通じゃね？って思っていた
ただ、ファッキン賃金差別があるし、賃金差別を回避出来たとしても、健康問題や介護問題などさまざまな理由で働けなくなる・趣味にお金を回せなくなることもあるから、
某ハード のあれこれと 某メーカーの決算発表 のあれこれとパルあれこれを見ていて気付いたよね
『アニメ・マンガ・ゲームはそのわかりやすさから、知的な困難を抱えている人が好んでいることが多い』、
そうアンチオタクに揶揄されること多かったし、地獄めいたあれこれに疲れた（特に創作界隈)オタク自身がそう愚痴ることが多々あったが、
うーーん、これ事実じゃね？ ゲハのあれこれは、信仰から来るものじゃなくて、大部分が困難から来てるのでは？みたいな
忙し過ぎて一切の情報見れなかったって人、ITガジェット・ゲームに無縁の人がプレゼントで購入するケースは除くが、
それは、メーカーに対する信仰心でもいいし、コレクター根性でもいいし、PCアレルギーがあって娯楽に絶対ノイズを挟みたくないからでもいいし、
値上がり加味しても、旧ハードを買うか、PC組んだ方が全然いいので、上記のようになにか理由がなければ買わないと思うが、
決定打になったのは、決算の説明の内容を理解できていないっぽかったこと。あっ、これ、やっぱ信心ちゃうぞ・・・みたいな
ゆうて、能力に問題なくても、SNSで頭おかしくなっている政財界の人や学者さんはあちこちで見かけるので、
それと同じように信仰で処理がバグってるだけ、信仰と関係ない場面では正常処理出来る人もそれなりにいるのかもですが、
NvidiaやAMDなどと性能勝負できると称したり、言葉を発するどころか本気でそう考えているのだとしたら、
周囲が察しってなってもまぁ致し方なしだと思います
とりあえず、この業界に寄せる思いとしてはこんな感じです
この増田についてるトラバやブコメみてもやっぱ能力の問題だなって確信を強めました↓
https://b.hatena.ne.jp/entry/s/anond.hatelabo.jp/20241110190316
あと、MMOやウマ娘ってマクロぶん回し＆ Pay to Win って認識なくて暇人が憎いって言ってたのに
ITのひと？！なブクマカPなんとかさんは相変わらずなコメントしてんな
Azure 使ってるとこないおじさんとバトルして欲しい
AIが盛り上がって数年経つが、個人が買えるような価格帯で、良いAI向けのハードが出てこない。
RTX 3090のVRAM24GBを大事に使っているが、そもそもVRAMに入らないモデルの方が多い。
複数のAIを立ち上げるなんてのは、VRAM容量が溢れるので、そもそも動かせない。
動けばNVIDIAの Nsight Systemsなどで遅い所などを探せるが、そこまでいかない。
複数のSSDを仮想メモリにするというのも、RTX 3090のNVLink BridgeでVRAMだけ拡張するなんてのも世の中に出てこない。
Appleもそろそろ出してくるかと思っていたが、M4は普通の順当進化だった。
M2 Ultraはチップtoチップを接続し2.5TB/sを謳ったが、同じチップを繋げたのでいらない機能が倍になっただけだった。
M4 Ultraで、片側のチップをGPU or NPU＋帯域の広いGDDR or HBMになればいいが、あまり期待が出来ない。
GPU or NPUのコアが増えたとしても、L2/L3キャッシュの容量が少なすぎる、増やしても距離が遠ければ性能も出ないので、
AppleもAMDのように3D V-CacheでSRAMを積み、Hybrid Bondingで上下の帯域を確保してくれないだろうか
IBMはTelum IIとSpyreを出してきたがエンタープライズ向けなのでパス
Groq社がLLM用LPU、HyperAccel社がLLM用ASICを出して来たが、
Groqは1枚のPCIeカードでは全くメモリ容量が足りず役に立たなそうで、HyperAccelはサーバー前提でこちらも個人から手が出しにくい。
FPGA＋HBMが載ったPCIeカードは個人向けには販売できるような価格でもなければ、そもそも販売すらされない。
ジム・ケラー率いるTenstorrentも1枚のPCIeだとメモリが足りないし、Ethernetでなんとかやりくりしようとしているが帯域に引っ張られそうに見える。
NextSilicon社がMaverick-2というIntelligent Compute Accelerator (ICA)というのも出してきたが、HPC向けで個人利用からは遠い。
中国も良いのが出てきていない。
Biren、Fuzhou Rockchip、VeriSilicon、Moore Threads、LinJoWing、Loongson、JingJia Micro、Cambricon、Vastai Technologies、Xiangdixian Computing、Enflame Technology、MetaX、Zhaoxin、Lingjiu Microelectronics、
DengLin Technology、Iluvatar CoreX、Innosilicon、Horizon Robotics、Black Sesame Technologies
政治で変えられると言うが、何か良くしようとして今の状態になっているのであって、どこかに影響を与えないパッチを当てるのは用意ではない。
定年後で体力がなくなった状態で、肉体労働しか残ってないというのもオカシナ話だし、ソフトで提案してくる解決策がタイミーみたいなマッチングというのもオカシナ話だと感じている。
また、メディアに関しても、GAFA、TSMC、NVIDIAなど、年がら年中報道して株投資家の方の需要に答えているかもしれないが、結局のところ、国内に仕事を作れていない。
投資やNISAをしてないのが悪いのだという意見もあろうが、両手で数えられるような企業に左右されるのも変な話だし、対応した人がより豊かになるのは許容していいが、してない人も稼げる仕事がある方がベターだろう。
メディアもネットも、もっと国内の研究内容だとか、国内企業で何を研究しているかなど注目した方がいいだろう。
国内で作れてないものでも車輪の再開発は無駄だとか、今更無駄だとか、そういうのも結局駄目だったのだ。
モダンなCPUやGPUを作れていなければ、AI向け半導体のチャンスが来ても作れやしなかった。
設計できる人も、人の育成方法も、伝えるべき教育内容も、なにもない。
野球観戦で応援するように、海外企業で勝った負けたなど一喜一憂するエンタメにしかならなかった。
日本の研究内容についてもメディア・ネットで関心向けれるべきだろう。
今の日本の戦略は、海外で金になりそうな内容が出てきたときにキャッチアップできるだけの人材が確保出来ていればいいというものだ。
研究なんて何が当たるのかわからないから広く金をばら撒かなければ、という意見があるが、
海外で金になりそうな研究が出てきたら金を注ぎ込めば、当たりくじを引く確率が上がるという戦略である。
海外の研究所・企業・政府とどれだけ対等か、不利な契約を結ばされないようにするかということで文系が重要視される。
だが、結局、国内に活かせる産業もなければエコシステムもないので定着しない。
最初は海外に対して見劣りしようとも自分達でやらねばならない。
いくら世界に通用するような凄い研究結果であっても、国内に活かせる企業がなければ、次の研究費は注ぎ込めないし、研究者の給料も上がらない、
単にライバルを有利に働きかけているだけになる。
アカデミアの人達には申し訳ないが、国内企業の興味関心から外れた内容ばかり研究できるほど、もう人も金もないのだ。
今の企業に研究内容が当てはまらないのであれば、会社を起こして稼げるということを証明しなければ、研究者は有力なアウトプットを出せるのだから高給取りにならなければとはならない。
娘はまだまだ小さいんだけど親としてはお金の使い方を身に付けてもらいたいと思う。
女の子なので学歴よりは資格や職歴、一芸よりは多趣味、いろんな人と仲良くなれるような社交性を身に付けてほしいと考えた。
化粧、衣服、趣味や推し活とお金を吸い取る誘惑が社会にそこかしこと張り巡らされている。
FPの知識はないが父親として、女の子に教えられる最たるものはお金の大切さであろうと考えた次第。
30代一児の父
地方在住
年収400万円
家と車のローンあり。
貯金50万円 NISA300万円（S&P500インデックスとNvidia） IDECOは今年から始めた
誘惑が多いのは男子も女子も同じだけど、女の子は大金を得る手段が多くそれを狙う大人が多いことだろう。P活、援助交際で何十万と稼いでブランド品、ホストにつぎ込めるいまの社会構造はおかしいと思う。最近は男の子も闇バイトに組み込まれるようになっているのでこちらも危険。闇バイトは長続きせず大金も手に入らないが、傷害事件を起こしたり殺人犯になる可能性も高い。
固定費を把握する。
家賃、光熱費その他、食費、電話代、ローンなど毎月必ず出ていくお金を頭に入れておけば雨風しのげて飢えることもない。
貧困は人の頭を悪くさせる。家と米があればひとまず平常心で毎日を過ごすことができる。
車や奨学金のローンが頭から抜けている人がたまにいるので要注意。
お金を使うのはここから。上記固定費を抜いたお金を何に使うかを考える。
気を抜いているとあっという間にお金がなくなり「何に使ったの・・・」と寂しい思いをすることになる．
大きなものを買うため、急な出費にそなえるため、精神の安定にも大きく貢献するのがまとまったお金である。
お年玉の一部を銀行に預ける、毎月もらうお金を少しでも翌月に残すなどで十分身につくと期待したい。
毎月、給料の20％でも貯金していたら立派なマネーリテラシーの持ち主と言える。
「20代の独身者の平均貯蓄額は、平均値が176万円、中央値が20万円という結果になっています。金融資産を保有していない20代の独身者の割合は42.1％となっており、約半分が貯蓄のない状態」
ちなみに60代の2割超が貯蓄ゼロ。生活保護の5割以上が高齢者である。お金が無くても生きていけるが公営住宅に住んでベネフィット暮らしはとにかくヒマで精神衛生に良くない。余談であるが国全体の（個人金融）資産の50%は高齢者が持っている。また認知症高齢者も資産を持っており255兆円が彼らの預金口座ないし不動産である…。
普通の人で言えば大学の奨学金、車、家であろう。学生でいえば自動車学校、楽器などだろうか。
貯金はお金を使うためにあり、上記は人生を大きく変えるものである。購入に当たって色々調べたり、人に相談し、計画を練って買えるようになってほしい。
増田のいい年した同僚がスキューバダイビングの機器をローンで払っていて驚いた。一括でかえよと思ったものだ。
英会話の教材はどうせ活用できず無用の長物になるので買わない方がいい。よしんば活用できても身についた英語を活かせる場面は皆無。
少し前は借金は絶対するなと言われていたが、昨今の円安インフレを受けて借金にも良いものと悪いものに区別されるようになった。
住宅ローン、カーローンはサラリーマンなら活用したい。何といっても金利が低く、ほぼ手数料なしで支払いを繰り延べられるのだ。
反対にカードローン、リボルビング払い、借金の連帯保証人は絶対避けてほしい。人生が傾く。
割愛。
NISAとインデックスとかで十分。ただそれを理解してもらうためにはお金の管理を身に付ける必要があり、安定したライフスタイルを送れるようになってからだろうか。
Geminiさんに聞いてみた。冗長ー！
Geminiです。クラウドではなくローカルでLLMを遊びたいとのこと、素晴らしいですね！ローカル環境でLLMを動かすには、高性能なPCが必要になります。
残念ながら、特定の「LLM専用」と銘打ったブランドのPCを販売しているショップは、まだ一般的ではありません。しかし、LLMを動かすために必要なスペックを持ったPCは、多くのPCメーカーやショップで購入可能です。
LLMをスムーズに動かすためには、以下のスペックが求められます。
もし、ある程度の知識と時間があれば、自作PCに挑戦してみるのもおすすめです。自作PCであれば、自分の好きなパーツを選んで、自分だけのオリジナルPCを組み立てることができます。
ローカルでLLMを動かすためのPC選びは、予算や用途に合わせて慎重に行う必要があります。まずは、自分がどのような用途でLLMを使いたいのかを明確にし、それに合ったスペックのPCを選びましょう。
GPUクラウドサービス: ローカル環境を用意するのが難しい場合は、GPUクラウドサービスを利用するのも一つの手です。
LLMのフレームワーク: TensorFlowやPyTorchなどの深層学習フレームワークを使いこなせる必要があります。
LLMの世界は日々進化しています。ぜひ、自分に合った環境でLLMを楽しんでください。
何か他に聞きたいことがあれば、お気軽にご質問ください。
