ローカルLLMをEVO X2でホストする方法まとめ
最近買ったEVO X2でローカルLLMを動かそうと色々試してみていました。 などがよく聞く手段でしょうか。NVIDIA製のGPUであれば上記のどれでも安定して動くと思います。しかしEVO X2はAMD製のGPUなため微妙… 続きを読む »
最近買ったEVO X2でローカルLLMを動かそうと色々試してみていました。 などがよく聞く手段でしょうか。NVIDIA製のGPUであれば上記のどれでも安定して動くと思います。しかしEVO X2はAMD製のGPUなため微妙… 続きを読む »
夏コミ参加します。当日はよろしくお願いいたします。 今回は新刊ありません。既刊をいくつか増刷したのでそれを持っていこうかと思います。当日はよろしくお願いいたします。
GMKtecのEVO X2という計算機(公式の販売ページ)が一部で話題になっています。 EVO X2の何が注目されているのか? CPU に Ryzen AI Max+ 395を搭載し、64GBもしくは128GBのメモリを… 続きを読む »
OpenTelemetryとは? 近年、OpenTelemetryという技術が使われるようになってきている。 これはサーバやアプリケーションのテレメトリデータ(メトリクス、ログ、トレースなど)を扱うプロトコルなどを統一し… 続きを読む »
コミケおつかれさまでした。参加された皆様お疲れさまでした。 やっぱり定期的にアウトプットを出すのは重要ですね。アウトプットするための環境の整備なども出来ますし、アウトプットするために情報整理なども行なうので。来年も色々頑… 続きを読む »
冬コミ参加します。当日はよろしくお願いいたします。 頒布物ですが今回は自宅サーバを構築するためのルータの設定について簡単にまとめた本になります。 サークル名「錯乱Lab」配置「月曜日 西地区 “う”ブロック-09a」 新… 続きを読む »
CloudNative PGというPostgreSQLのoperatorを自宅で動かしているアプリ用に導入しようとして辞めた話です。 概要 最初に辞めた理由などを簡単にまとめておくと 上記の理由で採用を見送りました。ワー… 続きを読む »
最近のシステムはよくS3互換ストレージ(AWS S3と同様のAPIでアクセスできるストレージ)を要求する。用途としては、バックアップであったりファイルの保存先であったりと様々だ。 自宅で動かしているシステムでも以下のよう… 続きを読む »
夏コミ参加します。当日はよろしくお願いいたします。 https://x.com/lambda_sakura/status/1822186842218766652頒布物ですが今回は前回に引き続きKubernetesの本にな… 続きを読む »
背景 最近、VMwareがBroadcom社に買収され話題になっていますね。販売モデルの変更や値上げについて注目されています。 こうした話を受けてVMwareから別のソリューションへの移行を検討している人もいるという話を… 続きを読む »