AI– category –
-
ローカルLLMやりたくてRyzen AI Max+ 395 + 128GB RAM の GMKtec EVO-X2(30万円)を震えながらポチった
ムシャクシャしてポチった。今庶民がギリギリできるローカルLLMの限界を自分の手で試したかった。 欲しくなってしまった この記事を読んでいたらとてもほしくなったよね。 【西川和久の不定期コラム】Ryzen AI MaxのLLMとAI画像生成の性能は？OCuLinkでどちらも快適に♪「GMKtec EVO-X2」(後編) - PC Watch Stable Diffusionでお絵かきしたい... -
AIも認める信頼できる情報源とは何か
AIは信頼できる情報源と言いたがるが、これは基本的に権威主義の言い換えとなる。少なくとも権威以外を信頼の根拠とした回答を見たことはない。 しかしながら、時の権威が信頼とイコールかといえば甚だ怪しい。これはまさに権威が編んだ歴史の教科書を読めばわかることのはずだ。しかし、実際には権威的な情報源であることが信頼の根拠とされ... -
AIの出力から学ぶ、箇条書きをわかりづらくする100の方法
なんだかんだでClaudeを使い続けている今日この頃だが、Claudeで辟易とするのは箇条書きの過剰な多用だ。文章全体の9割が箇条書き、なんていうのも珍しくない。そしてこれは、非常にわかりづらい。 これについて不満に思っているのは僕だけではないようで、いつぞやClaudeに箇条書きをやめさせる方法みたいなツイートが流れてきた。この時の... -
セルフホストDify のナレッジにAPIでドキュメントを追加する
確かにDify色々いじれるのは便利。 環境 以下を実行済みとし、環境も同一。 手順 環境変数の設定 以下を環境変数として設定する。ナレッジのドキュメントを選択すると、左下に「サービスAPI」があるので、そこを見るとURIがわかる。シークレットキーを発行することもできる。 DIFY_API_BASE: http://ベースURL:ポート/v1 DIFY_DATASET_ID: ド... -
セルフホストでDify + ローカルLLM + RAG
今さらRAGやる。サクッと試すならDifyかなということで、またローカルLLMとローカルデータベースにこだわりを見せてやる。 環境 M2 Pro Mac mini 12コアCPU、19コアGPU RAM 32GB macOS Sonoma 14.7.7 LLM ollama 0.12.5 deepseek-r1:14b deepseek-r1:32b ollamaは使っていること前提。 ollamaを別マシンで動かす場合、Macの場合は以下を実行... -
M2 Pro Mac mini 32GB RAM + SINQ + DeepSeek R1 32B Q4を使おうとする
AIモデルのメモリ使用量を60～70％も削減し安価で低性能なハードウェアでも動作するようにできるオープンソースの量子化手法「SINQ」をHuaweiが発表 - GIGAZINE この記事読んで「ええやん」と思った。要は量子化ビット数Q4で精度めっちゃあがったよ、ということらしい。タイトルのとおりの手順と検証メモ。SINQのチュートリアルを環境にあわ... -
ChatGPT「large breastsはエッチだから削除しておくね^^」「small breastsはエッチじゃないからOKです👍」
Civit AIには様々なAIイラストで使える様々なモデルがアップロードされている。なんかまぁ若干無法地帯感はあるので、色々と騒がれているし、いつ終わってもおかしくないような気もするのだが、しかしまぁモデルのアップロードサイトは既に雨後の筍のごとくあるので、潰したところで無駄だろう。 燃える話 まぁ色々と言われているAIイラスト... -
AI開発：SDD(仕様駆動開発)っぽいものを試す「工数見積は3AI日です」Claude「ブラック労働反対。今週はもう休みます」
現在、Claude週次制限の危機に陥っている。影響受けるのは5%未満って言ってたのに🥺 まぁProプランではあるのだけれど、別に夜中にバッチ処理しているわけでもなく、普通に開発しているだけなんだが、週次制限の危機になっている。これというのも、最近SDD(Spec-Driven Development, 仕様駆動開発)なるものを、見様見真似で始めたからだ。SDD... -
AIにベストプラクティスは存在しないので、またプラクティスを積み重ねよう
「これがベストプラクティスです」と言われるようになったのはいつ頃からなのだろう。僕が業界に入ったときにはもう使われていたが、金科玉条のように掲げられるような印象まであるのは割とここ最近のようにも思う。 誰が「ベスト」だと決めるのか？ 考えてみると、ベストプラクティスとはけったいな言葉だ。俺が俺のベストを決める分にはそ... -
AIとプログラミングしている、あるいはさせている、それともさせられている
LLMにはもっぱらGo言語でプログラミングさせている。しかし僕はGo言語を全然知らない。全然知らないのに何故使っているのかと言えば、後方互換性が高いという話だからだ。AIはしばしばdeprecatedの書き方を使いこなすため、そういう労苦を避けたかった。また、AIの書いたコードを永遠にメンテナンスすることになるのも嫌だった。 もしかする...
