AI・テクノロジー– category –

LLMが2回目から速いのはKVキャッシュのおかげ。Qを保存しない理由、メモリ量の計算式、実測761倍の再利用まで平易に解説し、NVIDIAがキャッシュをモデル間で移植する新論文（2.7〜25倍速）まで読み切ります。

AWS KiroがAIエージェントに本番障害の一次調査を任せた事例を情シス視点で解説。月250件を中央値13.6分で無人処理、コストは上位サブスク9個分。鍵はMarkdown 107枚の運用知識でした。