AIコーディングエージェントの進化と課題:ダイヤルアップから高速道路へ

2025-09-22
AIコーディングエージェントの進化と課題:ダイヤルアップから高速道路へ

大規模言語モデル(LLM)を搭載したAIコーディングエージェントの急速な発展は、かつてない生産性向上をもたらしましたが、同時に巨大なインフラストラクチャ上の課題も生み出しました。ダイヤルアップインターネット時代になぞらえ、著者はAIコーディングエージェントが初期の非効率で信頼性の低い状態から、現在では広く利用されているものの、依然として高遅延と高コストの問題に直面している進化のプロセスを記述しています。著者は、より高いtok/s(トークン/秒)速度が鍵であり、将来、より高度で、より少ない人的介入によるAIコーディングワークフロー、ピーク時の負荷に対応するためのより柔軟な価格モデルが出現すると予測しています。

続きを読む
開発

AI推論コスト:想像以上に安価である可能性

2025-08-28
AI推論コスト:想像以上に安価である可能性

この記事は、AI推論のコストが法外に高く、持続不可能であるという説に異議を唱えています。H100 GPUを用いたAI推論のコストを計算することで、著者は、入力処理のコストは驚くほど低い(100万トークンあたり数セント)一方、出力生成のコストは非常に高い(100万トークンあたり数ドル)ことを示しています。このコストの非対称性は、コーディングアシスタントなどのアプリケーションの収益性と、ビデオ生成などのアプリケーションの高コストを説明しています。著者は、このコストの不均衡はしばしば見過ごされており、AI推論のコストを過大評価し、既存のプレーヤーに利益をもたらし、競争とイノベーションを阻害する可能性があると主張しています。

続きを読む