技術分野
モデルを動かすためのエンジニアリング実践：推論の最適化、GPUメモリとコスト、Servingアーキテクチャ、インフラの選定。
20 件のおすすめ過去30日間 0 件収録記事数 23 件
公開記事から選んだ直近12か月の主な出来事を、発表・発生日順に表示しています。
MicrosoftとHugging Faceは、AIエージェントが残すデータベースの最終状態と副作用を評価するThinkingBoxとベンチマークThinkingBox-Benchを公開しました。507の業務ワークフローを対象に18モデルを各20回評価し、成功したツール呼び出しだけでは正しい結果や一貫性を判断できないことを示しています。ベンチマークはOpenEnv経由で利用できます。
推荐理由：会話やツール呼び出しではなく、データベースの最終状態と副作用で成否を判定し、20回の反復で業務エージェントの再現性を比較する評価方法が分かります。
ServiceNow CoreAIは、企業環境でのモデルの失敗をもとに学習タスクを生成・検証する「AutoSynthData」を開発した。EnterpriseOps GymのHybridでは2,000件を約18時間で生成し、Gemma-4-26B-A4B-itの平均Pass@1が7.2ポイント向上、検証器成功率は63.01%から68.55%になった。
推荐理由：モデルの失敗から学習課題を作り、実行可能性や検証器まで確認する手順と、EnterpriseOps Gymでの数値結果を読める。
Hugging Faceは、TransformersでGGUF形式のモデルを読み込み、ローカル実行できるようにしました。初期対応はApple Silicon上のQwen3.5系で、ggmlのMetalカーネルを利用し、ベンチマークでは3種類のチェックポイントでllama.cppに近い性能を示しています。現時点のパック済み推論はMPSのみで、対応アーキテクチャにも制限があります。
推荐理由：GGUFをTransformersで扱う方法に加え、llama.cppとの速度比較や対応環境も示され、ローカル推論での使い分けを判断できます。
Hugging Faceは、tokenizers v1のリリース候補版について、v0.23と同じトークンIDを保ちながら、Apple M4 Maxの1スレッド測定でエンコードが3〜30倍高速になったと報告した。8ワーカーでは線形スケーリングの76%に達し、測定対象の10モデルファミリーで評価している。リリース候補版はcrates.ioで公開され、既存と同じAPIで利用できる。
推荐理由：比較条件やキャッシュの扱いを明示したうえで速度とスケーリングを測定しており、トークナイザーの性能評価を読み解く手掛かりになる。
Preferred Networks（PFN）とPreferred Computing Infrastructure（PFCI）は、MN-Core 2の計算資源を材料探索用シミュレーターMatlantis向けに2026年中に提供開始する計画を発表しました。
推荐理由：MN-Core 2は対象となる結晶構造計算でGPUと同じ精度を保ち、最大4倍程度高速化できるとされ、既存環境を変えずに利用できる計画です。
ALTK-Evolveに、AIエージェントの判断の揺らぎを調べるConsistency Analyzerと、一貫性を改善するガイドライン生成機能が追加されました。研究チームは、GPT-4.1を使うAppWorldの実験で、平均成功率を下げずに実行間の一貫性を改善したと報告しています。
推荐理由：平均成功率だけでは見えないエージェントの再現性を、Pass^kとMean@kの差で測り、判断の揺らぎを特定して改善する手順を示しています。
Sakana AIはSakana Marlinに、レポートについてAIエージェントに質問し、引用元の根拠箇所を確認できる「Interactive Reading」と、編集可能なPowerPoint出力を追加しました。PowerPointでは文章や図形、表・グラフのデータや書式を変更でき、各スライドに出典URLが記載されます。任意のスライドテンプレートに対応し、無料トライアルも利用できます。
推荐理由：調査レポートの理解・検証・共有を支援する二つの機能を示し、AIリサーチ後に残る意思決定前の作業を具体的に把握できます。
Sakana AIは、複数のオープンモデルや特化型モデルを組み合わせるFugu MaxとFugu Ultra v2を公開しました。Fugu Maxは入力1Mトークンあたり$2、出力1Mトークンあたり$6で、7つのベンチマークのうち10項目中7項目でコスト性能のパレートフロンティアを拡張したとしています。
推荐理由：低コストを狙うFugu Maxと性能を重視するFugu Ultra v2を比較し、複数モデルを組み合わせるオーケストレーションの二つの方向性を示しています。
Hugging Faceは、AUTOMATIC1111の機能の大半を単一のワークフローキャンバスに再構築したWorkflow1111を公開しました。73ノードで構成された11のメディアパイプラインは、画像生成や画像編集、検出からのインペイントマスク作成、画像から動画への変換などに対応します。
推荐理由：11のメディアパイプラインを単一キャンバスにまとめ、RESTエンドポイントやMCPツールとしても呼び出せる構成が、Gradio Workflowの活用範囲を具体的に示しています。
Hugging Faceのブログは、TRL v1.14のAsyncGRPOTrainerでLoRAアダプターのみをHugging Face Jobs上のvLLMに同期し、学習と推論を別マシンで実行する構成を紹介しています。
推荐理由：LoRAアダプターをStorage Bucket経由で同期する構成と、5回の実験でボトルネックを移しながら所要時間を短縮した手順を具体的に追えます。
筆者はTRLとOpenEnvを使い、Qwen/Qwen3.5-35B-A3Bを水彩画のコード生成に向けて強化学習し、データセットや環境、学習スクリプト、モデルを公開しました。手作業で評価した178点の絵を報酬に使い、報酬配分の異なる3つの学習結果を比較しています。ペアワイズ判定を使った設定では、参照画像に近づくにつれて描画の質や絵の具の使用量が向上したと報告しています。
推荐理由：手描き評価の178点を報酬に組み込む設計と3種類の報酬配分を比較し、好みを反映した学習で何が変わるかを具体的に示しています。
Hugging Faceは、207種のWebGPUカーネルと、Hubから読み込んで実行するJavaScriptライブラリ@huggingface/kernelsを公開した。
推荐理由：カーネルごとに契約、正当性テスト、ベンチマークをまとめて公開し、実機の検証結果をFleetで集める設計が、WebGPU最適化の進め方を具体化している。
Anthropicは、ゼロデータ保持（ZDR）のプライバシーと不正利用を検知する安全対策を組み合わせたEnterprise Frontier Safeguards（EFS）を発表しました。監視用の活動データは顧客自身のクラウド環境に保存でき、異常のシグナルは顧客側のチームに直接送られます。EFSは今秋後半から段階的に提供される予定です。
推荐理由：顧客管理下のクラウド保存と自動監視を組み合わせる設計が、機密データを扱う企業の導入条件にどう応えるかを具体的に把握できます。
Sentence Transformers v6.0にMultiVectorEncoderが導入され、ColBERT形式のMulti-Vector検索モデルを学習・ファインチューニングする手順が公開されました。
推荐理由：MIRIADの医療検索評価を通じて、学習データや文書長の設定が検索精度に与える差と、インデックス圧縮とのトレードオフを具体的に追えます。
Hugging Faceは、Gradioに組み込まれたgr.Workflowを紹介しました。処理手順を型付きノードのグラフとして組み立て、ドラッグ＆ドロップの画面で各ノードを実行し、中間結果を確認できます。ワークフローはREST APIとしても利用でき、Hugging Face Spacesへ1コマンドでデプロイできます。
推荐理由：処理手順をグラフとして操作でき、各段階の実行結果を確認しながら、同じワークフローをREST APIとして呼び出せる点が具体例とともに示されています。
Hugging Faceは、Papers with Codeの検索基盤を、Jobsによる論文埋め込みの一括生成、Storage Bucketsを介した成果物の受け渡し、Inference Endpointsによる検索時の埋め込み生成を組み合わせたハイブリッド検索として構築しました。
推荐理由：バッチ処理、オンライン検索、成果物の受け渡しを分けた設計を、低次元化やコールドスタート時のフォールバックを含む実測値とともに確認できます。
Hugging FaceとIBM Researchは、ALTK-Evolveによるエージェントの自己蒸留メモリを8モデルで評価し、適切なガイドライン量はモデルの能力によって異なると報告しました。
推荐理由：8モデルをAppWorldで比較し、性能帯ごとに有効なメモリ量が異なる結果を示しており、精度とトークンコストの調整方法を把握できます。
Sentence Transformers v6.0で、ColBERT方式の遅延インタラクション検索に対応する第4のモデル型MultiVectorEncoderが追加されました。
推荐理由：密ベクトルとの精度・容量の比較に加え、検索や画像文書への適用例も示し、導入時の設計上のトレードオフを具体的に把握できます。
Dharma AIは、制約を考慮したGPU割り当て方式をFIFOスケジューラと7つのシナリオで比較し、同一のハードウェアとワークロードでGPU利用率を最大33ポイント、優先度加重出力を最大105.1%改善しました。
推荐理由：FIFOとの7シナリオ比較に加え、制約を組み込んだ割り当て方法と需要予測の設計を示し、GPU運用の改善策を具体的に追えます。
Strands Robots、LeRobot、Hugging Face Storage Bucketsを使い、ロボットのデモ記録から学習、実機へのポリシー展開までをつなぐデータループを解説しています。
推荐理由：記録から学習、実機への展開までを同じLeRobot形式でつなぎ、Storage Bucketsへの同期とストリーミングでデータを扱う手順を具体例から追えます。