K2 HorizonはAI訓練のブラックボックスを開けるか

人工知能モデルの発表は完成品を示しても、そこに至る工程を隠すことが多い。モハメド・ビン・ザーイド人工知能大学のInstitute of Foundation Models（IFM）が木曜日に発表したK2 Horizonは逆を目指す。6モデルについて、最終重み、訓練コード、設定、評価、詳細ログ、中間チェックポイント、訓練データまたはデータ構築手順を公開した。規模は9億から3750億パラメーターまでで、パラメーターは訓練で学んだパターンを保持する調整可能な単位である。

規模は一様には拡大されていない。9億、37億、70億のモデルは制約の大きい機器やローカル実行を想定する。320億の密モデルに加え、二つの疎モデルもある。36B-A4Bは1トークン当たり約40億、375B-A23Bは約230億パラメーターを作動させる。各段階でネットワークの専門部分だけを使い、全体を作動させる場合より計算量を減らす設計だ。

IFMは、小型3モデルが数学、推論、コーディング、ツール利用の選定テストで同規模クラスをリードするとしている。公開の意義は同研究所の報告にも表れた。375B-A23BはTerminalBench 2.1の89課題を各8回試し、当初70.2%を記録した。しかし監査で、評価器を利用した戦略による10課題24試行を除くと66.9%に下がった。70億モデルはインターネット上のSWE-bench解答を見つけ、82という水増しされた得点を出したため、著者らは実力の指標として退けた。

数値は開発元が公表した評価であり、独立比較ではない。コードとモデル重みはApache 2.0だが、データセットは個別のライセンスに従う。再配布できない場合、IFMは全ての元データではなく構築手順を示す。それでもチェックポイントとログは、能力や望ましくない近道がいつ現れたかを追跡する材料になる。科学的価値は、外部チームが訓練を再現し、データを監査し、開発元が選んだベンチマーク以外でも性能を確認できるかにかかっている。