株式会社Lightblue、国内最高水準の日本語LLMモデル「ao-Karasu」を公開。東京大学発AIスタートアップ！

株式会社Lightblue（代表取締役：園田亜斗夢　本社：東京都千代田区　以下「Lightblue」）は3月22日、720億パラメーターの日本語LLMモデル「ao-Karasu」を公開したと発表した。

▼東京大学発AIスタートアップLightblue、国内最高水準の日本語LLMモデル「ao-Karasu」

ao-Karasuとは、商用利用可能な日本語LLM

日本語性能において国内最高水準のベンチマークとなった「ao-Karasu」は、2024年3月19日にLightblueが公開した日本語LLMモデル。

720億パラメータのQwen 1.5 72Bに対してファインチューニングしたモデルで、オープンソースのデータセットに加えLightblueが独自に整備したデータセットでトレーニングを実施している。

Lightblueが手掛ける「ao-Karasu」は、日本語性能を高めたモデルとしては最大規模の720億パラメータの日本語LLM。

Stability AI社が提供する日本語性能のベンチマーク、Japanese MT-Benchの自動評価において「ao-Karasu」は国内最高水準の評価であり、GPT-3.5 Turboを超える性能を実証した。

▼日本語言語モデルのベンチマークMT-Benchでの評価結果（2024年3月13日時点）

※順位に関する情報は、2024年3月13日時点のもの。
※平均点は、「数学」「コーディング」を除いた6項目によるもの。

＜リンク＞