株式会社Lightblue（代表取締役：園田亜斗夢 本社：東京都千代田区 以下「Lightblue」）は3月22日、720億パラメーターの日本語LLMモデル「ao-Karasu」を公開したと発表した。
▼東京大学発AIスタートアップLightblue、国内最高水準の日本語LLMモデル「ao-Karasu」
ao-Karasuとは、商用利用可能な日本語LLM
日本語性能において国内最高水準のベンチマークとなった「ao-Karasu」は、2024年3月19日にLightblueが公開した日本語LLMモデル。
720億パラメータのQwen 1.5 72Bに対してファインチューニングしたモデルで、オープンソースのデータセットに加えLightblueが独自に整備したデータセットでトレーニングを実施している。
日本語LLM「ao-Karasu」の特徴
Lightblueが手掛ける「ao-Karasu」は、日本語性能を高めたモデルとしては最大規模の720億パラメータの日本語LLM。
Stability AI社が提供する日本語性能のベンチマーク、Japanese MT-Benchの自動評価において「ao-Karasu」は国内最高水準の評価であり、GPT-3.5 Turboを超える性能を実証した。
▼日本語言語モデルのベンチマークMT-Benchでの評価結果（2024年3月13日時点）
※順位に関する情報は、2024年3月13日時点のもの。
※平均点は、「数学」「コーディング」を除いた6項目によるもの。
＜リンク＞
