株式会社Deepreneur、ChatGPT-3.5を上回る日本語LLM「blue-lizard」を開発。各社独自の高精度オンプレ型のLLMの構築サービスを開始

プレスリリース要約

「blue-lizard」はMetaのLlama-2-7bに日本語の学習データを用いて追加事前学習と独自データによるファインチューニングを行った70億パラメータのモデルで、JGLUEでの評価ではChatGPT-3.5を超えるスコアを記録し、日本語モデルの中で最高性能とされている。Deepreneurはこの開発で得たノウハウを活用し、各社独自のLLMの構築サービスを提供する。Deepreneurは、東大・松尾研発のAIスタートアップで、AI技術を活用した開発や企業のDXを推進している。
  • 「blue-lizard」について

 「blue-lizard」はMetaのLlama-2-7bに対して、Wikipediaや書籍等の日本語の学習データを用いて追加事前学習と独自データによるファインチューニングを実施したモデルです。

 70億パラメータと非常に軽量なモデルであるにも関わらず、JGLUE(日本語タスクにおける評価ベンチマーク)を用いた評価では、ChatGPT-3.5を超えるスコアが算出されており、公開されている日本語モデルの中では最高性能になります。

表1:日本語ベンチマークJGLUEでの評価結果(世界)※1

表2:日本語ベンチマークJGLUEでの評価結果(国内)※1

※1 学習データにJGLUEのデータ(train, valid等)が含まれているモデルは比較から除外しています。

 ライセンスはLLAMA 2 Community License に準拠しており、Acceptable Use Policy に従う限りにおいては、研究および商業目的での利用が可能です。

  • 各社独自LLMの構築サービス提供開始

 Deepreneuerは、「blue-lizard」とその開発で得たノウハウ・知見を活用し、各社独自のLLMの構築のサービスを開始致しました。クラウド型はもちろんのこと、従来は困難であったオンプレ型まで、各社の個別の課題・要件に沿った各社独自のLLMの構築から、導入まで一気通貫した支援を実施します。

独自のLLMの構築サービスにご興味のある方は、以下のリンクからお問い合わせください。

https://www.deepreneur.com/contact

  • Deepreneur(ディープレナー)について

 Deepreneurは、東大・松尾研発のAIスタートアップです。

「AI技術を用いてこれまでにない新しい人間とテクノロジーの関係を築く。」という理念のもと、最新のDeep Learning技術を活用したAI・システムの開発、「blue-lizard」の提供、独自LLMの構築・導入支援を通じて、企業のDXを推進いたします。

代表者:代表取締役 澤田悠太

所在地:東京都文京区本郷6丁目25番14号 HONGO EGG内

設立:2023年4月28日

 URL:https://www.deepreneur.com/

引用元:PR TIMES

関連記事一覧