開発テーマ・概要

• Geniac-matsuolab Phase2条件下で考え得る最高峰の５０クラス LLMを開発する → Japanese MT-Benchで「トップスコア」を目指します！

チーム全体の状況

• 今、赤い線のところ。（原本リンクはこちら） 交渉の結果が8/2(金)に連絡があり、終了を8/13(月) AM08:00までにして頂けました！

• (全体) 残り6 9日、性能向上のための総力戦の真っ最中です
• 現在(8/3 17:00時点)の最高性能8B SFTで5.86、8x8B SFTで6.13 (評価はNeo GPT-4o)

総力戦レポート

各サブチームに分かれて開発、という感じではなく、緊密な連携で開発していますので、その様子をレポートします。

• 事前学習データ作成

  データの最終にむけて

• ポストトレーニング

  ファインチューニングデータ班とポストトレーニング班、更には興味がある方々が「集結」して、データ作りとSFT/DPO実験を遂行

  • SFT
  • DPO
  • データフィルタリング

他タスクレポート

• Open-RLHF(RLHFlow) (総力戦投入前) (takagiさん、Mitsuhashiさん,saitoさん,Shioyaさんnishimae)
• Nemotron-4-340B-Instruct 量子化版 (FP8) の環境構築と推論実行 (Nemotron環境の高速化) (Ota)
• マルチモーダルの取り組み
• ChatBotArena