Block、会話のみで訓練された全二重音声モデル Dessa を発表

完全なレポート

Dessa は、トロントの深層学習スタートアップ Dessa の元メンバーによって設立され、Block の共同創設者 Jack Dorsey に直接報告する Block の AI 研究ラボによって構築されました。プロジェクトのリーダーはラガヴァン・トゥライラトナム氏です。公式ページには、人々がデッサと会話している様子のライブ録音が掲載されている。デッサは、何か面白いことがあった瞬間に笑い、映画のタイトルで話者が空白になると一文を終え、質問されるとより大きな声で話す――人間による操作は一切行われていないとブロック氏は強調する。

ブロック氏は、このモデルは単一の NVIDIA GB200 NVL72 でトレーニングされ、大規模な言語モデルに比べて数百倍少ない単語から言語を学習したと述べています (LLM はプログラミング言語なども学習する必要があるため、この比較が完全に同一ではないことは認めています)。研究室は、好奇心、人間とAIの間のより深い理解、安全性という3つの動機を挙げており、今日の音声AIは人間の声に含まれる感情をほとんど聞き取ることができず、医療のような現場では危険となる可能性があり、Dessaはそれを修正するための一歩であると主張している。

Dessa は現在研究プレビュー版です。ブロック氏は、AI 安全性研究者の小グループに、チームが予期していなかった表面リスクへの早期アクセスを提供しています。価格、一般発売日、オープンウェイトなどは発表されていない。同社はパラメータ数、データセットのサイズ、ベンチマークスコアを公開していないため、上記の技術的主張はブロック氏独自のものであり、独立した検証を待っていることに注意してください。