日本発のAIスタートアップ「Sakana AI」。NVIDIAやNTT、ソニーなど、大企業や投資家がこぞって出資する同社が、2025年1月30日に小規模日本語言語モデル「TinySwallow-1.5B」を発表しました。
TinySwallowって何？他の生成AIと何が違うの？
TinySwallowをiPhoneにインストールする方法が知りたい
この記事を読むことで、上記のような疑問やニーズが解決します。
TinySwallowは日本人にとって待望の日本語言語モデルで、とても軽量なためスマートフォンの端末上で動作させられます。（ChatGPTなどはWeb上です。）
こんにちは、シントビ管理人のなかむーです。
昨今のAI中心地はシリコンバレーでしたが、日本のスタートアップも頑張っています。
今回も文系目線でわかりやすく解説していきます。
この記事では以下について解説します。
- Sakana AIのTinySwallowのメリットとデメリット
- iPhoneにTinySwallowをインストールする手順
今回の内容を読めば、最新の言語モデルの一つ「TinySwallow」のメリットデメリットを理解し、またインストールして実際に使うことができます。TinySwallowを活用することで、自身の業務や会社の業務を効率化できるでしょう。
それでは解説します。
Sakana AIのTinySwallowとは？メリット・デメリット
昨今、主流の言語モデルは「Large Language Model（LLM）」です。このLLMは高性能な反面、開発時の計算資源コストが膨大な点や運用面での制約がある点（オンラインでしか使えない）が課題でした。
一方でSakana AIが開発したTinySwallowは、1.5Bパラメータの「Small Language Model （SLM）」です。
LLMをSLMに効率的に移転する新しい知識蒸留手法「TAID」を用いて、32Bパラメータの大規模言語モデルから知識を効率的に転移させて作られました。
「Knowledge Distillation（知識蒸留）」とは、大きなモデル（教師）の知識や能力を、より小さなモデル（生徒）に効率的に移転する技術です。教師から生徒への知識の圧縮転移とも言えます。
「TAID（Temporally Adaptive Interpolated Distillation：時間適応型補間蒸留）」は、知識蒸留の新しい手法で、学習段階に応じて徐々に知識を転移させます。例えば、生徒が成長するにつれて、先生の教え方を変えていくようなイメージです。
従来のLLMと比較してのTinySwallowのメリットとデメリットを紹介します。
TinySwallowの3つのメリット
TinySwallowの主なメリットを3つ紹介します。
- 小規模ながら高性能
同規模では最高水準の日本語ベンチマークスコアを達成しています。 - エッジデバイス対応
スマートフォンなどのエッジデバイス（スマホなどの端末上）で動作可能です。つまりネットにつながっていなくても、利用できます。 - オープンな開発・公開
京都大学や国立国語研究所、東京科学大学のSwallowチームなど、複数の研究機関との共同開発です。モデルはHugging Face Hubで公開されており、誰でも利用可能です。
今回特に注目したいのは、「②エッジデバイス対応」です。これは、私たちのスマートフォンやパソコンなどの端末の中に、TinySwallowがインストールされて動作することを意味します。もう少しわかりやすく説明すると、スマホなどをネットに繋いでいなくても利用できるようになりました。
ChatGPTやGeminiを始めとする多くのAI言語モデルは、学習データが莫大なため、パソコンやスマートフォンにインストールすることはせず、ネットを介して利用することが主流です。（ChatGPTなどのスマホアプリも裏ではネットを介して接続し、AIを利用しています）ですから、なにかしらネットが使えない状況下では、AIを利用することはできません。
そのため、具体的には以下のようなメリットがあります。
また現時点では、TinySwallowはオープンに公開されており、誰でも利用可能です。無料で利用できるのは嬉しいですね。
TinySwallowの3つのデメリット
小規模化はメリットだけではありません。TinySwallowのデメリットについても解説します。
- タスクの限界
複雑な推論や高度な判断を要する作業は苦手です。 - 知識・機能の制限
蒸留元のモデルを超える知識はありません。最新の情報を取得するような機能もありません。 - 言語の制約
日本語に特化しているため、多言語での活用は限定的です。長い文章の翻訳などには向かないでしょう。
SLMは単純なタスクに向いている反面、複雑な推論や判断を要する作業は苦手です。例えば、戦略立案やデータ分析、高度なプログラミングなど。これらのタスクはLLMで行うのが良いでしょう。また、学習情報にも制限があります。日本の首相について確認した際には、「2023年1月時点で」と前置きをしました。
また、TinySwallowは日本語特化です。簡単な外国語文章の翻訳はできますし、英語から韓国語への翻訳も可能でしたが、長文の翻訳の精度には期待できないかもしれません。
日本の首相はまだ岸田首相と回答しましたし、アメリカの大統領がトランプ大統領になったことも知りません。変化する情報を扱う場合には向いていませんね。
なお、気になる端末への影響について、iPhone用アプリのサイズは547.7MB、学習用のファイルのサイズは約1.5GBでした。小さくはないものの、そこまで大きいという印象はありませんね。
現時点でのTinySwallowの使いどころ｜良い例・悪い例
紹介した通り、メリットとデメリットはトレードオフの関係にあります。結局、使いどころ次第ということですね。
そこで、TinySwallowのオススメな（良い）使い方例を紹介します。
- プライバシーを重視したい
- オフライン環境で利用したい
- エッジデバイスで高速な処理をしたい
- 基本的な日本語文章生成や対話が主な用途である
- LLMの運用コストを抑えたい
反対に、オススメしない（悪い）使い方例は以下の通りです。
オフラインで利用できるということは、個人情報などがWeb上に流出しない、学習されないということです。これは安全ですね。
- 複雑な分析や高度な推論を必要とする
- 長文の翻訳を必要とする
- 大規模データの処理をする
- 高度な専門知識を要する質問への回答を必要とする
- 最高精度の結果を求める
ミスが許されないような仕事で使用するには向かないでしょうが、個人がプライベートで使用する分には問題ないでしょう。
昨今はAIの高機能さが取り沙汰されますが、そこまで高機能は必要としない方や用途には十分でしょう。
次章では、TinySwallowをiPhoneにインストールする方法について解説します。「端末にインストールするのは面倒！」「iPhoneではない」という方は、Webブラウザ用のチャットアプリもありますので、こちらのTinySwallow ChatUIを試してみてください。ダウンロードすれば、完全オフラインで利用可能です。
【画像あり】TinySwallowをiPhoneにインストールする手順
TinySwallowをiPhoneにインストールする手順を解説します。残念ながらAndroid向けはまだ提供されていないようです。
必要なファイルをダウンロードするために、まずGithubにアクセスしましょう。
Githubはプログラムやコードを共有・管理できるWebサービスです。
以下のような画面が表示されます。
続いて、Githubのページに記載がある「LLMFarmをダウンロード」のリンクよりAppStoreにアクセスし、「LLM Farm」というアプリをダウンロードします。念のため、アプリのインストールリンクはこちらです。
LLM Farmは端末上でAI言語モデルを動かすアプリです。
Githubより、TinySwallowのファイルをダウンロードして、端末に保存します。モデルは「Q8」と「Q5」の2つがあります。今回は「Q8」をダウンロードします。
保存先として「ファイル」を選択しました。
「LLM Farm」のアプリを開き、右上の「＋」をクリックします。
左メニュー「Basic」の項目にある、「Model」の項目にて「Select model」 > 「Import from file」の順に選択し、先程ダウンロードしたファイルを選び、インポートしましょう。
Titleに「TinySwallow」と入力し、Settings templateを「Custom」から「ChatML」に変更します。
左メニューの「Sampling」に項目にて、Tempを「0.7」にTop_kを「20」に変更します。
基本設定は完了です。
任意の変更として、PromptにてFormatを以下の文章に変更することが記載されています。（これはどちらでも構いません）
Prompt Formatを設定する場合はクリック
[system](あなたは、Sakana AI株式会社が開発したTinySwallowです。小型ながら、誠実で優秀なアシスタントです。)
<|im_start|>user
{{prompt}}<|im_end|>
<|im_start|>assistant
最後に右上の「Add」をクリックして完了です。
LLM FarmのChats欄にTinySwallowが追加されました。TinySwallowをクリックするとシンプルなチャット画面が表示されます。
インストール手順は以上です。
通信を切っても利用できるので、ぜひ試してみてください。
TinySwallowをiPhoneにインストールしてみよう
この記事ではSakana AIがリリースした日本語SLM「TinySwallow」について解説しました。
まだ発展途上ですが、今後の進化が楽しみな言語モデルですね。今回の内容を参考に、ご自身のスマホにインストールして試してみてください。
最後までお読みいただき、ありがとうございました！！
