ローカルLLMは安全？

モデルを手元の PC で動かしている間、文章の生成は PC の中で行われます。入力した内容がモデルの開発元に送られることはありません。モデルのファイル（GGUF）は重みのデータで、それ自体が通信することはないためです。

通信するのは、使っているアプリの機能です。モデルのダウンロード、アプリの更新の確認、ウェブ検索や外部のサービスとつなぐ機能などは、インターネットを使います。気になる場合は、アプリの設定と説明で、どの機能が通信するかを確かめてください。

このサイトが扱う GGUF は、重み（数値の並び）と設定だけを持つ形式で、読み込むときにファイルの中のプログラムを実行する仕組みがありません。Hugging Face で使われる safetensors も同じく、データだけを持つ形式です。

注意が要るのは、Python の pickle を使う古い形式（拡張子が .bin・.pt・.pth・.ckpt のものの多く）です。読み込むときに、ファイルに仕込まれたプログラムが実行されることがあります。GGUF を llama.cpp・Ollama・LM Studio で使うだけなら、この形式を扱うことはありません。

GGUF 自体はプログラムを含みませんが、細工した GGUF ファイルで、読み込むソフトの不具合を突く脆弱性が過去に報告されています。

• ・2024年2月：llama.cpp の GGUF の読み込みでのメモリ破壊（Cisco Talos の報告 TALOS-2024-1912・CVE-2024-21825 ほか）
• ・2026年3月：テンソルの大きさの計算の桁あふれによるメモリ破壊（CVE-2026-33298。llama.cpp b7824 で修正）

どれも修正済みですが、古い版を使い続けると影響を受けます。llama.cpp・Ollama・LM Studio は最新の版を使い、知らない配布元のファイルは特に注意してください。新しい形式のモデルを読み込むためにも、最新の版が必要です（モデルのページに、llama.cpp の本家が読み込める版を載せています）。

同じモデルの GGUF を、たくさんの人や会社が配っています。モデルのページでは、配布元ごとに次の区分を出しています（Hugging Face のアカウントという事実だけで決めています）。

元の開発元が配布

元のモデルを公開しているアカウント自身が、GGUF も配っています（例：Qwen が配る Qwen の GGUF）。

llama.cpp の開発元が変換

llama.cpp を開発している ggml-org のアカウントが変換して配っています。

第三者が変換して配布

元の開発元とは別の人・会社が、元のモデルを GGUF に変換して配っています。多くの人に使われている配布元もありますが、ファイルの中身を元の開発元が保証しているわけではありません。

Hugging Face のページでは、元のモデル（base_model の表示）、ダウンロード数、ファイルの更新の履歴を確かめられます。迷ったら、元の開発元か、多くの人に使われている配布元のファイルを選んでください。

名前に abliterated・uncensored・heretic などを含むモデルは、元のモデルが持つ「危険な依頼などを断る仕組み」を弱める・外す改変をしたことを示しています。モデルのページでは「改変版（名前に abliterated などを含む）」と表示しています。

断らずに答えるぶん、誤った内容や有害な内容を出すこともあります。改変の方法や程度は配布元によって違い、元の開発元の評価の対象外です。使う場合は、出力の扱いに注意してください。

「この国・この会社のモデルは危ないのでは」という心配の多くは、公式のアプリやクラウドの API に入力した内容が、その会社のサーバーに送られて保存されることについてです。モデルを手元の PC で動かす場合は、入力した内容はその会社に送られません（1. を参照）。

一方で、モデルが出す答えの内容（話題によって答えない・偏りがある、など）は、学習のされ方によって決まり、手元で動かしても変わりません。これはモデルごとの性質で、使う目的に合うかは自分で確かめてください。