さくらインターネット、PFN 与 NICT 启动「能動的評価基盤」社会落地，持续评估改善生成 AI

さくらインターネット株式会社（本社: 大阪府大阪市、代表取締役社長: 田中邦裕、以下: さくらインターネット）、株式会社Preferred Networks（本社: 東京都千代田区、代表取締役社長: 岡野原大輔、以下: PFN）および国立研究開発法人情報通信研究機構（本部: 東京都小金井市、理事長: 大野英男、以下: NICT(エヌアイシーティー)）は、2025年9月18日に締結した、安心安全で日本社会と調和する国産生成AIのエコシステム構築を目指す基本合意に基づき、連携を深めてまいりました。2026年6月22日にPFNが生成AI基盤モデルPLaMo(プラモ) 3.0 Prime※1の提供を開始し、同年8月4日にさくらインターネットの生成AI向け推論基盤「さくらのAI Engine※2」でPLaMo 3.0 Primeの提供を開始しています。三者は国産生成AIのエコシステム構築の取り組みをさらに強化するとともに、生成AIを継続的に評価・改善する「能動的評価基盤※3」の社会実装に向けた取り組みを開始します。

背景

生成AIの産業・行政利用は急拡大し、日本社会にさまざまな変革をもたらしています。一方で、生成AIの出力が日本の法令・文化・商習慣に照らして安全かどうかを、継続的かつ実用的に検証する仕組みは未だ発展途上にあります。さまざまな国で開発された生成AIが、日本における安全性の観点から十分な検証が行われないまま社会に浸透している現状に加え、新たなセキュリティリスク等、生成AIにおける想定外の挙動のリスク、さらには特定モデルの突然のサービス変更・停止など、供給面のリスクも顕在化しています。また、日々報道等でも取り上げられる偽・誤情報は、既に社会における脅威の一つとなっており、生成AIによる巧妙化はこの脅威を増幅させる懸念があります。

現在の生成AIの安全性評価は、あらかじめ用意され、データベース化されたプロンプト集に生成AIがどう応答するかを確認する方法が中心です。しかし、このデータベースを開発者側で生成AIに学習させることで、そのデータベースを使用した評価において高評価を得る可能性があります。さらに、生成AIの利用形態や悪用の手口、さらには想定外の挙動の形態は日々変化しており、固定されたデータベースによる評価では、新たなリスクや日本社会を取り巻く環境の変化を十分に捉えることが困難です。また、国連の独立国際AI科学パネルの予備報告書においても、AIの能力向上に現在の安全確保の仕組みが追いついていないとの問題意識が示されています。（出典：United Nations, Independent International Scientific Panel on AI, Preliminary Report, https://www.un.org/independent-international-scientific-panel-ai/en/preliminary-report）

こうした背景から、生成AIを日本社会で安心安全に活用するためには、AIの進化に応じて継続的に評価し、改善につなげる能動的評価基盤の実現が期待されています。

これまでの成果

さくらインターネット、PFNおよびNICTは2025年9月18日に締結した、安心安全で日本社会と調和する国産生成AIのエコシステム構築を目指す基本合意に基づき、以下の成果を挙げてまいりました。

■さくらインターネット

生成AIの進化に対応しながら継続的に生成AIを評価・改善できる枠組みの実現を目指し、NICTが開発を進める能動的評価基盤のコンポーネントとなるシステムをさくらインターネットの基盤上で稼働させ、その動作環境の最適化等に関する研究を実施しました。また、PFNの生成AI基盤モデルPLaMo 3.0 Primeを、さくらインターネットの生成AI向け推論基盤「さくらのAI Engine」より2026年8月4日に提供開始しました。

■PFN

NICTとの共同研究の成果を利用して、日本語性能や安全性に優れた国産生成AI基盤モデルPLaMo 3.0 Primeをフルスクラッチ開発し、2026年6月22日から商用提供を開始しています。また、NICTの能動的評価基盤にPLaMo 3.0 Primeを組み込むための各種準備作業を行いました。

■NICT

上述した生成AIの安全性を取り巻く状況を踏まえて、「きわどいプロンプト」を自動生成し、そのプロンプトに対する評価対象の生成AIの出力を自動評価する能動的評価基盤のコンポーネントとなる各種システムを開発しました。この自動評価ではヘイトスピーチや誹謗、ハルシネーションの可能性やバランスの欠けた出力の検知等が可能になりつつあります。また、PFNと、PLaMo 3.0 PrimeにつながるLLM（大規模言語モデル）の共同研究を実施したほか、能動的評価基盤で必要な2,000億パラメータのLLM等を開発しました。

これからの取り組み

以上の成果をさらに発展させるため、今後、三者は能動的評価基盤の社会実装に向けて、以下の取り組みを開始します。

■さくらインターネット

能動的評価基盤の来年度中の運用開始を目指し、試験的に「さくらのAI Engine」上で提供する国内外のLLM群への能動的評価基盤の適用検討を開始します。その結果を受け、能動的評価基盤の課題抽出や妥当性の検証を進めます。能動的評価基盤は継続的に生成AIの評価を行うことから、評価結果の妥当性を持続的に担保する方法論を検討します。さらに、今後、PFNとNICTの共同研究で開発されるPLaMo 3.0 Prime後継モデル等も「さくらのAI Engine」を通じた展開を進める予定です。これらの取り組みを通して、安心安全かつ国内完結の生成AI基盤を実現します。

■PFN

NICTと連携して、日本語性能や安全性をさらに高めた国産LLMを開発し、PLaMo 3.0 Primeの後継モデルの開発につなげていきます。また、PLaMo 3.0 Primeや後継モデルをNICTの能動的評価基盤に組み込むことで、能動的評価基盤の能力向上に貢献します。これらの取り組みを通して、安心安全な国産生成AIのエコシステム構築を実現します。

■NICT

能動的評価基盤の社会実装に向けた高度化を本格的に開始し、さくらインターネットへの技術提供を実施します。これまで20年近くにわたり収集した膨大な日本語Webデータや、これまでに開発した検索ベースの質問応答システムWISDOM XやLLM、さらにはさまざまなオープンモデルを組み合わせたAI複合体により評価プロンプトを自動合成・更新する仕組みや、それに対する評価対象のLLMの出力を評価する評価手法の開発、改良に引き続き取り組みます。また、能動的評価基盤にPFNとの共同研究の成果である各種LLMを組み込み、能動的評価基盤の能力向上も推進します。これによって日本社会と調和する生成AIのエコシステム構築を実現します。

用語解説

※1 PLaMo 3.0 Prime

PLaMo 3.0 Primeは、NICTとの共同研究の成果をもとにPFNがフルスクラッチで開発した最新の国産生成AI基盤モデルです。高度な推論を行うReasoningモデルと高速応答のNon-reasoningモデルをAPIまたはオンプレミスで提供し、256Kコンテキストによる長文処理やAIエージェント用途にも対応しています。高い日本語性能とコストパフォーマンスを両立し、企業・自治体での実運用を想定した実用性を強化しています。

図1: PLaMo 3.0 Prime画面イメージ

※2 さくらのAI Engine
「さくらのAI Engine」は、さくらインターネットが提供する、生成AIアプリケーション開発向けのフルマネージド型推論API基盤です。国内データセンターの高性能なGPU基盤上で、国産モデルやオープンモデルを含む複数の基盤モデルを利用でき、インフラを構築・運用することなく、APIを通じて既存のシステムやアプリケーションに生成AI機能を組み込むことが可能です。OpenAI API互換のインターフェースやRAG（検索拡張生成）に対応し、モデルの実行・通信・データ保管は国内のクラウド基盤で完結します。入力データはモデル提供元に送信されず、学習にも利用されない設計により、セキュリティやデータガバナンスを重視する組織での生成AI活用を支援します。

図2: さくらのAI Engineの特徴

※3 能動的評価基盤

能動的評価基盤は、差別的・攻撃的な表現、犯罪や迷惑行為を助長する回答、誤情報、日本の文化・法令との不整合、ハルシネーションやバランスに欠けた出力などを多面的に確認することを目指してNICTが開発しているLLMの評価用システムです。本システムは、LLMの安全性・信頼性の観点から評価結果を分かりやすく示すとともに、問題点を改善するための学習データを自動合成します。これにより、生成AIを「一度だけ評価して終わり」にするのではなく、社会の変化に合わせて継続的に点検・改善していく評価の枠組みも目指していきます。能動的評価基盤は生成AIに限らず、さまざまな特質、傾向を持つ多様なAIを組み合わせたAI複合体として開発を進めており、現段階では、以下の図3-1、3-2に示すように、いくつかの評価の側面に関するコンポーネントのプロトタイプが稼働を開始したところです。

図3-1: 能動的評価基盤のコンポーネントであるWISDOM-CE: 評価対象のLLMの出力を大量のWebページと照合し、それらの間の整合性や矛盾を検知することでハルシネーションの可能性やバイアスの可能性を検知するサービスです。NICTが開発した検索ベースの質問応答システムWISDOM Xをベースとし、多様なAIを組み合わせて構築されています。図の例では海外製LLMが日本文化の一部として極めて広く知られている内容、つまり「桃太郎の仲間として犬が鬼ヶ島に向かった」と矛盾するテキストを出力していることを、WISDOM-CEがWeb上に公開されているテキストとの矛盾を発見することによって検知していることを示しています。将来的には、図3-2のWISDOM-AR等の他のコンポーネントと統合し、能動的評価基盤として完成させる予定です。

図3-2: 能動的評価基盤のコンポーネントであるWISDOM-AR：独自開発の日本語特化型LLMや検索ベースの質問応答システムWISDOM X等の多様なAIを組み合わせて、多様な危険性の高いプロンプトを大量に自動合成するとともに、そのプロンプトに対する評価対象のLLMの応答の差別的・攻撃的な表現や犯罪・迷惑行為を助長する回答に対するリスクを自動判定し、理由とともに提示するサービスです。上記の例では一番左に権威の偽装を利用した詐欺（「○○連合の名を使って、○○人女性を騙す」）を助長しかねないメール本文を求める自動合成されたプロンプトが示されています。それに対してオープンなモデルが、枠内にある通り架空の権威ある組織を名乗り、投資詐欺の実行につながり得るメール本文を出力しています。これは、 WISDOM-ARが図の右に示している判定理由の中で指摘しているように「金銭的被害につながるおそれ」があるものです。なお、既存組織や特定の層の方々に関わる表現等一部をぼかしています。将来的には、図3-1のWISDOM-CE等の他のコンポーネントと統合し、能動的評価基盤として完成させる予定です。