そもそも「オープンウエイトAI」とは何か

生成AIの規制を考えるうえで、扱いが難しくなっているのが「オープンウエイトAI」です。これは、AIが学習によって獲得した「重み（ウェイト）」と呼ばれる数値データを公開し、第三者がダウンロードして利用できるようにしたAIモデルを指します。重みは、AIが文章などを処理するときの判断を左右する学習成果の中核部分です。モデルによって規模は大きく異なり、数十億から数千億規模のパラメータを持つものもあります。パラメータとはAI内部で調整された数値で、これらの値が集まったものがモデルの重みです。公開されていれば、開発企業のクラウドを利用せず、自社サーバーやパソコンでAIを動かすことも可能になります。

ただし、「オープンウエイト」と「オープンソース」は同じ意味ではありません。重みが公開されていても、学習データや学習用コード、開発手法まですべて公開されているとは限らないためです。この違いはAI審査を考える際にも見逃せません。オープンウエイトAIは、一度ダウンロードされると複製や改変が容易になり、開発元が後からモデルを更新しても、すでに配布されたコピーには反映されません。AIを「提供企業が管理するサービス」から「利用者が保有できる技術」へ変える性質を持っているといえるでしょう。

「公開AIなら審査対象外」という単純な制度ではない

オープンウエイトAIが支持される理由には、AI開発の裾野を広げられることがあります。大規模なAIをゼロから開発するには、膨大な計算資源と資金が必要です。学習済みモデルが公開されれば、大学やスタートアップでも既存モデルを土台に研究でき、特定の業務や言語に合わせて調整できます。自社サーバーで運用すれば、顧客情報や社内資料を外部のAIサービスへ送らず処理できるケースもあるでしょう。研究や新規事業を促すという意味で、オープンモデルには大きな価値があると考えられます。

EUのAI法も、この利点を踏まえて一定の配慮をしています。自由・オープンソースのライセンスで提供される汎用AIモデルについては、条件を満たせば一部の義務が免除されます。ただし、高い影響力を持つ「システミックリスク」を伴う汎用AIモデルには、この例外がそのまま適用されるわけではありません。EUでは汎用AIモデルに関する義務が2025年8月2日から適用され、2026年8月2日から欧州委員会による執行も本格化しています。違反した汎用AIモデル提供者には、最大1,500万ユーロ、または前年度の世界年間売上高の3％のうち高い方を上限とする制裁金が科される可能性があります。オープンであれば責任まで軽くなるという制度ではないことが分かります。

自由に改変できる強みが規制を難しくする

AI審査では、モデルの危険性を判断する材料として数字も使われています。EUのAI法では、汎用AIモデルが「システミックリスク」を持つか判断する際、学習に使用した計算量が10の25乗FLOPを超えていることが一つの基準です。FLOPとはコンピューターが行う計算量を表す指標で、ここでは「AIを学習させるためにどれだけ大規模な計算を行ったか」を示す目安と考えると分かりやすいでしょう。数字が非常に大きいため難しく見えますが、高度なモデルを規制対象として選別するための一つの物差しです。

ただし、10の25乗FLOPを下回れば安全という意味ではありません。EUでは、利用者数やモデルの能力、社会への影響などを踏まえて、基準以下でもシステミックリスクを持つモデルとして指定できる仕組みになっています。反対に、基準を超えたモデルの提供者も、要件を満たせばシステミックリスクがないことを示して指定対象から外すよう求めることができます。計算量という数字だけで機械的に危険度を決めるのではなく、実際の能力と影響を合わせて判断する設計だといえます。

公開後に「誰が責任を負うのか」が最大の難題になる

オープンウエイトAIでは、モデルが公開された後に「作った人」と「使い方を決める人」が離れていきます。元の開発企業が安全対策を入れていても、別の企業や研究者がモデルを調整し、安全機能を変更することがあります。そのモデルがさらに別のサービスへ組み込まれれば、問題が起きた際に誰が責任を負うのか分かりにくくなります。クラウド型AIなら運営企業がモデルを更新できますが、オープンウエイトAIでは、すでにダウンロードされたコピーまで一斉に修正することは困難です。ここに従来のソフトウェアやサービスとは異なる規制上の難しさがあります。

厳しく規制すれば安全になるという単純な問題でもありません。オープンモデルに大企業と同じ審査コストを求めれば、大学やスタートアップがAI開発へ参加しにくくなり、資金力のある企業への技術集中が進む可能性があります。一方、公開モデルという理由だけで規制を軽くすれば、高性能なAIが世界中へコピーされた後に問題が発覚しても、止められない状況が生まれかねません。AI審査は「公開か非公開か」という二択ではなく、計算量、モデルの能力、利用規模、改変可能性、社会への影響を組み合わせて判断する方向へ進むと考えられます。開発時だけで審査を終わらせず、公開、改変、サービス提供の各段階で責任を整理できるかが、オープンウエイトAI時代の規制を左右するのではないでしょうか。