※この記事は、「DeAI: Shedding light on AI’s black box problem」を引用/翻訳したものです。
世界中の企業がAIを活用した製品の開発競争を繰り広げる中、日常生活におけるAIの役割はますます顕著になっています：AIは財務を管理し、医師の病気診断を助け、車を運転することができます。しかし、AIモデルは私たちのほとんどにとって事実上のブラックボックスです。その仕組みが見えないため、基礎となるアルゴリズムを盲目的に信頼するしかありません。
信頼を構築するためには、ユーザーがモデルがどのように訓練されたか、そして出力を生成する推論プロセスを検証する能力を持つ必要があります。ICPの計算能力とスマートコントラクトの表現力は、この機能を提供するユニークな位置にあります。
ブラックボックス問題
スタンフォード大学の人工知能指数レポート2024によると、回答者のほぼ半数がAIの悪用に不安を感じています。ハッカーはバックドアの脆弱性を通じてアクセスを得た後、アルゴリズムを改ざんし、自分たちの利益に資する悪意のある出力を生成してユーザーを誤導することができます。AI企業のAnthropicは最近、「スリーパーエージェント」の例を用いてこのリスクの深刻さを示す論文を発表しました。Anthropicは3つの大規模言語モデルに、特定の状況下で悪意のある行動をするようプログラムしました。これはモデルの発表時には気付かれませんでしたが、特定のプロンプトによって活性化される可能性がありました（そのため、スパイ活動にインスパイアされた名前が付けられています）。2023年に入力されたプロンプトは正確な出力を生成しましたが、2024年に切り替わるとスリーパーエージェントが作動し、モデルは誤った結果を出力しました。
2024年3月、セキュリティ企業のOligoは、OpenAI（ChatGPTの開発者）やAmazonを含む数千の開発者がAIアプリケーションをスケールするために使用しているオープンソースフレームワークのRayを標的とする進行中のサイバー攻撃を検出しました。7か月前に始まったこの攻撃により、AIの本番ワークロードの詳細が露呈し、ハッカーがトレーニング段階でモデルを改ざんし、OpenAI、Stripe、Slackのアカウントの認証情報など、機密性の高い個人データにアクセスできる可能性がありました。ハッカーは数百の企業から大量の計算能力も乗っ取り、それを暗号通貨のマイニングに使用しました。
重要なポイントは、悪意のある者がユーザーや開発者に気付かれることなくAIモデルを改ざんできるということです。ソースコード分析などのソフトウェアの整合性を評価する従来の技術は、AIモデルのサイズが大きいため実行不可能です。そのため、業界は信頼構築に対して別のアプローチを取る必要があります。
ブロックチェーン上のAI
分散型AI、略してDeAIは、AIとブロックチェーン技術の交差点を表す名称です。一部のプロジェクトはトークン化や分散型マーケットプレイスなどの周辺要素にこの用語を使用していますが、最も純粋な形のDeAIはモデルを完全にオンチェーンで実行し、スマートコントラクトを活用します。
ICPがこれを可能にする方法は以下の通りです
・セキュリティ：計算は複数のノードで複製され、ICPのコンセンサスメカニズムによって検証されます。このメカニズムは、チェーンキー暗号技術という高度な暗号メカニズムのスイートを活用して、AIモデルを改ざん不可能にします。ハッカーが標的にできる単一障害点はありません。
・検証可能性：オープンソースのスマートコントラクトにより、ユーザーはそれらに含まれるモデルが推論にデータをどのように使用しているかを確認できます。スマートコントラクトがサポートすれば、トレーニング段階にも同じレベルの透明性が適用されます。
・耐性：スマートコントラクトは常に利用可能で検閲耐性があり、単一のエンティティや法律によって制御されません。制御構造はDAOの形で分散化されるか、存在しない場合もあります。その場合、スマートコントラクトは誰のものでもなく、そのコードは不変です。
DeAIは従来のブロックチェーンネットワークにとっては計算とメモリの負荷が高すぎます。しかし、セキュリティ、スケーラビリティ、計算能力を組み合わせたICPの先進的な設計により、開発者は現在、推論を完全にオンチェーンで実行できます。長期的な目標は、GPU対応ノードを使用してスマートコントラクトでAIモデルのトレーニングをサポートすることで、ブラックボックス問題を一度に解決することです。開発者は、ICPのスマートコントラクト実行環境であるWebAssemblyが増加する言語とツールのライブラリをサポートしているため、Sonos Tract AI推論エンジンのようなオープンソースプロジェクトをDeAIモデルに統合することもできます。
ICPでのDeAIの動作を確認するには、Dfinityの創設者、社長、主任科学者のDominic Williamsが発表したデモをチェックしてください。
このデモでは、スマートコントラクトとして実行されるAIモデル（世界初）が様々な画像を正確に識別しています。
また、ICPが可能にするDeAIの潜在的なユースケースを探る本シリーズの第2部もお楽しみに。
ICPのDeAIについてさらに詳しく読む：https://internetcomputer.org/ai
Comentarios