包括的なAIリスク管理を可能に
Robust Intelligenceのプラットフォームは、AIモデルのセキュリティ確保をEnd-to-Endで自動化します。
運用中のモデルは、導入前の検証で明らかになった弱点にカスタムフィットしたAI Firewallで保護されます。End-to-Endのリスク管理は、プラットフォームの2つの主要な構成要素によって実現されます。
運用中のモデルは、導入前の検証で明らかになった弱点にカスタムフィットしたAI Firewallで保護されます。End-to-Endのリスク管理は、プラットフォームの2つの主要な構成要素によって実現されます。
モデルの脆弱性を特定する
AIモデルは、脆弱性や誤った予測という形でリスクをもたらします。私たちのプラットフォームは、開発および生産全体を通して
リスクと脆弱性を特定するために、何百ものアルゴリズムによって生成されたテストを実行します。この継続的な検証プロセスにより、企業はAIリスクを軽減し、規制基準を満たすことができます。
リスクと脆弱性を特定するために、何百ものアルゴリズムによって生成されたテストを実行します。この継続的な検証プロセスにより、企業はAIリスクを軽減し、規制基準を満たすことができます。
AIリスクを緩和する
AIモデルは、異常な入力や悪意のある入力、また予期せぬモデルの挙動に対して備える必要があります。これは、出力が即座にユーザーに渡る生成AIであればなおさらです。Robust Intelligenceは、リスクを軽減するための手段をいくつか提供しています。AI Firewallは、入力と出力をリアルタイムで検査し、事実の矛盾、有害な出力、プロンプト注入、データ漏洩、その他の望ましくない反応を防止します。AI Testingによりリスクが明らかになった場合、当社のモデル・レジストリにより、ユーザーはより安全な代替モデルを選択することができます。
リスクを評価し管理する
本番モデルやデータに潜む新たなリスクを特定し、迅速に対処できるようにしておくことは、AIシステムを本番稼働可能な状態に維持するために不可欠です。当社のプラットフォームは、継続的な検証を通じて新たなリスクを発見すると、リアルタイムでアラートを送信します。アラートとしきい値は、お客様の仕様に合わせてカスタマイズして管理することができ、お好みのツールやワークフローと統合することができます。
レポート作成とガバナンスを自動化する
当社のプラットフォームは、AI Testingの結果を自動生成されたモデルカードに変換します。当社のガバナンス・ダッシュボードは、本番稼働中のすべてのAIモデルのステータスをハイレベルに表示します。これにより、監査準備とコンプライアンス要件が簡素化され、AI規制の枠組みにマッピングされます。
Robust Intelligenceの強み
Robust Intelligenceの強み
Robust Intelligenceはモデルをブラックボックスとして扱うため、どのようなモデルアーキテクチャでも導入可能です。たとえばTabularモデル、NLPモデル、コンピュータビジョンモデルなどへのサポートが可能です。
目的に合わせたカスタマイズ
既存のストレステストのパラメータを網羅するとともに、ビジネス・コンプライアンス上重要なカスタムテストや指標を柔軟に追加可能です。
スムーズな導入・利用
強力なREST APIとPython SDKを使用してRobust Intelligenceを接続。既存のプラットフォームへのインテグレーションや機械学習ワークフローの自動化を実現します。直感的な UI で分析結果を可視化し、社内で共有することができます。
拡張性
Robust Intelligenceは、数百ものモデルと大量のデータポイントをもつ既存の機械学習パイプラインに、シームレスに接続・拡張することができます。
AIのワークフローとの
シームレスな統合
Robust Intelligenceのプラットフォームは、AI開発パイプ
ラインとのネイティブな統合が可能です。データとモデルを接続するだけでAIリスク管理を始められます。
ラインとのネイティブな統合が可能です。データとモデルを接続するだけでAIリスク管理を始められます。
ワークフローの例
クラウドデータストレージからデータをストリーミングし、機能を抽出する
AIモデルを訓練する
モデルを自動的に検証し、テスト結果を実験追跡フレームワークに記録する
AI Firewallを1行のコードでモデルに設置し、本番環境に導入する
新たなセキュリティ・リスクを検出し、将来のAIリスクを軽減するために異常を特定する
あらゆるデータ
あらゆるモデル
あらゆるプラットフォーム
テクノロジーパートナー
東京海上グループでは、保険金支払業務、商品提案からカスタマーサポートに至るまで、さまざまな領域でAIを活用しています。Alのメリットは計り知れませんが、事業に導入すればするほど、リスクもより深刻化します。Robust Intelligenceが提供するユニークな技術を使えば、Alの脆弱性を特定し、こうしたリスクに対処することができます。私たちは、Robust Intelligenceとの連携を図り、ビジネス上のコラボレーションをさらに加速させることを約束します。
金融、コミュニケーション、ECなどAIの活用の場は飛躍的に広がりました。多種多様な事業を有するLINEヤフーでも有識者会議で議論を重ね、AI倫理基本方針を策定しましたが、ビジネスにおけるAI活用を後押しするにはさらにもう一歩、事業の現場でのガバナンス実施を可能にする手段の確保が必要です。Robust Intelligenceのソリューションは、開発・運用の現場におけるAIリスクの検証を可能にする一つの有効なツールと言えるでしょう。
NECは世界トップクラスの日本語性能を誇るLLM(Large Language Model)を開発しました。これにより、お客様向けに専門性の高いLLMの利用環境を提供します。そして、現在、Robust Intelligenceとともに、持てる知見と技術を結集してLLMのパフォーマンスを評価し、リスクの除去に取り組んでいます。性能面、安全面の両面で最高品質を追求したNECの日本語LLMをお届けすることで、生成AIを追い風とした各業界でのAI活用をますます加速させ、企業のイノベーションに貢献していきます。
NECでは、お客様のビジネスに貢献するため、業務に寄り添ったLLM提供していますが、LLMの業務活用においては、安全性が論点となります。NECでは、Robust Intelligenceのソリューションを用いて様々な観点からLLMのリスクを検証しています。様々なモデルを扱える自動テストツールによって、品質面・セキュリティ面・倫理面のリスクを検証し、品質改善への示唆を得ることができます。Robust Intelligenceのような第三者による検証は、モデルの改善だけでなく、信頼性の確保にもつながると考えています。これにより、お客様に安全安心なLLMを提供していきます。
保険業界にもデジタル化の波が押し寄せる中、損保ジャパンでは従来の業務を大胆に変革しつつAIなどの技術を積極的に取り入れ、よりお客さまにとって安心・安全・健康な世界の実現を目指しています。AIの活用には常にリスクが伴いますが、私たちはRobust Intelligenceとともにそれらのリスクを適切にコントロールすることで、お客さま、そして世の中により多くの価値を提供していきます。
セブン銀行は、ATMサービスや金融サービスの中核にAIを活用し、社会的な課題やニーズにお客様の視点で取り組んでいます。Robust Intelligenceは、こうしたAI活用において欠かせないモデルの品質を保証するものです。Robust Intelligenceにより、お客様の行動やニーズの変化など、潜在的な変化に対して常にAIの状態を保証することができ、お客様目線のサービスのさらなる飛躍が可能になります。
AIの技術発展とツールの浸透が急速に進み、多くの企業がガバナンスに頭を悩ませるようになりました。AIリスク管理においては戦略・体制面の強化だけではなく、Robust Intelligenceのソリューションのような実効性ある検証ツールの導入が有効です。デロイト トーマツ グループでは、自ら有する規制動向や体制構築・高度化、人材育成に関する知見とRobust Intelligenceのプラットフォームを組み合わせ、適切なAIガバナンスの構築支援を推し進めていきます。
AIは組織の生産性向上や顧客接点の強化、クリエイティブの生成など、様々な領域に非連続なイノベーションをもたらす新技術です。一方で、こうした新技術をお客様に安心・安全にお届けするためには、社会への負の影響を抑止するガバナンスの整備と、客観的かつ妥当性のあるモデル評価が不可欠です。Robust Intelligenceが目指すAI監査の姿は、当社の価値あるサービス提供と、AI活用によるお客様のビジネス成長のための中核要素になると期待しています
Robust Intelligenceプラットフォームを利用することで、かつて手動で行っていた品質管理のプロセスが促進され、より効率的で、頑健で、統一的な開発が可能になりました。Robust Intelligenceのエンジニアの技術的なスキルは素晴らしいです。
