Robust Intelligenceのビジョンと日本市場の新体制

Robust Intelligence日本事業責任者の平田です。当社はサンフランシスコに本社を置くスタートアップです。昨年より本格的に日本市場に進出し、企業の責任あるAI(Responsible AI)を実現するAIガバナンス・ソリューションを提供しています。4月は多くの日本企業が新しい年度を迎えるタイミングですので、今年度のAI戦略の実現がより一層充実したものとなるように、改めて当社をご紹介させてください。

Robust Intelligenceについて

当社は2019年に米ハーバード大学の研究所で設立されました。当時、ハーバード大学のコンピューターサイエンスの教授だったYaron Singer(ヤロン・シンガー)と同大学に所属していたKojin Oshiba(大柴行人)が取り組んでいたAIの脆弱性に関する研究に端を発します。

YaronとKojnは、AIの活用が世界中で進むにつれて、AIが引き起こすドリフトや差別的な予測、不正な挙動が大きな社会課題となることを想像し、”Eliminate AI Risk”をミッションに起業の準備を進めていました。そこにSequoia Capital(セコイア・キャピタル)で長年テクノロジー業界に携わってきたBillが彼らのミッションに強く賛同し、Robust Intelligenceがスタートすることになりました。そのタイミングで、彼らは活動の拠点をハーバード大学のあるボストンから多くの優秀なエンジニア達が集うサンフランシスコ・シリコンバレーに移しています。現在はTiger Global(タイガーグローバル)やIn-Q-Tel(インキューテル)などの著名なファンドから支援を受け、会社を急成長させています。

‍

当社が取り組む課題

当社の取り組み課題は非常にシンプルです。AI活用を阻む3つのAIリスクを解決することです。

‍

機能・品質面のリスク

データの不備や、ドリフトの発生による推論精度の劣化は時に企業価値を大きく毀損するほどの重大な問題に発展します。

例えば、アメリカ最大手の不動産検索サイトZillowの住宅価格を査定し物件を購入するサービスが、コロナ禍での移住や市況の変化を誤って予測し、多くの住宅を購入時より低い価格で売却してしまった事例があります。その結果、Zillowは330億円の損失を計上して当該サービスから撤退を余儀なくされ、株価は25%も下落しています。

‍

倫理的なリスク

データセットに存在する偏りにより、AIが差別的な出力などを行うリスクも存在します。人種、宗教などのわかりやすいものだけではなく、居住地、職業と年齢、またはそれらを代理するデータは企業の中に多く存在しており、多くの企業がこのリスクに直面する可能性があります。

有名なアップルカードの与信審査の問題だけでなく、最近では大手HR会社などでも意図せずこの問題に直面するケースもあります。単に精度のよいAIモデル使ったサービスを提供するという時代は終わり、今後は企業としてどのように責任あるAIを体現するかが求められていくことは間違いありません。

‍

セキュリティ面のリスク

悪意あるユーザによって望ましくない出力が行われたり、個人情報や機密情報が漏洩するリスクもあります。特に、昨今多くの企業が注目するGPT-4などの大規模言語モデルやそれを活用したChatGPTをめぐっては、目下急発展している分野だからこそ、様々なセキュリティ上の問題が明らかになっています。

すでに、ChatGPTに以前の指示を無視するよう仕向けるなど、悪意のあるユーザが活用できる攻撃方法が発見されています。また、ChatGPTの学習用データにはプライバシーリスクのあるデータが含まれている可能性が高く、実際にイタリア当局がデータ収集の方法などを問題視して使用を一時禁止するなど、議論を呼んでいます。

‍

当社のソリューション

当社は前述した3つのAIリスクを解決するために、継続的なAI品質評価を可能にするエンドツーエンドのプラットフォームを提供しています。

当社の強みは、第三者の視点から、すべてのAIモデルに対して、包括的なAIリスク検証を可能とすることです。企業のAI活用が成熟化するにつれて、多くのツールと運用のサイロ化が進みます。経産省や金融庁のガイドラインが示すように、「責任あるAIの実現」の具体的な施策として、モデルライフサイクルを整備し、第三者検証を導入することは、企業にとって必須の取り組みとなります。この実現を強力にサポートするのが当社です。

‍

日本の新体制について

当社では、日本市場のお客様の「責任あるAIの実現」をより一層の支援を提供するために、新たな体制を構築いたしました。

はじめに、AIリスク評価・技術的な製品活用支援を提供するために日本のMachine Learning Engineerが参画しました。データサイエンスの観点だけでなく、お客様のビジネスの理解に基づいたリスク評価を行います。また、MLパイプラインへのインテグレーションなどのアーキテクチャーに関するアドバイスも積極的に行います。

さらに、各省庁のガイドラインや各国のAIに関する法令規制の動向を調査し、お客様が所属する業界標準に準拠したAポリシーの策定を行うほか、行政やアカデミアとのコミュニケーションを通して産官学の連携を図るため、経済産業省出身のメンバーも参画しています。

こうした新体制によって、AIポリシーの策定からRobust Intelligenceによる「責任あるAI」の実現までを包括的にサポートすることを可能としています。

‍

採用情報

当社では、現在、日本市場を担当するアカウント・エグゼクティブの採用を行っています。この領域に強く関心があり、当社のソリューションを日本市場の企業へ広めることのできる経験者を積極的に採用しております。ご興味のある方は、トップページのコンタクト欄よりお気軽にご連絡ください。お待ちしております！

‍