Oktaにおける責任あるAIイノベーション
このブログはこちらの英語ブログ（2024年10月23日公開）の参考和訳です。
AIは現在、ハイプサイクルのピークに位置しています。2022年にリリースされたChatGPTを皮切りに、AIは指数関数的に成長しています。ChatGPTのフリーミアムモデルは、その優れた能力によって人々の注目を集めていますが、AIの商業化を推進しているのは参入障壁の低さです。
すぐに利用できる API をベースとした大規模なオープンソースモデルが次々とリリースされています。開発者は、膨大な計算能力やトレーニングデータがなくても、これらのモデルを簡単に適応させて、独自のユースケースに合わせて再配布することができます。役員会議室では、AI を採用するかどうかではなく、いかに責任を持って迅速に採用するかが問われています。
イノベーションはOktaのDNAに深く根付いています。当社は、お客様を保護し、あらゆるテクノロジーを安全に利用できるようにするために、技術の進歩の最前線に立ち続けるために、常に限界に挑戦しています。当社のエンジニアリング業務にAIを採用することは例外ではなく、当社の戦略に不可欠です。OktaのAIに対する価値に基づくアプローチも同様です。
実験から実用化へ：AIイノベーションの速度を安全に高める
私たちは、先駆的なIdentity Threat Protection with Okta AIをはじめとする多数の最先端のAI製品を提供するデータサイエンティストと機械学習（ML）エンジニアの強力なチームを構築しました。私たちのイノベーションの種は、数年前にOktaのエンジニアグループが集まり、Okta AI/MLギルドとなるものを創り出したときに植えられました。
エンジニアリングから戦略、現場チームまで、多様なメンバーで構成される私たちは、Okta社員全員が新しいテクノロジーについて最低限の知識を持つべきだと考えています。なぜなら、新興テクノロジーへの関心の欠如は、イノベーションにとって致命的な欠点となり得るからです。
それ以来、私たちはOkta社員のためのコミュニティを成長させ、AIやAI対応テクノロジーの概念的な理解から実験まで、幅広いトピックについて議論し、そこで得た知識を製品やサービスに反映させてきました。大学、大手テクノロジー企業、スタートアップ企業からAIイノベーションのリーダーを招き、彼らの学びや最高のエンジニアリングの実践を共有してもらっています。
Oktaとお客様のためにセキュリティとコンプライアンスを優先
Oktaのコアバリューである「Drive What’s Next」の一環として、当社はエンジニアに新しいテクノロジーを試すよう奨励しており、それらのテクノロジーを安全に利用する方法に常に焦点を当てています。 当社では、開発者がAIと責任を持って安全に連携できるよう、社内ガイドラインを策定しました。
当社の開発者は、プライバシー、セキュリティ、責任あるイノベーション、顧客データに関するより一般的な原則と義務など、責任あるAIの原則を遵守しています。例えば、明確なガードレールが設置された当社のハッカソンでは、チームは仮説的な方法でAIの潜在能力を効果的に実証することができます。
生成AIのモデル・アズ・ア・サービス・プラットフォームと連携するにあたり、当社は適切なデータ処理の安全対策が確実に実施されるよう努めています。お客様の信頼を獲得し、それを守ることは、新興のAIテクノロジーに対する当社のアプローチにおける最優先事項です。 当社は、製品開発の初期段階においても厳格なリスク管理を実施しています。
責任あるAI開発の基準設定
私たちは、新しいテクノロジーの潜在的な弊害や予期せぬ結果を考慮する責任を共有しています。 Oktaでは、機能的で堅牢なだけでなく、安全でセキュア、かつ包括的なシステムを構築することが最も重要です。
国際的な人権基準に準拠することを目指しています。Oktaのエンジニアリングチーム、人権チーム、エンジニアリングチームが協力し、社内外の人権専門家との連携を通じて、プライバシーなどの人権に対する理解を深め、尊重し、偏見を排除し、コラボレーションによる安全性を確保しています。
Oktaの責任あるAIの原則は、(i) 透明性、(ii) セキュリティ、プライバシー、安全性を通じてお客様の信頼を構築すること、(iii) アカウンタビリティ、(iv) 包括性、公平性、倫理に関する責任あるイノベーションを強調しています。これらの原則は、Oktaの価値観である「Love our customers」「Always secure. Always on.」「Build and own it.」「Drive what's next.」と一致しています。
Okta AIの「次に来るもの
Okta AIは現在開発中であり、お客様の生産性とセキュリティを向上させ、統合と保護のあり方を再定義します。ワークフォースアイデンティティ側でIdentity Threat Protection with Okta AIを、カスタマーアイデンティティ側でAuth for GenAIをそれぞれ有効にすることで、お客様がアプリケーション上のアクティビティを把握し、問題を診断し、さまざまな脅威から他の顧客を保護するのを支援します。
Oktaの電話詐欺対策システムでは、カスタムMLモデルを使用して脅威アクターの試みを特定し、組織を不正行為や過剰な電話料金から保護します。攻撃防御機能では、ボット検出などの機能により、幅広い攻撃に対する防御を提供します。また、流出パスワード検出や疑わしいIPスロットリングなどのセキュリティ機能も備えています。
Log Investigatorは、自然言語処理（NLP）を搭載したAI機能で、Oktaの管理者は日常的な言葉遣いでOktaのシステムログデータについて問い合わせることができます。この機能により、アイデンティティセキュリティの過去のコンテキストに関する洞察が得られ、異常なアクティビティや疑わしいアクティビティの検出が容易になります。
当社のチームは、AIがアイデンティティとアクセス管理に与える影響に関するナレッジベースの拡充に取り組んでいます。Oktane 2024 で発表された、今後リリース予定の「Governance Analyzer with Okta AI」では、デバイスポスチャから関係データ、過去のガバナンス決定に至るまで、Okta の膨大なデータセットを活用し、認可を適切に行うための重要な洞察と推奨を得ることができます。 当社は、責任ある AI の実践とイノベーションに重点を置く業界グループなどのイベントを通じて、当社のリーダーシップと実践を共有し、同業者から学び続けていきます。OktaのResponsible AI Principles、Okta AI、AI at Workに関する当社の研究について、さらに詳しく知ることができます。
以上の内容は、原文（英語）の参考和訳であり、原文と内容に差異がある場合は、原文が優先されます。
