AI トレーニング用データ | Microsoft トラストセンター

Microsoft での AI モデルのトレーニング用データに対する取り組みにおいて、中核となるのが信頼と透明性です。

このページの目的は、当社のアプローチを共有し、トレーニングに使用するデータのカテゴリと、これらのモデルのトレーニングにおける自身のコンテンツの使用方法に関して Web パブリッシャーやコンテンツクリエーターにどのようなコントロールを提供するのかについて、概要を説明することです。

AI モデルのトレーニングとは何ですか?

AI モデルはデータに基づいて予測を行います。トレーニングプロセスの間、AI モデルは、膨大な量のデータ全体から、パターン、相関関係、概念を識別したあと、学習した内容を使用して質問や要求に対する回答を生成します。自然言語、ソフトウェアコード、画像など、特定のクラスの情報における生成機能を最適化するために、さまざまなカテゴリのトレーニングデータを使用してモデルを調整できます。また、たとえば農業、医療、小売などの業界で、組織独自のデータを基にすることもできます。

生成 AI モデルは、元のトレーニングデータを保存、アクセス、再現するようには設計されていません。その代わりに、これらのモデルは新しい表現的作品やコンテンツを生成することを目的としています。

2 人の人物が屋内に立っており、大型モニターでグラフやメトリックが表示されたダッシュボードを確認しています。

Microsoft がどのように多様なデータで生成 AI モデルをトレーニングしているのかをご覧ください

今日の AI システムを構築するうえで、大規模で多様なデータセットは不可欠です。より正確で、さまざまな文化や言語をより的確に表現でき、人の経験と創意工夫の全範囲を学習して適用できるモデルを開発するには、幅広く多様なデータを使用することが重要です。

業界標準の機械学習データセットと Web クロールの組み合わせから、厳選された公開データでトレーニングしています。有料の制限があるソース、当社のポリシーに違反するコンテンツ、当社が公開した Web コントロールを使用してトレーニングからオプトアウトされたソースは除外します。Web クロールで収集されたデータは、適用法および Microsoft の責任ある AI ポリシーに従って、安全性フィルター処理が行われ、児童性的虐待コンテンツ (CSAM) などの違法コンテンツを削除するために処理されます。

Web パブリッシャーが Web クロールからオプトアウトするために使用する robots.txt タグなどの標準を尊重します。Microsoft は、米国通商代表部 (USTR) による「模倣品・海賊版の悪名高き市場」リストに掲載されているドメインのデータは使用しません。
これは、出版社や著作権所有者などとの交渉による取り決めを通じてアクセスするトレーニングデータです。
このデータは、厳選された Microsoft コンシューマーサービスから収集され、Microsoft プライバシーステートメントに従って保護されます。当社の Microsoft Copilot ブログと Copilot FAQ では、Copilot、Bing、Microsoft Start (MSN) のコンシューマーデータをどのように使用して、Copilot のモデルのトレーニングに役立てているかを説明しています。ユーザーがオプトアウトしやすいようにし、ユーザーを特定できる識別子の削除など、プライバシーを保護するための安全対策を講じています。お客様の許可なく、大規模組織のお客様のデータを使用することはありません。
合成データセットでトレーニングすることもあります。これらは、不十分であるか限られた実世界のデータを補完するために特別に要求された出力を生成するために、大規模言語モデル (LLM) にプロンプトを与えることで作成しています。その結果は、人間のレビュー担当者による確認を含め、レビューとフィルター処理が行われ、トレーニングデータセットの一部として十分な品質があることが確認されます。
トレーニングプロセスでは、AI トレーナー、レッドチーム、従業員、外部のアノテーションパートナーから、人によるフィードバックを取り入れています。これには、たとえば、ユーザーのプロンプトに対して品質の高い出力を強化し、エンドユーザーエクスペリエンスを向上させる、人によるフィードバックが含まれます。レッドチームは、有害な要求や安全でない要求に対してもモデルをテストし、そのフィードバックは、モデルの安全性に関する動作を改善するために使用されます。

Microsoft 独自のモデルに加え、OpenAI などのさまざまなモデルを製品やサービスに組み込んでいます。OpenAI でのモデルのトレーニング方法に関する詳細情報。

有益で包括的な AI のために、一部の Web パブリッシャーやコンテンツ所有者は、そのコンテンツの使用方法について、より多くの裁量を求めています。Web パブリッシャーのコントロールは有用ですが、完全な解決策ではありません。当社は、業界、出版社、標準化団体、コンテンツコミュニティの他組織と協力し、誰もが推進し採用できる共通のアプローチを見つけるために取り組んでいます。