Microsoftは「Azure Face」の一部の機能提供を停止し、APIへのアクセスを制限すると発表した。音声版ディープフェイクの可能性のある「カスタムニューラル音声」へのアクセスも制限する。同社の「責任あるAIの原則」更新の一環だ。
米Microsoftは6月21日（現地時間）、現在提供しているAI顔解析ツールや音声合成ツールの提供を段階的に停止または制限すると発表した。この決定は、2019年に公開した「責任あるAIの原則」の大規模改定（リンク先はPDF)の一環だ。
まず、「Azure Face」での、性別、年齢、笑顔、ヒゲ、髪の毛、化粧などのID属性を推測する機能を廃止する。
「感情」の定義に関する科学的コンセンサスの欠如や地域によって異なるにもかかわらず一般化する方法の課題、プライバシーについての懸念の高まりなどを受けての決定だ。
さらに、Azure Faceを使うには、利用目的などをMicrosoftに申請することが必要になる。画像や動画の顔を自動的にぼかすなど、いくつかのユースケースではオープンアクセスのままになる。
Azure Face APIへのアクセスはこのように制限するが、Microsoftが取り組んでいる障害者向けAIの開発は継続する。「制御されたシナリオに使う場合は役立つ可能性がある」ため。
また、人間の声のサンプルからその人間の声の合成音声スピーチを作成できる「カスタムニューラル音声」へのアクセスも制限する。利用可能なユースケースを定義し、定義から外れる利用は承認しない。カスタムニューラル音声は、著名人の声で不正なプロパガンダを流すなどの悪用、いわゆる音声版ディープフェイクが懸念されている。
これらの機能は、新規ユーザーへの提供を同日から停止し、既存ユーザーへの提供は2023年6月30日に終了する。
网友评论