Facebookがディープフェイクムービーを積極的に削除する姿勢を表明

Facebookが「ディープフェイク」によって生み出されたムービーを積極的に削除する方針を発表しました。

Enforcing Against Manipulated Media - About Facebook

https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/

AIが映像同士を合成して精巧な偽の映像を生み出すディープフェイク技術は、「有名女優のフェイクポルノ」を生み出すなどの問題を引き起こしており、新たな社会問題になりつつあるといえます。

2020年1月6日、Facebookがプラットフォーム上に投稿されたディープフェイクムービーを積極的に削除する方針を発表しました。今後、投稿されたムービーが、「現実には行っていない言動を、さも行ったかのようにミスリードする」かつ「AIないし機械学習による映像同士の合成で生み出された」という2つの条件を満たすときには、当該ムービーはディープフェイクだと判定されるようになります。

Facebookによると、新たな削除規定はパロディや風刺を目的として作成された場合や、「語の省略や語順の変更」を意図して編集した場合には適用されないとのこと。また、たとえディープフェイクでないとしても、ヌード、視覚的な暴力、有権者に対する弾圧、ヘイトスピーチなど、既存のコミュニティ規定に違反している写真・音声・映像は削除対象のままです。

Facebookのコミュニティ規定は以下からチェックできます。