フェイスブック子会社インスタグラムは、ユーザーを惹きつけるためフェイスブック上の広告として「殺す前にレイプしてやる」という言葉でユーザーを脅している画像を使用したとガーディアン紙が報じた。同紙の記者は1年以上前、女性に対する暴力の一例としてこの写真をオンラインネットワーク上に公開した。彼女の妹は、Instagram を訪問する動機として Facebook を見ました。
インスタグラムでのヘイトスピーチに対する予防措置なし
Instagram のアルゴリズムがなぜこの画像を選択したのかは不明です。いくつかの「いいね！」やコメントが寄せられており、それが理由かもしれないとガーディアン紙は推測している。現在では画像に埋め込まれた単語を問題なく分析することが技術的に可能であるため、Instagram はヘイトスピーチを特定し、少なくとも広告のためにフィルタリングするための予防策を講じていないと想定する必要があります。
インスタグラムの広報担当者は、この広告について謝罪し（「誰にもそのような経験をしてほしくない」）、広告は投稿者のフェイスブックの友人にのみ表示されると指摘した。
Facebookのアルゴリズムは長年にわたって批判されてきた
Facebook のアルゴリズムと広告ツールは常に不満を引き起こします。同社は2014年、ユーザーが自動的に生成した年の振り返りに亡くなった娘の一連の画像を含めたことで謝罪しなければならなかった。これは特別なケースではありませんでした。つい先週、米国の雑誌プロパブリカの報道によると、オンラインネットワークがアルゴリズムで計算し提案するカテゴリーを利用して、広告が反ユダヤ主義者に向けられる可能性があることが判明した。