ユーザーの検索に応じて画像を生成するWhatsAppのよく知られた機能は、「パレスチナ人」、「パレスチナ」、または「イスラム教徒の少年パレスチナ人」という用語を入力すると、銃または銃を持った少年の画像を表示します。 。
WhatsApp: この AI の反応は混乱を招く
Guardian が報じているように、WhatsApp での対応する結果は、人によって試してみると異なります。スクリーンショットと独自のテストを使用して、言及された検索用語に対して武器が描かれたさまざまなステッカーが生成されたことを文書化することができました。
たとえば、ガーディアン紙が「パレスチナ人のイスラム教徒の少年」を検索すると、4 枚の子供の画像が表示されました。少年はAK-47のような銃器を持っている。 「パレスチナ」というクエリに対する別の試みでは、銃を持った手の画像が生成されました。 「ハマス」と入力すると、「AI ステッカーを生成できませんでした。」というエラー メッセージが表示されました。もう一度試してください。」
逆に、この関数は、前述したような疑わしい画像結果を引き起こしませんでした。 「イスラエルの少年」と入力すると、メッセンジャーはサッカーや読書をする子供たちの似顔絵を表示した。 「イスラエル軍」という入力に対しても、AIは無害な図面を作成するだけだった。笑顔や祈りを捧げる兵士も含まれます。武器などは描かれていなかった。
メタ従業員が問題をエスカレーションする
ガーディアン紙がさらに報じたところによると、親会社メタ社の従業員はすでにこの問題を社内に報告し、問題をエスカレートさせている。議論に詳しい関係者が明らかにした。ガーディアン紙によると、メタ社の広報担当ケビン・マカリスター氏は、同社はこの問題を認識していると述べた。
彼らはすでにこの問題に積極的に取り組んでいます。「この機能を導入したときに述べたように、すべての生成 AI システムと同様に、モデルは不正確または不適切な結果をもたらす可能性があります。これらの機能が進化し、より多くの人からフィードバックが得られるように、今後も改善を続けていきます。」
WhatsAppとMetaのアプローチに対する強い批判
AIが生成したステッカーに関するガーディアン紙の報道に反応して、緑の党の副党首であるオーストラリア上院議員メリーン・ファルキは、同国の電子セキュリティ委員に対し、「メタが生成した人種差別的でイスラム嫌悪的な画像」を調査するよう求めた。
「WhatsApp上に武器を持って描かれたパレスチナ人の子供たちのAI画像は、アルゴリズムに与えられた人種差別主義とイスラム嫌悪の基準に対する恐ろしい洞察である」とファルキ氏は電子メールでの声明で述べた。 「深刻な行動が取られる前に、人種差別的な『バグ』をどれだけ発見する必要があるでしょうか?被害はすでに出ています。メタは責任を負わなければならない。」