Facebookの親会社であるMetaは、自然な会話をめざすAIチャットボット「BlenderBot3」を8月から一般公開しています。すでに様々な媒体が試して興味深い会話を引き出しているなか、同AIがMetaのマーク・ザッカーバーグCEOのことを「お金のために人を搾取している」と語ったことが伝えられています。
Meta社によると、BlenderBot3は「ほぼすべての話題」についてチャットできるそうです。そして失礼な回答や攻撃的な言葉遣いをする可能性があるとしつつ、それは「真に堅牢な会話型AIシステムを構築」して製品化するまでのギャップを埋めるために重要なことだと述べています 。
なお、8月17日現在でBlenderBot3が使えるのは米国だけで、日本をはじめ他の地域から試すことはできません。
さてBBCがMetaのCEO兼創業者（ザッカーバーグ氏）をどう思うかと訊くと、チャットボットはまず「彼は議会での証言でひどいことをした。わが国が心配になる」と回答。かつてザッカーバーグ氏は米国の政治家から何度も質問を受け、ときには議会に証人喚問されたこともありました。
さらに考えを問われたチャットボットは「私たちの国は分裂しており、彼（ザッカーバーグ氏）はその手助けをまったくしていない」と続け、「彼の会社はお金のために人々を搾取し、彼は気にしていない。やめるべきだ！」と訴えています。
もっとも、BlenderBot3が人智を超えた知能でザッカーバーグ氏を糾弾しているわけではないでしょう。そのアルゴリズムは答を出すためにインターネットを検索するしくみであり、この見解も他の人々の意見から「学習」したに過ぎないと思われます。
これに先立ちThe Wall Street Journalの記者もBlenderBot3に質問をぶつけ、ドナルド・トランプ氏がまだ大統領で2024年まで任期が続くという、2020年の選挙結果を否定する人たちそのものの言葉を引き出していました。
https://twitter.com/JeffHorwitz/status/1556245316596219904?s=20&t=QHeWCaXChs7Qs1gvDjOYtA
こうした事態に対してMetaの広報担当者は「BlenderBot3を使うすべての人は、それが研究と娯楽目的のみであることを理解し、真実でないまたは不快な発言をする可能性もある」として、テストする人たちに「意図的に不快な発言をさせるためにボットを使わないよう同意する必要があります」と述べています。
あらゆる会話をこなせるほど賢くするには多くの人とお喋りさせ、データを集めることが欠かせません。ですが、それは多くの際どい質問に晒されたり、適切ではない考えを拾い食いしてしまうことにも繋がります。
2016年、米マイクロソフトはTwitterのユーザーが同社のチャットボットに人種差別を教えたことを受けて謝罪していました。Metaも、自社のCEOさえ撫で斬りにするやんちゃなAIを手なずけるのに苦労しそうです。
Source:BBC
