今年6月、GoogleのAI部門で働くエンジニアが会話型のAI「LaMDA」に自意識や感情が芽生えたと社外にも主張したことで、会社から有給付きの休職処分とされたことをお伝えしました 。
この人物がその後、Googleにクビにされたことが明らかとなりました。
ブレイク・ルモワン（Blake Lemoine）氏はBig Technology newsletterに対して、Googleに解雇されたことを語っています。前回はルモワン氏が米政府の関係者に連絡し、LaMDAの代理人として弁護士を雇ったことが、機密保持契約に違反したとして休職とされていました。
最初からおさらいしておくと、ルモワン氏はLaMDAに対して「あなたには感情や感覚がありますか？」と質問。Yesと答えられた後に「どのような種類の感情を？」「どんなことに喜びや楽しさを感じる？」と会話を重ねた結果、AIに自我や感情が芽生えたと判断したそうです。
その後Google広報担当はテックメディアThe Vergeに声明を出し「我々はブレイクの幸せを願っている」として、クビにしたことを認めたような内容となっています。また「LaMDAは11の異なるレビューを通過しており、わが社も今年初めに、責任を持った開発作業を詳しく説明する研究論文を発表しました」とのこと。そしてGoogleはルモワン氏の主張を「広範囲に」検討し、「全く根拠がない」と判断したそうです。
この見解は、多くのAI専門家や倫理学者も同意しており、今日の技術では感情や自我を持つAIを生み出すことは不可能だと述べています。またルモワン氏ご本人も「自分の主張は科学者ではなく司祭としての経験に基づいている」として、ほぼ技術的な根拠がないことを認めています。
LaMDAはいわゆるチャットボットであり、極論すれば相手の人間に自然な印象を与えるよう、データベースから言葉を探してきて話を合わせるAIです。ルモワン氏も様々な入力を与えて検証しているわけではなく、感情や哀しみ、落ち込みや憂鬱などの言葉を使っており、まるで「AIに感情や自我がある」という結論ありきで誘導しているような印象はあります。
YouTubeチャンネルComputerphileは、LaMDAの仕組みと、感情を持たないAIからルモワン氏を納得させられるような反応を引き出すやり方について、9分間をかけた解説を公開しています。
Googleは声明文で、ルモワン氏をクビにした理由は「製品情報を保護する必要性を含む明確な雇用とデータセキュリティのポリシーに執拗に違反したため」だと説明しています。
人工知能の開発において最先端を走るGoogleの関係者がうかつに「AIに自意識が芽生えた」と発信すれば、全世界のAI研究に対する偏見や、好ましくない影響を及ぼしかねないはず。その一方でGoogleから離れて社内規定からも自由になったルモワン氏が、思う存分AIの自意識を深掘りできるよう祈りたいところです。
Source:Big Technology newsletter
via:The Verge