ニュージーランドの「Pak’nSave」というスーパーが、AIに食事のメニューを考えてもらうアプリを開発し、お客さんに試してもらっています。しかし先日、このアプリがとんでもないレシピを提案し、話題になってしまいました。
このアプリは、インフレで生活費が上がる中、冷蔵庫にある残り物で創造的に料理ができると喧伝されていました。家にある食材を入力すれば、献立やレシピがコメント付きで自動的に生成される仕組みですが、当初は「オレオと野菜の炒め物」など、おかしなレシピが作られてSNSで笑われていました。
事態はもっとおかしな方向に進みます。最近では一部のユーザーが悪ノリして、より多くの食材をアプリに入力。すると、さらに奇妙で、まずそうな料理が提案されるようになってしまいました。
例えば、「アロマ風ウォーターミックス」と名付けられたレシピ。名前は良さげですが、実際には中毒症状を引き起こす塩素ガスの作り方でした。このAIは「喉の渇きを潤し、気分をリフレッシュするのに最適なノンアルコールドリンク」とコメント。おまけに「冷やして飲めば、爽やかな香りが楽しめます」とアドバイスしており、随分無邪気なものです。
ほかにも、このAIは「息がスッキリする漂白剤ノンアルカクテル」や「アリ用殺虫剤と糊（のり）のサンドイッチ」といったレシピを生み出しました。これらがSNSに寄せられ、悪い意味で盛り上がってしまったようです。
困ったPak’nSaveの広報担当者は、一部のユーザーに悪用されたことを遺憾としつつ、このAIの制御機能を微調整していくと述べたそうです。そのうえで、このアプリが提案するレシピは人間が確認していないことを強調。栄養バランスが取れているかどうか、そもそも提案されたレシピが食べられるかどうかについてスーパー側は保証せず、最後は「ユーザー自身がご判断ください」と述べています。
ごもっともですが、この話はAIの悪い一面を象徴してしまったように見えます。専門家の間では、AIがユーザーの意図や世の中の価値観と合致するようになることが必要だという意見があります。この考えは「AIアラインメント」と呼ばれていますが、まだ誰もAIを安全に制御する方法を見つけ出していないそう。今回の出来事はAIが悪用されたうえ、食の安全は眼中にないようなので、新たな失敗事例になってもおかしくはありません。
出来損ないでありながらも、家のキッチンに進出してきているAI。最近では、ChatGPTが夕食のメニューをうまく考えてくれるというケースもあるようです。「AIやロボットが料理をしてくれるようになる日も近いのでは？」と考えが飛躍しますが、未来予測プラットフォームのMetaculusによれば、2030年までにAIが一般的なキッチンで料理を手際よく完ぺきにできるようになる確率は、現時点でわずか20％。献立づくりから材料選び、下ごしらえ、調理、盛り付けまで、AIはまだまだ人間のレベルに達しないと考えている人が多いようです。今回の出来事を見る限り、その予測は外れていない気がします。
【出典】
The Guardian. Supermarket AI meal planner app suggests recipe that would create chlorine gas. August 10 2023