ワールド
2019/8/23 19:00

フェイク文章を見破る! 「眼光紙背に徹すAI」が人間を助ける

天気予報、株価情報などの定型化した記事を制作する「AI記者」や、AIが自動でTwitterに投稿するなど、AIの執筆能力がますます進化している今日。人間が作った文章なのか、それともAIが作った文章なのかを見極める力が私たち人間には求められているのかもしれません。

そこで役立ちそうなのが、AIが作った文章を検出するAIツールです。ハーバード大学の工学・応用科学スクールとIBMリサーチの共同研究チームが開発したそのツールをご紹介しましょう。

 

AIは、膨大な文章を学習して頻繁に出てくる単語の組み合わせを学び予測していきます。例えば、英語の「have」「am」「was」は「I」の後によく出てくるという具合。そんなAIの学習システムを利用して、誤った文章を特定するのではなく、AIが予測しやすい文章を特定する方法をこのチームは開発したのです。

 

「GLTR(Giant Language model Test Room)」と名づけられたこのシステムは、ウェブサイト上から4500万もの文章を読み学習しています。

 

次の単語の「予測しやすさ」がカギ

GTLRにある文章を打ち込むと、それぞれの単語ごとに予測しやすいかどうかを4つの色別に表示します。緑色に色づけされた単語は最も予測しやすい単語でAIが作った可能性が高く、黄色は中程度の予測しやすさ、赤色は予測が難しく、紫色は最も予測が難しいという設定。最初の例では「have」「am」「was」は「I」の後に続きやすく、最も予測しやすい緑色に分類されます。

 

すると、文章のほとんどが緑色で表示されたような場合はAIが作ったものである可能性が高く、逆に緑や黄色など様々な色が混在して表示された場合は人間が作った文章である可能性が高いと予測できるのです。

↑ほとんどの単語が緑色であるため、AIが作った可能性が高い

 

↑様々な色が混在している文章なので、人間が作った可能性が高い

 

この研究者たちはGTLRを、AIが作った文章を自動的に検出するためのものではなく、あくまでも人間の理解や洞察力をサポートするためのツールだと述べています。学生に行われた実験では、ツールを使わなければ、AIが作った文章を学生が見つけだした割合は50%でしたが、このツールを使った場合の検出率は72%になったそう。経験をつんでいけば、検出率はさらに上がっていくものと見られます。

 

このGTLRはウェブ上で無料で公開されており(下にリンクあり)、誰もが気軽に利用できるようになっています。英語での使用になりますが、気になる英文があればGTLRで試してみてはどうでしょうか?

 

99%バレる! Adobeが「偽の顔」を検出するAIツールを開発

TAG
SHARE ON