IBMの超コンピュータ「ワトソン」にスラングを教えたら大変なことになった

2013.01.13 15:00 by chaka

コンピュータが知能を持っているか？を判定する「チューリングテスト」では人間と計算機が普通の会話をして、計算機であることが分からなければ合格、ということになっています。そのため、なるべく人間っぽい言葉を覚えさせる必要があるのですがなかなかどうして、難しいことのようです。

IBMの「ワトソン」はクイズ番組「ジェパディ!」で人間に打ち勝つために作られたスーパーコンピューター。クイズに答えるためには出題する人間の言葉を聞き取り、その内容やニュアンスを理解して最適な答を見つける必要があります。

決まった手続きを経ないと動くことすらできないコンピュータにはとても困難な目標だったのですが「ワトソン」はこれを突破。チェスの世界チャンピオンを倒した「ディープ・ブルー」に次ぐ偉業として、当時話題になりました。

異常な速さで回答する「ワトソン」。見た目はかなりモノリス風。
IBM’s Watson supercomputer destroys all humans in Jeopardy – YouTube

それではもっともっと自然に、人間らしい言葉使いができないか？ということでIBMの研究者、エリック・ブラウンさんはどんどん新しい言葉を覚えさせていきます。特にスラング。人間っぽく話すのにはとても重要なもので、ユーザーがスラングの意味をどんどん投稿していくサイト「Urban Dictionary」のデータをどんどん流し込んでいったのですが、しかしこれが思いもよらない失敗を生んでしまったのです。

人間のコミュニケーションというのは非常に曖昧なもので、表情や語調などが意味に大きく影響を与えています。コンピューターはデータとして単語と意味を結びつけることはできても、そうした非言語的な要素を理解できないので普通の言葉と悪口雑言の区別がつきません。

次第に受け答えに品がなくなっていき、時には研究者が投げかける質問に答えず「くそったれ（bullshit）」と返事をするようになる始末。結局、ブラウンさんのチームは「Urban Dictionary」に関するワトソンの記憶を消去することになりました。

現在、ワトソンは学習ルーチンに悪い言葉をフィルタリングするためのアルゴリズムが付け加えられ、コールセンターや病院などでユーザーに質問して症状を診断する問診ロボットとしての研究がすすめられています。悪口は必要のない仕事ですが、疲れても悪態をつけない、というのは可愛そうな気もします。

ソース：Teaching IBM’s Watson the meaning of ‘OMG’ – Fortune Tech