グーグル、ＡＩに非常停止ボタンを開発推進

米グーグルが高度に発達した人工知能が暴走した場合に備えて、「非常停止ボタン」の開発を進めていることが明らかになった。ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に停止・変更できるようにする。

日本経済新聞 2016年6月9日 朝刊 7面(国際)